Этика новых технологий

Почему она важна

Вопросы этики в индустрии новых технологий уже давно решаются на мировом уровне (на саммитах ООН) и во внутренних комитетах IT-компаний, в первую очередь таких крупных, как Google, Microsoft и Apple. Это и неудивительно – прогресс (особенно в области искусственного интеллекта) опережает изменение социальных норм, более консервативных по своей природе.

С широким распространением современных технологий стали понятны вызванные ими противоречия. Очевидно, что ни Интернет, ни медиа, ни коммуникационные и биотехнологии не могут обходиться без этического регулирования.

Больше всего споров кипит вокруг искусственного интеллекта. Какая степень свободы должна быть доступна машине? Продвинутый компьютер или независимый разум, обладающий выбором? Мечта о разумном существе, созданном руками человека, пронеслась сквозь века. От чертежей механического рыцаря Леонардо да Винчи до печального романа о Франкенштейне и ответственности создателя, до роботов, самостоятельно проводящих сложнейшие операции. Многие ученые придерживаются позиции Джона Сёрла: ИИ может выполнять ту или иную функцию, но осознавать и понимать её он не может. Илон Маск всерьёз опасается, что роботы могут развязать информационную войну и, поскольку они будут совершеннее людей, заменят их на всех рабочих местах. По мнению Маска, ИИ представляют серьёзную угрозу для человеческой цивилизации. Он был среди представителей IT-компаний из 26 стран, подписавших открытое письмо ООН о запрете на разработку боевых роботов. Его поддерживают Билл Гейтс и российский «технический» миллиардер – Евгений Касперский. Марк Цукерберг в отличие от них настроен более оптимистично, он считает, что развитие искусственного интеллекта сделает мир только лучше. А сторонники когнитивистики ищут возможности перенести сознание человека не небиологический носитель.

Возможно, что опасения Илона Маска небезосновательны. Исторический опыт показывает, что внедрение новых технологий может обернуться трагедией. Когда в Англии произошла промышленная революция и тяжелый труд заменили машины, которыми могли управлять женщины и дети, страна наводнилась небывалым количеством обнищавших ремесленников и кустарников. У мужчин не было работы, детей и женщин нещадно эксплуатировали и платили им гроши. Люди разрушали ненавистные машины и жгли фабрики. Но, в конце концов, машинное производство победило.

Сходство роботов с людьми вызывает тревогу. Одинокие люди могут наделить их человеческими качествами и эмоциями, даже влюбиться. В Японии, где в мегаполисах высокие технологии соседствуют с дефицитом человеческого тепла, подобная угроза вполне реальна. Однако чаще всего нечто, наделенное разумом, но не похожее на человека вызывает подсознательный страх и отвращение. Срабатывает эффект «зловещей долины». Человек привык, что он единственное на планете существо, способное мыслить, фантазировать, анализировать. Поэтому искусственный интеллект видится многим настоящим врагом человечеству.

Но и сейчас простейшие нейросети с машинным обучением выдают немало этических ошибок. В 2018 году были зафиксированы такие:

• на запрос афроамериканских имен предлагают проверить криминальное прошлое;
• Google темнокожих людей определил как обезьян;
• HP: не распознает азиатский тип лица;
• технология speech-to-text в YouTube не понимала женский голос;
• ЛГБТ литература попадает в категорию 18+ в интернет-магазинах;

Беспокоит и то, что такие позитивные концепции, как «умный дом» и «умный город» могут превратиться в систему слежки. Увы, антиутопия в духе Оруэлла претворяется в реальность. В Китае миллионы камер следят за городскими жителями, а на основе их наблюдений составляется «рейтинг общественной надежности». Чем не Большой Брат?

Этической дилеммой представляется и сбор персональных данных. Не секрет, что гаджеты знают о нас больше, чем мы сами. Бывший сотрудник Google Сет Стивенс-Давидовиц даже написал книгу о секретах, поверяемых строке поиска.

Развитие науки (особенно медицины) вызывало опасения на протяжении многих веков. Это был и страх церкви потерять свой авторитет. Из-за этого запрещали вскрытие трупов и как еретиков сожгли Джордано Бруно, Николая Коперника и Галилео Галилея.

Сегодня медицинские технологии намного опережают этику. Философы спорят: этично ли выращивать свиней как доноров для человека? Клонировать людей (вспомним роман Кадзуо Исигуро «Не отпускай меня» о клонах, которых использовали для пересадки органов)? И до какой степени можно производить замены, чтобы человек остался человеком? Этично ли перенести сознание на чужое тело?

Прогресс в области сознания значительный. Еще в 2017 году был разработан проект Илона Маска Neuralink: некий симбиоз человеческого мозга и ИИ, позволяющий парализованным людям управлять компьютером и телефоном. Проект был успешно презентован на свиньях в 2020 году, а в 2021-м было дано разрешение на опыты с людьми. Конечная цель – усовершенствование людей (и лечение серьёзных заболеваний головного мозга). Как сказал Илон Маск: «Мы сможем превзойти мощность человеческого мозга уже к 2030 году».

Однако превосходство людей с протезами или чипами может вызвать неприязнь или страх. Ноги Оскара Писториуса, бегуна из ЮАР заменены высокотехнологичными протезами из углепластика. После исследования профессора Герт-Петера Брюггемана общественность была возмущена, и спортсмена отстранили от соревнований. Профессор выяснил, что протезы дают спортсмену преимущество над соперниками. И, хотя позже выяснилось, что это не так, предрассудок остался предрассудком.

По-прежнему остается острым вопрос об эвтаназии. В 2017 году в Австралии представили машину-капсулу Sarco, позволяющую безболезненно покинуть этот мир. Это устройство работает на жидком азоте и усыпляет человека всего за пару минут. Причем его легко отпечатать на 3D-принтере. Но осталось невыясненным: имеет ли эта устрашающая машина право на существование?

Регулирование генома также стало этической проблемой. Когда китайский биофизик Хэ Цзянькуй внес мутацию в геном девочек-близняшек, чтобы защитить их от ВИЧ в эмбриональном состоянии, разразился скандал. Власти Китая признали это нарушением медицинской этики стран всего мира.

В решении техноэтических вопросов существует несколько позиций:

• субъектный релятивизм (правильно то, что выгодно отдельному человеку);
• культурный релятивизм (то же самое, но для отдельной социальной, религиозной или этнической группы);
• кантианство (жизнь каждого человека важна, и каждый человек, пользуясь новыми технологиями, должен сознавать свой долг перед жизнью и удобства других людей);
• утилитаризм (все то благо, что принесет счастье большому количеству людей);
• система социального контракта (все новые технологии должны подчиняться закону, но в жизни существует множество неформальных правил, и законы не учитывают всех нюансов, поэтому эта позиция часто критикуется);
• концепция устойчивого развития (акцент на экологию);
• теория социальной справедливости (новые технологии не должны усугублять неравенство разных групп общества).

Новые технологии не могут быть неэтичными сами по себе (во всяком случае, пока не создан обладающий свободой воли ИИ), все зависит от того как и зачем их применять. Чтобы их развитие шло гармонично и не противоречило нормам морали необходимо привлечение разных экспертов к их созданию. Только благодаря разнообразному экспертному и исследовательскому мнению может быть разработаны этичные, безопасные и полезные устройства.

Автор: Варвара Филашкина