Стремительное развитие технологий ставит человечество перед вопросом изменения этических норм. Можно ли дать машинам право на убийство? Насколько "нормальной" является привязанность человека к искусственному интеллекту? Можно ли пожертвовать этическими нормами во имя прогресса? Об этом Петр Левич расскажет слушателям конференции "Дроны и будущее" 13 августа в "Сокольниках" в рамках Drone Expo Show.

Петр Левич - директор департамента взаимодействия технологий и общества МТИ, сооснователь Future Foundation
Ранее входил в рабочую группу по технологической этике Робототехнического центра "Сколково".

- Здравствуйте, Петр. Можете ли вы сказать, какие масштабные изменения принесет<> развитие робототехники в будущую жизнь?

- Робототехника повлияет на жизнь в значительной степени. В сегодняшнем мире существует множество профессий, не требующих серьезных умственных усилий и квалификации. В ближайшем будущем большую часть такой работы будут выполнять роботы. Другой вопрос, насколько мы хотим жить в таком обществе.

- Когда мы сможем увидеть это "ближайшее будущее"? Когда произойдут ощутимые изменения использования роботов в повседневной жизни?

- Они происходят уже сейчас, просто пока не заметны большинству. Например, завод в Китае заменил несколько десятков тысяч человек роботами. Непосредственно на нас это не сказалось, но постепенно в процесс будет вовлекаться все больше людей. При этом большая часть профессий, в которых человека заменит робот, будет приходиться даже не на рабочих, а на менеджерские и управленческие должности. "Вытеснять" их будут не роботы, а IT-системы. Мы видим начало этого процесса уже сейчас. Это в первую очередь касается менеджеров, сотрудников call-центров. Скоро в большинстве инновационных компаниях их заменят IT-системами.

- В качестве темы своего выступления на Drone Expo Вы выбрали этические проблемы робототехники. Чем интересен этот вопрос?

- Этические вопросы, которые рассматривает данная тема, касаются совершенно разных областей. Так, перед важным этическим выбором человечество ставит генетику. Вспомним пример редактирования генома человека. Первыми подобный эксперимент провели китайцы, и сначала это не было принято этическими комиссиями почти всех стран. Но спустя 8 месяцев Великобритания разрешила у себя этот эксперимент, просто потому, что поняла: или она проигрывает технологическую гонку в стратегически важном направлении, или изменяет нормы этики - и она выбрала второе. Я думаю, что этические запреты в мире будут падать по принципу домино. Что касается робототехники, много этических вопросов возникает о секс-роботах, наших взаимоотношениях с искусственным интеллектом - даже не сексуальных, а эмоциональных. Эта ситуация хорошо показана в фильме "Она", где персонажи испытывают привязанность к носителям искусственного интеллекта.

- Распространение дронов связано с появлением новых этических норм?

- Принципиальных вопросов два: privacy и использование боевых дронов. Они сейчас очень активно обсуждаются. Начнем с privacy - вопроса неприкосновенности частной жизни. Он возникает из-за возможности незаконной съемки с помощью камеры, встроенной в дрон. Сейчас, если какой-то человек снимает вас обычной камерой в окно, он может быть обвинен в нарушении права на частную жизнь и осужден. В чем проблема с дронами? Непонятно, кому он принадлежит и кто им управляет. Под страхом уголовной ответственности человек вряд ли пойдет с камерой к окну, но он может использовать дрон для съемок, потому что в такой ситуации он не рискует своей жизнью и свободой. В связи с нарушением privacy дронами уже было инициировано несколько судебных разбирательств. Второй вопрос - это военное применение дронов: могут ли люди делегировать им право на убийство. Это вопрос о том, можно ли доверить принятие решения об убийстве не оператору дрона, а самому БПЛА. Многие известные люди, в частности Стивен Хокинг, подписались под открытым письмом с требованием запретить программам (и дронам) право на убийство. Но рано или поздно мы все равно к этому придем.

- Как скоро это может произойти?

- Гораздо быстрее, чем нам кажется. Расскажу реальный кейс. В Пакистане американские спецслужбы следили за террористами через паттерны телефонных разговоров. У них был доступ к базе мобильных операторов, и они знали, кто какие SMS отправляет, откуда, как часто телефон подключается к той или иной соте и так далее. Обученная нейронная сеть вычленяла из этой big data паттерны террористической активности, а потом вылетали дроны и уничтожали эти цели. То есть дроны сами не решали, кого уничтожить, - им давал команду человек, но тот, в свою очередь, ориентировался на указания нейронной сети. А с нейронными сетями странная ситуация: невозможно предсказать, как они будут работать, можно только постфактум посмотреть протоколы их работы. Человек не может проверить результаты, потому что не в состоянии проанализировать объем big data. То есть люди фактически делегировали право решать, убивать или нет, программе, а дроны заканчивали дело.

- Ваше выступление на Drone Expo будет посвящено рассмотрению этих вопросов?

- В том числе. В своем докладе я рассмотрю то, как технологии меняют классические каноны этики. Мы поговорим об этических выборах, с которыми нам предстоит столкнуться, и о трудностях, которые встанут перед человечеством, если не будут преодолены технологические барьеры....