Smile Expo
27 июня 2016, 10:09
Дроны и этика будущего
Можно ли дать машинам право на убийство? Можно ли пожертвовать этическими нормами во имя прогресса? Об этом Петр Левич расскажет слушателям конференции "Дроны и будущее" 13 августа в "Сокольниках" в рамках Drone Expo Show
Петр Левич - директор департамента взаимодействия технологий и общества МТИ, сооснователь Future Foundation
Ранее входил в рабочую группу по технологической этике Робототехнического центра "Сколково".
- Здравствуйте, Петр. Можете ли вы сказать, какие масштабные изменения принесет<> развитие робототехники в будущую жизнь?
- Робототехника повлияет на жизнь в значительной степени. В сегодняшнем мире существует множество профессий, не требующих серьезных умственных усилий и квалификации. В ближайшем будущем большую часть такой работы будут выполнять роботы. Другой вопрос, насколько мы хотим жить в таком обществе.
- Когда мы сможем увидеть это "ближайшее будущее"? Когда произойдут ощутимые изменения использования роботов в повседневной жизни?
- Они происходят уже сейчас, просто пока не заметны большинству. Например, завод в Китае заменил несколько десятков тысяч человек роботами. Непосредственно на нас это не сказалось, но постепенно в процесс будет вовлекаться все больше людей. При этом большая часть профессий, в которых человека заменит робот, будет приходиться даже не на рабочих, а на менеджерские и управленческие должности. "Вытеснять" их будут не роботы, а IT-системы. Мы видим начало этого процесса уже сейчас. Это в первую очередь касается менеджеров, сотрудников call-центров. Скоро в большинстве инновационных компаниях их заменят IT-системами.
- В качестве темы своего выступления на Drone Expo Вы выбрали этические проблемы робототехники. Чем интересен этот вопрос?
- Этические вопросы, которые рассматривает данная тема, касаются совершенно разных областей. Так, перед важным этическим выбором человечество ставит генетику. Вспомним пример редактирования генома человека. Первыми подобный эксперимент провели китайцы, и сначала это не было принято этическими комиссиями почти всех стран. Но спустя 8 месяцев Великобритания разрешила у себя этот эксперимент, просто потому, что поняла: или она проигрывает технологическую гонку в стратегически важном направлении, или изменяет нормы этики - и она выбрала второе. Я думаю, что этические запреты в мире будут падать по принципу домино. Что касается робототехники, много этических вопросов возникает о секс-роботах, наших взаимоотношениях с искусственным интеллектом - даже не сексуальных, а эмоциональных. Эта ситуация хорошо показана в фильме "Она", где персонажи испытывают привязанность к носителям искусственного интеллекта.
- Распространение дронов связано с появлением новых этических норм?
- Принципиальных вопросов два: privacy и использование боевых дронов. Они сейчас очень активно обсуждаются. Начнем с privacy - вопроса неприкосновенности частной жизни. Он возникает из-за возможности незаконной съемки с помощью камеры, встроенной в дрон. Сейчас, если какой-то человек снимает вас обычной камерой в окно, он может быть обвинен в нарушении права на частную жизнь и осужден. В чем проблема с дронами? Непонятно, кому он принадлежит и кто им управляет. Под страхом уголовной ответственности человек вряд ли пойдет с камерой к окну, но он может использовать дрон для съемок, потому что в такой ситуации он не рискует своей жизнью и свободой. В связи с нарушением privacy дронами уже было инициировано несколько судебных разбирательств. Второй вопрос - это военное применение дронов: могут ли люди делегировать им право на убийство. Это вопрос о том, можно ли доверить принятие решения об убийстве не оператору дрона, а самому БПЛА. Многие известные люди, в частности Стивен Хокинг, подписались под открытым письмом с требованием запретить программам (и дронам) право на убийство. Но рано или поздно мы все равно к этому придем.
- Как скоро это может произойти?
- Гораздо быстрее, чем нам кажется. Расскажу реальный кейс. В Пакистане американские спецслужбы следили за террористами через паттерны телефонных разговоров. У них был доступ к базе мобильных операторов, и они знали, кто какие SMS отправляет, откуда, как часто телефон подключается к той или иной соте и так далее. Обученная нейронная сеть вычленяла из этой big data паттерны террористической активности, а потом вылетали дроны и уничтожали эти цели. То есть дроны сами не решали, кого уничтожить, - им давал команду человек, но тот, в свою очередь, ориентировался на указания нейронной сети. А с нейронными сетями странная ситуация: невозможно предсказать, как они будут работать, можно только постфактум посмотреть протоколы их работы. Человек не может проверить результаты, потому что не в состоянии проанализировать объем big data. То есть люди фактически делегировали право решать, убивать или нет, программе, а дроны заканчивали дело.
- Ваше выступление на Drone Expo будет посвящено рассмотрению этих вопросов?
- В том числе. В своем докладе я рассмотрю то, как технологии меняют классические каноны этики. Мы поговорим об этических выборах, с которыми нам предстоит столкнуться, и о трудностях, которые встанут перед человечеством, если не будут преодолены технологические барьеры....
Авторские права на данный материал принадлежат «Smile Expo». Цель включения данного материала в дайджест - сбор максимального количества публикаций в СМИ и сообщений компаний по авиационной тематике. Агентство «АвиаПорт» не гарантирует достоверность, точность, полноту и качество данного материала.
Поделиться
Май 2, 2024
Аэрофлот с 1 мая открывает продажу субсидируемых билетов для жителей Калининградской области
Май 2, 2024
Авиакомпания FLYONE ARMENIA начала выполнение полетов по направлению Ереван - Ницца - Ереван
Май 2, 2024
FlyArystan в мае-июне запустит полеты из Актау и Астаны в Баку
Май 2, 2024
IATA сообщает о росте мирового спроса на пассажирские авиаперевозки в марте на 13,8%