Что такое «хорошо» и что такое «плохо». Этические подходы к ИИ – с Востока, Запада и изнутри
Искусственный интеллект быстро перешел из фантастики дальнего прицела в фантастику ближнего, а оттуда незаметно перекочевал в новости сегодняшнего дня. Даже если вы игнорируете его существование, он не станет игнорировать ваше. И как всякое явление, взаимодействующее с человечеством, ИИ начал рассматриваться в поле этических смыслов
Национальные стратегии ИИ в том или ином виде есть более чем в тридцати странах, включая Китай, Корею, Канаду, США, Великобританию, Францию и других. Все они являются попытками определить, что мы сегодня называем «искусственным интеллектом», а также что есть «хорошо» и что «плохо» в этой области.
Из серьезных игроков на этом рынке выступают Россия, США и Китай. В ближайшее время они будут главными трендсеттерами в области ИИ, поэтому интересно посмотреть, как именно они видят его этику. Тем более, что подходы Запада и Востока заметно отличаются.
А прокомментировать их мы попросим сам Искусственный Интеллект!
С другой стороны этики
Айзек Азимов рассмотрел проблему машинной этики в 1950-х годах в своей серии рассказов «Я, робот». Но сейчас есть возможность взглянуть на проблему с другой стороны – рассмотреть человеческую этику с позиции искусственного интеллекта.
Недавно мировой исследовательский центр проблем ИИ – Allen Institute for Artificial Intelligence – открыл доступ к «этическому интеллекту». Любой желающий может зайти на сайт и задать вопрос ИИ. Правда, перед этим придется подтвердить, что вы не обидитесь на его ответы. Это окно пришлось поставить после того, как проект захейтили СМИ и соцсети – «этический ИИ» проявил расистские, нетолерантные и даже местами фашистские взгляды на человечество. Доктор Бретт Карлан, исследователь когнитивной науки и искусственного интеллекта в Университете Питтсбурга, даже заявил, что «алгоритм сделан морально отвратительным и социально опасным». В ответ команда создателей сообщила, что «это отражение нашей собственной этики и морали, ИИ просто догадывается, что может подумать средний американец в данной ситуации».
Система прошла обучение на куче сетевых пабликов, включая откровенно провокационные, такие как “Am I the Asshole?”, чтобы определить, что считают хорошим и плохим сами люди. Сами создатели определяют его как «Банк норм здравого смысла, в котором собраны 1,7 миллионов примеров этических суждений людей по широкому спектру повседневных ситуаций».
Общество посмотрело на себя в зеркало ИИ, и теперь «пеняет, что рожа крива», хотя его характеризует «способность выносить этические суждения, учитывая взаимодействие между конкурирующими ценностями и их обоснованием в разных контекстах».