Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Марго Робби. Барби XXI века Марго Робби. Барби XXI века

После выхода «Отряда самоубийц» актрисе Марго Робби пришлось нанять охрану

Караван историй
МакSим: МакSим:

Певица МакSим о том, как держать себя в тонусе и что лежит в ее косметичке.

Cosmopolitan

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
40 навыков, которые утратили миллениалы, по мнению ученых (можно паниковать) 40 навыков, которые утратили миллениалы, по мнению ученых (можно паниковать)

Сейчас узнаем, насколько ты беспомощен

Playboy
Проект OCCRP сообщил о виллах окружения Чемезова в Испании Проект OCCRP сообщил о виллах окружения Чемезова в Испании

Новое расследование проекта OCCRP

Forbes
8 причин снять яхту вместо отеля в путешествии (при том, что ты далеко не олигарх) 8 причин снять яхту вместо отеля в путешествии (при том, что ты далеко не олигарх)

Яхтенное путешествие переворачивает привычный мир с ног на голову

Playboy
Hyundai Elantra: Интерес к геометрии Hyundai Elantra: Интерес к геометрии

Что принес рестайлинг седану Hyundai Elantra?

АвтоМир
По заветам Грефа: как российские компании готовятся к цифровизации По заветам Грефа: как российские компании готовятся к цифровизации

Как «Газпром нефть» собирается заработать дополнительные 200 млрд рублей?

Forbes
Мыши оказались способны различать числа Мыши оказались способны различать числа

Учёные установили, что полевые мыши могут отличать не только 5 от 10

Популярная механика
Восточный стиль – это просто: 5 шагов к постижению модного дзена Восточный стиль – это просто: 5 шагов к постижению модного дзена

Пошаговая инструкция по освоению восточного стиля

Cosmopolitan
Специи: антипростудный набор Специи: антипростудный набор

Какие специи помогут справиться с простудой

9 месяцев
«Не зашло». Как выбрать фильм и не пожалеть? «Не зашло». Как выбрать фильм и не пожалеть?

Как выбрать фильм, чтобы не было больно за время, проведенное без удовольствия?

Psychologies
Слова мудрости Слова мудрости

10 меняющих жизнь высказываний, которые одна ученица слышала во время занятий

Yoga Journal
Новорожденный: чего боятся родители? Новорожденный: чего боятся родители?

Что нормально для взрослого, может быть патологией для малыша, и наоборот

9 месяцев
Бран Старк рассказывает, чем закончится «Игра престолов» Бран Старк рассказывает, чем закончится «Игра престолов»

Айзек Хемпстед-Райт рассказал о том, как проходили съемки «Игры престолов»

GQ
8 мест, где запрещено фотографировать, но люди все равно фоткаются 8 мест, где запрещено фотографировать, но люди все равно фоткаются

Спрячь свой инстаграм подальше от неприятностей

Playboy
«На самом деле наша галактика очень пыльная» «На самом деле наша галактика очень пыльная»

Почему во вселенной так много порядка, а на Земле так мало?

Огонёк
Как сохранить здоровый мозг вопреки возрасту Как сохранить здоровый мозг вопреки возрасту

Сохранить острый ум, несмотря на возраст, вполне реально

Psychologies
Волонтерство как вторая работа: зачем оно вам? Волонтерство как вторая работа: зачем оно вам?

В России насчитывается около 7 миллионов волонтеров

Psychologies
Крестовый поход «АндерСона»: зачем детские кафе воюют с Роспотребнадзором Крестовый поход «АндерСона»: зачем детские кафе воюют с Роспотребнадзором

Основательница сети «АндерСон» хочет взыскать с Роспотребнадзора 7 млн рублей

Forbes
Хайлайтер под прицелом: Йоханссон и другие звезды, переборщившие с сиянием Хайлайтер под прицелом: Йоханссон и другие звезды, переборщившие с сиянием

Звезды с очень ярким хайлайтером

Cosmopolitan
Москва следам поверит Москва следам поверит

Шесть необычных маршрутов, раскрывающих Москву с неожиданных сторон

GQ
Одной левой Одной левой

О жизни без ограничений

Огонёк
Где создать стартап на миллиард: сравнение лучших акселераторов мира Где создать стартап на миллиард: сравнение лучших акселераторов мира

Какой из ведущих мировых акселераторов лучше подходит для молодой компании?

Forbes
Грудь Ани Лорак, изнасилование и другие громкие скандалы в «Что? Где? Когда?» Грудь Ани Лорак, изнасилование и другие громкие скандалы в «Что? Где? Когда?»

Многие недооценивают программу «Что? Где? Когда?», считая ее скучной

Cosmopolitan
Михаил Башкатов «Что я делаю лучше всего? Сыновей» Михаил Башкатов «Что я делаю лучше всего? Сыновей»

Актер признался, что обожает помедитировать, когда моет посуду

StarHit
Нас и там неплохо кормят Нас и там неплохо кормят

13 отличных российских ресторанов, куда надо зайти на чужбине

GQ
Селфи на миллиард: как Кайли Дженнер стала самым молодым участником рейтинга Forbes в истории Селфи на миллиард: как Кайли Дженнер стала самым молодым участником рейтинга Forbes в истории

21-летняя Кайли Дженнер стала обладательницей миллиардного состояния

Forbes
Как узнать, какая видеокарта на ноутбуке Как узнать, какая видеокарта на ноутбуке

Наши инструкции помогут определить, какая видеокарта стоит на ноутбуке

CHIP
6 признаков, что твоя девушка тебя слишком сильно контролирует (или ты ее) 6 признаков, что твоя девушка тебя слишком сильно контролирует (или ты ее)

Советуем не допускать такого в отношениях

Playboy
Открыть в приложении