Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает Общежитие для зумеров: что такое TikTok-дома и кто на них зарабатывает

Как 15-секундные ролики о совместном быте зумеров стали новым трендом в сети

Forbes
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Специальная номинация Man of The City by Johnnie: Илья Красильщик Специальная номинация Man of The City by Johnnie: Илья Красильщик

«Яндекс.Лавка» Ильи Красильщика стала ключевым продуктом нашего времени

GQ
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов

Гнезда насекомых могут привести к катастрофе

N+1
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Как говорил Жванецкий. В память о сатирике — отрывок из книги «Разговор отца с сыном…» Как говорил Жванецкий. В память о сатирике — отрывок из книги «Разговор отца с сыном…»

Отрывок из книги главного сатирика страны Михаила Жванецкого

СНОБ
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Ананасы в шампанском — это пульс вечеров! Ананасы в шампанском — это пульс вечеров!

О литературном и гастрономическом вкусе Серебряного века

Наука и жизнь
Вечное возвращение Вечное возвращение

Соцсети не просто владеют нашим настоящим, они распоряжаются нашим прошлым

GQ
«Тексты лишь в малой степени созданы существами из плоти и крови» «Тексты лишь в малой степени созданы существами из плоти и крови»

Филолог Александр Жолковский о преподавании русской литературы в Америке

Полка
Том Сзаки: «Хороших покупок не бывает» Том Сзаки: «Хороших покупок не бывает»

Почему любая покупка вредит природе

РБК
Знакомства без колец: чем закончились самые долгие гражданские браки звезд Знакомства без колец: чем закончились самые долгие гражданские браки звезд

Истории знаменитостей, не заключивших брак, но состоявших в отношениях

Cosmopolitan
7 знаменитых актеров, у которых нет ни одной хорошей роли в кино 7 знаменитых актеров, у которых нет ни одной хорошей роли в кино

Халтура — карьере не помеха

Maxim
Ху из мистер Путин? Ху из мистер Путин?

Отрывок из книги Марии Бутиной «Тюремный дневник»

СНОБ
Робокопы. Полиция будущего Робокопы. Полиция будущего

Роботы на службе у полиции: опасен ли для человека искусственный интеллект?

Playboy
Что такое профайлинг и как он помог найти ангарского маньяка Что такое профайлинг и как он помог найти ангарского маньяка

Глава из книги Саши Сулим «Безлюдное место: Как ловят маньяков в России»

СНОБ
Елки-палки Елки-палки

Что пошло не так с стартапом по озеленению леса Maraquia

Forbes
Евгений Дятлов: «Дар голоса — возможность обрести невыразимую легкость бытия» Евгений Дятлов: «Дар голоса — возможность обрести невыразимую легкость бытия»

Евгений Дятлов — о превратностях актерской судьбы и плохих сценариях

Эксперт
Плащ «казак» мушкетёров короля Плащ «казак» мушкетёров короля

Одежда, по которой мы узнаём королевских мушкетёров в фильмах

Дилетант
Марго Робби Марго Робби

Ни одна из голливудских актрис не будоражит наши чувства так, как Марго Робби

Playboy
В плену чувств: как звуки, вкусы и ароматы определяют наши потребительские желания В плену чувств: как звуки, вкусы и ароматы определяют наши потребительские желания

Глава из книги «Эстетический интеллект» — о работе брендов с ощущениями

Forbes
Деспотичный редактор, ведьма, смертельно больная: лучшие фильмы с Мерил Стрип Деспотичный редактор, ведьма, смертельно больная: лучшие фильмы с Мерил Стрип

Для Мерил Стрип нет роли, которую она не могла бы исполнить

Cosmopolitan
Как живётся в Арктике белым медведям и людям Как живётся в Арктике белым медведям и людям

Каково это — работать на Крайнем Севере, и как ведется изучение белых медведей?

Наука и жизнь
Мифы и легенды о Байкале Мифы и легенды о Байкале

Вспоминаем бурятские легенды и научные факты о суровом «сибирском море»

Культура.РФ
Орели Валонь: Наши очаровательные невестки. Первая глава Орели Валонь: Наши очаровательные невестки. Первая глава

Отрывок из книги Орели Валонь «Наши очаровательные невестки»

СНОБ
«Самое сложное — сохранять рассудок»: если близкий болен шизофренией «Самое сложное — сохранять рассудок»: если близкий болен шизофренией

Сохранить психическое здоровье, когда рядом — человек с ментальным расстройством

Psychologies
Как писать и как не писать сообщения тому, с кем хочешь встречаться Как писать и как не писать сообщения тому, с кем хочешь встречаться

Универсальные советы по переписке, которые гарантируют успешное начало отношений

Maxim
Как тренироваться в мороз Как тренироваться в мороз

Улица — отличное место для тренировки даже зимой

Maxim
Открыть в приложении