Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Реагируют на определенные голоса людей и боятся развевающейся на ветру ткани: 50 интересных фактов о жизни волков Реагируют на определенные голоса людей и боятся развевающейся на ветру ткани: 50 интересных фактов о жизни волков

Увлекательная подборка необычных фактов о волках

ТехИнсайдер
Правда ли, что выражение «Если у них нет хлеба, пусть едят пирожные!» принадлежит Марии-Антуанетте? Правда ли, что выражение «Если у них нет хлеба, пусть едят пирожные!» принадлежит Марии-Антуанетте?

Мария-Антуанетта была просто создана для того, чтобы о ней сплетничать

Maxim
Как добавить поддержку беспроводной зарядки любому смартфону Как добавить поддержку беспроводной зарядки любому смартфону

Как настроить функцию беспроводной зарядки в любом телефоне?

ТехИнсайдер
Северная формула счастья Северная формула счастья

Как в Исландии, Дании и Швеции научились радоваться простым вещам?

Лиза
Из СССР — вокруг света: как Юрий Сенкевич прожил жизнь-путешествие Из СССР — вокруг света: как Юрий Сенкевич прожил жизнь-путешествие

Юрий Сенкевич и его жизнь, полная приключений

Psychologies
История одной фотографии: первый секс-шоп в ГДР, 1989 История одной фотографии: первый секс-шоп в ГДР, 1989

Первый секс-шоп ГДР принадлежал старушке-каскадерше по имени Беате Узе

Maxim
Мумий будет еще много: убитый стрелой в спину 5300-летний Эци рассказал новую историю Мумий будет еще много: убитый стрелой в спину 5300-летний Эци рассказал новую историю

Смерть и приключения ледяного человека из Альп

Вокруг света
Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности

Если просто, это книга о надежде — надежде на тепло и понимание

Правила жизни
«Жизнь в средневековом замке»: отрывок из книги, которой вдохновлялся автор «Игры престолов» «Жизнь в средневековом замке»: отрывок из книги, которой вдохновлялся автор «Игры престолов»

Отрывок из книги, описывающей повседневность человека эпоха Средневековья

СНОБ
Капитал, клещи и другие страшные вещи Капитал, клещи и другие страшные вещи

«Дурной глаз»: социально-экономический хоррор с Евой Грин

Weekend
Одиночество как табу: почему фильм «Эмили» отказывает своей героине в независимости Одиночество как табу: почему фильм «Эмили» отказывает своей героине в независимости

Каким получился биографический фильм «Эмили» об авторе «Грозового перевала»?

Forbes
Секс снится мужчинам чаще, чем женщинам: и еще 6 неожиданных фактов о сне Секс снится мужчинам чаще, чем женщинам: и еще 6 неожиданных фактов о сне

Что вы знаете о сне как таковом?

ТехИнсайдер
Не теряйте меня (и себя) Не теряйте меня (и себя)

События и испытания последних лет лишь подливают масла в огонь нашей тревожности

Psychologies
Ицхак Адизес — Forbes: «В истории России никогда не было демократии» Ицхак Адизес — Forbes: «В истории России никогда не было демократии»

Бизнес-консультант Ицхак Адизес — о возможностях демократии в России

Forbes
В египетском некрополе нашли мумии с золотыми языками: вы поразитесь! В египетском некрополе нашли мумии с золотыми языками: вы поразитесь!

В некрополе Кувайсна ученые нашли непростых мумий

ТехИнсайдер
Спать любят все, но кто-то - больше: топ-5 животных, впадающих в спячку Спать любят все, но кто-то - больше: топ-5 животных, впадающих в спячку

Спячка — это не просто глубокий сон, это скорее «маленькая смерть»

ТехИнсайдер
Ксенонотерапия Ксенонотерапия

Зачем дышать газом и может ли это быть опасно

Лиза
Серая орешковая соня Серая орешковая соня

Кем умилялись читатели в 1861 году

Вокруг света
Насколько безопасно скачивать с торрентов? Насколько безопасно скачивать с торрентов?

Насколько можно доверять торрентам?

CHIP
Китайские ученые: люди, которые считают себя привлекательными, чаще ведут себя эгоистично Китайские ученые: люди, которые считают себя привлекательными, чаще ведут себя эгоистично

Люди, которые считают себя привлекательными, готовы жертвовать другими

Inc.
Москва, Питер и Королевская Гавань из «Игры престолов». Какие карты создают геймеры в Minecraft Москва, Питер и Королевская Гавань из «Игры престолов». Какие карты создают геймеры в Minecraft

Самые известные постройки в Minecraft

СНОБ
«Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies «Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies

Что психология дает самим психологам?

Psychologies
10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки 10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки

Добавьте 9% уксус в список необходимых средств для стирки!

ТехИнсайдер
14 признаков настоящей дружбы: проверьте себя 14 признаков настоящей дружбы: проверьте себя

Ученые попытались разложить дружбу на составляющие

Psychologies
Вон из России! Вон из России!

Осенью 1922-го от причалов отходили не только корабли с белогвардейцами

Дилетант
Похудеть без тренировок и диет: проверенные способы избавиться от лишнего веса Похудеть без тренировок и диет: проверенные способы избавиться от лишнего веса

Наука знает эффективные способы похудеть

ТехИнсайдер
Почему мужчины не ходят к врачам: правда и мифы о психосоматике Почему мужчины не ходят к врачам: правда и мифы о психосоматике

Что такое биопсихосоциальная модель?

Вокруг света
Главные конкуренты нового «Москвича». Список моделей и цены Главные конкуренты нового «Москвича». Список моделей и цены

Пять китайских кроссоверов, которые будут играть на одном поле с «Москвичом»

РБК
«Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости «Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости

Евгений Чебатков — комик, который успевает озвучивать аудиокниги и писать рэп

Правила жизни
10 малоизвестных польских автопроизводителей: машины, которые обожали в СССР 10 малоизвестных польских автопроизводителей: машины, которые обожали в СССР

Что сейчас происходит на польском автопроме

ТехИнсайдер
Открыть в приложении