Илья Сачков — про ИИ и конфликт созидательного и разрушительного начал
Основатель компании по обеспечению кибербезопасности Group-IB Илья Сачков в колонке для Forbes рассказал, какие риски несет искусственный интеллект для современного общества, какие проблемы решают современные технологии и возможно ли регулировать развитие и применение ИИ
Читаю в своей изоляции (в июле Мосгорсуд приговорил основателя Group-IB (сейчас F.A.С.С.T.) к 14 годам колонии строгого режима по делу о госизмене — Forbes) все больше отчетов аналитиков, где вижу одну и тоже фразу: «искусственный интеллект и другие технологии усилят стратегическую нестабильность». И, так как я, в каком-то смысле, не нахожусь на вашей «вольной» стреле Зенона («Стрела Зенона» — одна из апорий (рассуждений) древнегреческого философа Зенона Элейского о невозможности движения), и моя позиция наблюдателя застыла, что позволяет без суеты обобщить большой объем информации, индикаторов и, скажем, символов времени, эпохи, то позволю несколько инженерных и несколько совсем не инженерных тезисов в отношении ИИ.
Тезис №1
С начала эры интернета я не видел технологии, к которой человечество стремится так сильно и так сломя голову, но при этом, по большому счету, не может ответить, зачем. Все тезисы «сильной» помощи человеку являются канемановской когнитивной уловкой и тонут в море, нет, океане целей военного, рекламного, отвлекающего характера. Билл Гейтс может сколько угодно вещать про доступность образования и уменьшение неравенства, я лично вижу уничтожение когнитивных способностей (читать, писать, анализировать, думать) для человека и множество других рисков.
По-сути, ИИ атрофирует волю, в том числе, к творчеству. Я, конечно, понимаю, что думать — это не для всех и сложно. Интернет и так давно сделал образование доступным. Однако, большинство не использует интернет для образования — достаточно посмотреть на статистику потребляемого контента и трафика. ИИ сделает развлекательный контент более развлекательным, как и игры, порно и прочие аддиктивные и в целом деструктивные в плане эволюции сознания вещи. Преимущества получит абсолютное меньшинство (и умные это хорошо понимают — стоит вспомнить про «церковь ИИ» и идеи, которые за ней стояли).
Я вижу, что ИИ уже не контролируется человеком и понимаю, что до настоящего ИИ далеко, но очень хорошо чувствую, что человечество уже сейчас становится лишь сенсором некой силы. Сила, которая себя воплощает на Земле очень хорошим темпом. ИИ развивается коллективным бессознательным с достаточно понятной для глубоко мыслящих людей цели.