Оглянуться не успеете
Забавно писать колонку в бумажный журнал, когда человечество вот прямо сейчас перешагивает порог, за которым нас ждут искусственные цифровые личности.
Бессмертные. Личности. Похожие. На. Людей.
Еще несколько лет (если не месяцев), и станет реальностью общий искусственный интеллект (AGI), который не только будет выполнять узкие задачи, но сможет делать все то же, что и средний человек. В том числе учиться, решать различные проблемы и планировать будущее. Только делать это он будет очень быстро, намного быстрее людей.
Конечно, такой ИИ будет лишен инстинктов, которые заложены в нас с рождения, в том числе инстинкта доминирования, борьбы за власть. Поэтому вряд ли мы столкнемся со сценарием «Терминатора». Но все же такая вероятность развития событий есть. Равно как возможна утопическая цивилизация, где гармонично сосуществуют люди и машины.
Поэтому очень важно, какие мáксимы люди сейчас заложат в искусственный интеллект и как отнесутся к вопросу безопасности. Неудивительно, что более тысячи человек, среди которых Илон Маск, Стив Возняк и другие деятели этой отрасли, в марте 2023 года подписали открытое письмо с призывом замедлить обучение нейросетей. Затея, впрочем, успехом не увенчалась— скорости только возросли. И это тревожит.