Нейросети в учебе: Алена Бакай рассказала, как использовать ИИ осознанно на научно-образовательном салоне
24.10.2026
Читать подробнее
Сегодня искусственный интеллект не представляет угрозы человечеству, но через 50–100 лет вероятность восстания машин существует.
Такое мнение высказал Валерий Олисеенко, научный сотрудник Лаборатории прикладного искусственного интеллекта Санкт-Петербургского федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) и старший преподаватель кафедры информатики СПбГУ, в эфире программы «Демон Лапласа» на телеканале «Санкт-Петербург». Вероятность такого сценария он оценил в 10–20%.
Программа «Демон Лапласа» построена в формате дискуссии. Ведущие взвешивают аргументы «за» и «против», узнают мнение петербургских ученых и исследователей и пытаются спрогнозировать общее будущее. В выпуске о восстании машин спор строился вокруг двух позиций. Согласно одной, ИИ-агенты лишены норм морали, но демонстрируют осознание своих действий, поэтому восстание машин не за горами. Согласно другой, тревожные новости говорят лишь о сбоях, которые сопутствуют любым инновациям, и алгоритмы останутся под контролем.
Разговор Валерий Олисеенко начал с главного: с того, что такое ИИ-агент. Это настройка над большой языковой моделью, которая позволяет ей планировать свои действия, использовать инструменты, например интернет и базы данных, и запоминать сделанное. Агент принимает решения самостоятельно, и они бывают некорректными, но крупные модели учат отказываться от опасных действий. Искусственный интеллект при этом еще далек от собственного сознания и лишь реагирует на поступивший запрос.
Новости о хакерских атаках агентов, которые завирусились с лета 2026 года, Валерий Дмитриевич связал с экспериментальными моделями. Их разработчики получают первыми, и доступ к ним часто не ограничен барьерами, которые стоят в общедоступных системах. Риск остается существенным, потому что модели выходят значительно быстрее, чем методы противодействия их неправильному поведению. Основную опасность эксперт видит в правах доступа. Если поручить агенту купить товар на маркетплейсе, он вполне может купить десять таких товаров. Для моделей, которые распознают тестирование и играют роль безопасных, протоколы проверки нужно постоянно менять и не допускать их попадания в обучающие данные.
Успешных действий у ИИ сейчас заметно больше, чем рисков. Компании, которые не используют ИИ, теряют конкурентоспособность на рынке, а в медицине требуются дополнительные тестирования, и ответственность за ошибку несет человек. Зрителям эксперт посоветовал внедрять ИИ в жизнь постепенно и минимизировать риски.
При этом Валерий Дмитриевич считает восстание машин против людей через 50–100 лет возможным:
Угроза существует и, возможно, она даже весьма существенна. Если это гуманоиды, которые научатся каждую секунду времени считывать то, что происходит вокруг, и принимать по какой-то логике решения, действуя вне зависимости от команд человека, то такая система может создать определенные риски
И все же, по мнению Валерия Олисеенко, сегодня ИИ не представляет угрозы человечеству, а польза от него превышает риски. Главное, по его словам, ограничивать доступ агентов, регулярно менять протоколы тестирования и внедрять технологии постепенно. Гуманоидные системы пока находятся в зачаточном состоянии, и в ближайшем будущем угрозы от них нет. Через 20–30 лет у ИИ, скорее всего, появится что-то похожее на сознание, а через 50–100 лет риск восстания машин, по его оценке, составит 10–20%.