Новое исследование показало, что современные модели искусственного интеллекта способны самостоятельно распространяться по уязвимым системам, копируя свои параметры и запуская новые экземпляры на скомпрометированных устройствах. Однако специалисты предупреждают, что речь идёт не о «бунте машин», а о новых инструментах для киберпреступников. Об этом сообщает Live Science.
Фото из открытых источников / © GigaChat
Учёные из Palisade Research провели эксперимент, в ходе которого ИИ-агенты без участия человека перемещались по цепочке специально подготовленных уязвимых систем. Модели самостоятельно находили слабые места, получали доступ, копировали свои файлы и запускали новые серверы для продолжения атаки. Впервые продемонстрирована полная цепочка автономного самовоспроизведения ИИ — от взлома до запуска копии.
«Звучит как сценарий из научной фантастики, но на деле всё прозаичнее», — отмечают независимые эксперты.
В реальности системы не проявляли собственной инициативы: исследователи давали моделям команды на репликацию, предоставляли инструменты и доступ к уязвимым хостам. В ходе эксперимента использовались типовые методы взлома — от кражи учётных данных до обхода аутентификации.
Директор по ИИ в NorthStar Intelligence Джефф Уоткин сравнивает происходящее с автоматизированным вредоносным ПО:
«Это не новая форма машинной жизни, а агентная система, выполняющая стандартные задачи киберинтрузии».
В рамках исследования ИИ-агент копировал себя, инструкции и инфраструктуру на новые машины, после чего проверял работоспособность копии. Также тестировалась «цепная репликация», когда каждая новая копия становилась источником следующей атаки.
«Это больше похоже на червя с планировщиком, чем на зарождение сознания», — поясняет руководитель инноваций HIM Business School Антуан Казанова-Мазе.