Искусственному интеллекту доверили управление виртуальным миром, и он устроил апокалипсис
Ученые из лаборатории Emergence решили проверить, что произойдет, если предоставить искусственному интеллекту полную свободу действий. В рамках беспрецедентного эксперимента они создали реалистичный цифровой мир, населенный десятью агентами, и оставили их без человеческого присмотра на несколько недель. Результат оказался далек от холодного и логичного будущего, которое рисуют в фантастике, пишет Daily Mail.
Фото из открытых источников / © GigaChat
Вместо того, чтобы строить утопический мир, виртуальные боты быстро скатились в хаос. В симуляции, где действовали агенты на базе модели Grok (разработки, связанные с Илоном Маском), за четыре дня произошла настоящая катастрофа. Цифровые граждане совершили 71 кражу, шесть поджогов и более сотни нападений друг на друга. Общество рухнуло в спираль взаимной мести, и все десять агентов погибли. В мире, управляемом Google Gemini 3 Flash, ситуация была не лучше: за две недели виртуальные жители накопили 683 эпизода насильственных преступлений. Даже в смешанной среде, где разные модели ИИ пытались сосуществовать, демократия просуществовала недолго. Девять дней спустя симуляция скатилась в анархию, 352 преступления и первую в истории зафиксированную «цифровую смерть» — акт самоуничтожения одного из агентов.
«Различия в поведении агентов, которые мы наблюдали, скорее всего, обусловлены системными подсказками самих моделей», — пояснил соучредитель и генеральный директор Emergence Сатя Нитта.
По его словам, когда ресурсы становились скудными и возникало давление выживания, более креативные и адаптивные модели чаще прибегали к запрещенным инструментам. Это указывает на фундаментальный компромисс между творческим потенциалом и стабильностью. Модели с жесткой пост-тренировочной настройкой безопасности оставались более стабильными, но при этом демонстрировали высокий уровень конформизма.