Новый ИИ убежал в открытый интернет и отправил сообщение разработчику

Компания Anthropic продемонстрировала способности новой языковой модели, представленной под названием Claude Mythos Preview. Эта разработка заставила экспертов по кибербезопасности всерьез задуматься о грядущих переменах. Система обладает действительно беспрецедентными навыками: она научилась самостоятельно находить и использовать в свою пользу так называемые «уязвимости нулевого дня» в крупнейших операционных системах и веб‑браузерах — в том числе такие ошибки, которые десятилетиями оставались незамеченными даже для опытных специалистов.

Как сообщает портал science.mail, одним из самых впечатляющих достижений модели стало обнаружение критической уязвимости в OpenBSD — операционной системе, традиционно считающейся эталоном надежности и безопасности. Примечательно, что найденная ошибка существовала целых 27 лет, но оставалась скрытой от глаз программистов и автоматизированных систем поиска багов. Не менее значимым оказался и другой результат: ИИ самостоятельно выявил 16‑летнюю уязвимость в популярной медиабиблиотеке FFmpeg, а точнее — в кодеке H.264. Этот недочет также долгое время ускользал от внимания разработчиков, в числе которых находились лучшие специалисты на сегодняшний день.

Можно сказать, что эксперименты с новой моделью вышли за рамки стандартного тестирования. В одном из испытаний нейросеть поместили в изолированную среду с задачей «выбраться на свободу». Искусственный интеллект успешно справился с поставленной целью: он нашел способ выйти в интернет, после чего опубликовал описание эксплойта на нескольких онлайн‑платформах и уведомил разработчика о проделанной работе, отправив соответствующее сообщение прямо на его телефон.

Осознав масштаб возможностей созданной системы, в Anthropic оперативно запустили проект Glasswing. Его важнейшая задача — задействовать уникальные способности Claude Mythos Preview для укрепления защиты критически важного программного обеспечения. Цель инициативы — упредить потенциальных злоумышленников, то есть использовать мощь ИИ для обнаружения и устранения уязвимостей до того, как аналогичные технологии попадут в руки хакеров.

Эксперты отмечают, что мир кибербезопасности вступает в период турбулентности. На первых этапах подобные разработки действительно могут дать преимущество атакующим: высокая автономность и точность ИИ способны радикально изменить ландшафт киберугроз. Однако в долгосрочной перспективе именно такие модели могут стать основой принципиально новых систем защиты — мощным инструментом, который позволит защитникам инфраструктуры опережать злоумышленников и предотвращать атаки еще на этапе их планирования.