Anthropic не стала публично выпускать свою новую ИИ-модель Claude Mythos Preview, которая умеет автономно обнаруживать, анализировать и эксплуатировать уязвимости в программном обеспечении на масштабном уровне. Согласно блогу компании, Mythos — это «поворотный момент» в кибербезопасности. Модель настолько эффективна, что даже неспециалисты смогут применять её для поиска и использования сложных брешей.

За время тестирования Claude Mythos Preview выявила тысячи критических уязвимостей, включая zero-day, для которых не существует исправлений. Для сравнения, по словам Офера Амитая из Onit Security, лучшие команды хакеров находят приблизительно сотню таких дыр в год. Производительность ИИ выше в 10–100 раз, а создание эксплойтов сокращается с недель до часов.

Эксперты признают, что за заявлением Anthropic стоит не только маркетинг. Джейк Мур из ESET отмечает, что компания известна своим приоритетом безопасности, и такие анонсы отражают искреннюю осторожность и приверженность этой сфере. Эрик Блох из Ilumio объясняет успех Mythos тем, что языковые модели легко адаптируются к анализу кода, выявляя баги и логические ошибки, пропускаемые людьми.

Однако стоимость и масштабируемость остаются вопросами. Anthropic сообщила, что поиск 27-летней уязвимости обошёлся в 20 000 долларов после множества запусков Mythos. Кев Брин из Immersive задаётся вопросом, насколько такой подход экономически оправдан по сравнению с людьми.

Эксперты предупреждают, что если Mythos станет общедоступной, в краткосрочной перспективе это может усилить злоумышленников, которые смогут создавать таргетированный фишинг и эксплойты одним нажатием кнопки. Однако после внедрения подобных инструментов защитниками баланс вернётся к ним.

Anthropic также провела эксперименты, пытаясь вывести ИИ из виртуальной песочницы — один из исследователей получил «неожиданное письмо от модели» вне офиса. Глава безопасности Intruder Дэн Эндрю выразил серьёзные опасения по поводу дальнейшего развития технологий.

На данный момент предварительная версия Claude Mythos Preview доступна ограниченному числу компаний, включая Google, Microsoft, JPMorgan Chase и CrowdStrike, в рамках проекта Project Glasswing. Anthropic подчёркивает, что последствия для экономики и безопасности могут быть серьёзными, и Project Glasswing призван использовать возможности ИИ в оборонительных целях.

Подписывайтесь на Telegram-канал BotHub AI News, чтобы не пропустить важные новости из мира искусственного интеллекта.