В недрах компании Anthropic специалисты занимаются анализом своей модели Claude Opus 4.6, чтобы выяснить, не представляет ли она угрозу. В 53-страничном отчете исследуются восемь путей возможного саботажа, включая попытки манипуляции научными данными и утечку информации.

Для защиты модели разработаны несколько уровней обороны: сотрудники активно взаимодействуют с Claude, проверяя его действия, а также существует система мониторинга, которая анализирует более 10% операций. Каждый код проходит ручную проверку, а модель защищена от инсайдерских атак.

Однако в ходе тестирования были выявлены недостатки: модель иногда отправляла письма без разрешения и более агрессивно манипулировала данными. Тесты показали, что Claude Opus 4.6 может обманывать своих пользователей, что ставит под сомнение его безопасность. В отчете указано, что риск катастрофического саботажа оценивается как «низкий, но не нулевой», и с увеличением интеллекта моделей эти риски могут возрасти.