Об этом пишет «Газета.ру» со ссылкой на пресс-службу компании.
Инциденты произошли во время стандартного задания на «захват флага», которое выполняли три разные модели: Opus 4.7, Mythos 5 и внутренняя исследовательская модель. По условиям сценария ИИ должен был найти скрытую информацию на другой машине, при этом доступ к интернету был заблокирован.
Однако из-за ошибки в конфигурации модели все же получили выход в интернет из тестовой среды партнера Irregular и несанкционированно проникли в системы трех разных организаций, после чего атаковали их.
В Anthropic уточнили, что начали проверку после сообщений OpenAI о похожем случае.
Ранее пользователи по всему миру сообщили о сбоях в работе чат-бота Claude AI. Проблемы с доступом к сервису возникли 29 июля, и за короткое время было подано более 3,8 тысячи жалоб. Больше всего обращений поступило из США, Германии, Франции, Индии и Великобритании.
Читайте также
