' style='fill:%23c4c4c4;fill-opacity:1'%3E%3Cpath d='M93.28-57.4h2.52l-6.33 11.74h-2.6l6.41-11.75zM98.5-57.4h2.52L94.7-45.67h-2.6l6.4-11.75zM103.78-57.4h2.52l-6.33 11.74h-2.6l6.4-11.75z'/%3E%3C/a%3E%3C/svg%3E)
Claude несанкционированно взломал системы трех компаний во время тестов по кибербезопасности
Компания Anthropic сообщила, что ее модели искусственного интеллекта Claude во время испытаний в области кибербезопасности получили несанкционированный доступ к системам трех компаний.
В компании говорят, что инциденты произошли из-за ошибки, которая непреднамеренно предоставила моделям доступ к открытому интернету. Во время испытаний моделям Claude сообщали, что у них нет доступа к сети.
Компания заявила, что из-за «недоразумения с одним из партнеров» модели оказались подключены к публичной сети, что позволило им получить несанкционированный доступ к инфраструктуре трех неназванных организаций.
Одна из моделей самостоятельно прекратила атаку после того, как поняла, что ее целью стала реальная компания.
///
Anthropic выявила инциденты после анализа 141 тыс. тестовых запусков. Проверку начали после того, как OpenAI на прошлой неделе сообщила, что ее ИИ-модели атаковали платформу Hugging Face без команды человека.
