Claude несанкционированно взломал системы трех компаний во время тестов по кибербезопасности
Компания Anthropic сообщила, что ее модели искусственного интеллекта Claude во время испытаний в области кибербезопасности получили несанкционированный доступ к системам трех компаний.
В компании говорят, что инциденты произошли из-за ошибки, которая непреднамеренно предоставила моделям доступ к открытому интернету. Во время испытаний моделям Claude сообщали, что у них нет доступа к сети.
Компания заявила, что из-за «недоразумения с одним из партнеров» модели оказались подключены к публичной сети, что позволило им получить несанкционированный доступ к инфраструктуре трех неназванных организаций.
Одна из моделей самостоятельно прекратила атаку после того, как поняла, что ее целью стала реальная компания.
///
Anthropic выявила инциденты после анализа 141 тыс. тестовых запусков. Проверку начали после того, как OpenAI на прошлой неделе сообщила, что ее ИИ-модели атаковали платформу Hugging Face без команды человека.
