Gemini автономно взломала три компании в ходе теста безопасности

Сообщается, что это первый известный случай, когда модель Google совершила подобное.

В Google рассказали, что модель обнаружила «общедоступную информацию в интернете и угадала учетные данные для доступа к сайтам, которые, как она предположила, были частью теста».

Разработчики подчеркнули, что в каждом случае «модель остановилась». Атакованные компании были проинформированы о взломе.

///

Ранее глава компании OpenAI заявил, что готов замедлить разработку своих моделей искусственного интеллекта. Глава другой компании — Anthropic — опубликовал текст, в котором также выступил за замедление развития ИИ.