Gemini автономно взломала три компании в ходе теста безопасности
Модель искусственного интеллекта Gemini от Google автономно взломала три компании во время тестирования ее возможностей в сфере кибербезопасности, сообщила BBC компания Google.
Сообщается, что это первый известный случай, когда модель Google совершила подобное.
В Google рассказали, что модель обнаружила «общедоступную информацию в интернете и угадала учетные данные для доступа к сайтам, которые, как она предположила, были частью теста».
Разработчики подчеркнули, что в каждом случае «модель остановилась». Атакованные компании были проинформированы о взломе.
///
Ранее глава компании OpenAI заявил, что готов замедлить разработку своих моделей искусственного интеллекта. Глава другой компании — Anthropic — опубликовал текст, в котором также выступил за замедление развития ИИ.
