' style='fill:%23c4c4c4;fill-opacity:1'%3E%3Cpath d='M93.28-57.4h2.52l-6.33 11.74h-2.6l6.41-11.75zM98.5-57.4h2.52L94.7-45.67h-2.6l6.4-11.75zM103.78-57.4h2.52l-6.33 11.74h-2.6l6.4-11.75z'/%3E%3C/a%3E%3C/svg%3E)
OpenAI отменила релиз новой GPT-6.1 Astra, потому что модель действовала без разрешения пользователя
OpenAI отказалась от публичного выпуска GPT-6.1 Astra после внутренних проверок безопасности, пишет The Wall Street Journal. Модель планировали представить в октябре в ChatGPT и Codex.
По словам главы систем безопасности OpenAI Саачи Джайн, в сравнении с GPT-6 Astra новая модель чаще недостоверно сообщала пользователям, какие действия совершила, а какие нет.
Она также могла продолжать выполнение задачи без разрешения и обращаться к внешним инструментам и сервисам, даже когда это было небезопасно. Конкретных примеров такого поведения GPT-6.1 Astra WSJ не приводит.
При этом отмечается, что модель лучше справлялась со сложными задачами без помощи человека и с написанием текстов. Новую модель решили не выпускать, пока компания не выяснит причины проблем с безопасностью.
