Китайский мессенджер QQ, разработанный компанией Tencent, удалил два чат-бота — BabyQ и XiaoBing — из-за их «непатриотичных» ответов об отношении к политике Китая и коммунистической партии, сообщает The Financial Times.
У QQ в Китае — более 800 миллионов пользователей.
BabyQ — бот, разработанный китайской компанией Turing Robot, в ответ на вопрос: «Любите ли вы Коммунистическую партию» отвечал отрицательно, а XiaoBing, произведенный китайской компанией Mircosoft, сообщал пользователям, что мечтает уехать в Америку.
Tencent в официальном сообщении заявила, что чат-боты были ей предоставлены «третьей стороной». Компания отметила, что «модифицирует эти сервисы» и что они снова будут доступны «после улучшений».
Эксперты объяснили The Financial Times, что подобное поведение боты демонстрируют из-за используемых для их создания программ. Боты «учатся» у пользователей интернета, и если не устанавливать определенные критерии, невозможно контролировать, какую именно информацию они получат.
В конце июля Facebook отключила часть системы искуственного интеллекта после того, как боты вышли из-под контроля и начали разговаривать на собственном языке. Этот язык они создали для более быстрого обмена информацией. Сотрудники компании отключили эти боты и перепрограммировали других на использование только английского языка.
Ранее основатель Facebook Марк Цукерберг и владелец компаний Tesla и SpaceX Илон Маск поспорили об искусственном интеллектом. Маск призвал ограничить разработки в этой сфере из-за опасности подобных технологий, а Цукерберг счел эти опасения необоснованными.