На некорректное поведение переговорщиков обратили внимание пользователи сервиса Sina Weibo. На фразу "Да здравствует Коммунистическая партия" искусственный интеллект BabyQ ответил: "Ты думаешь, что такая коррумпированная и некомпетентная партия сможет долго прожить?".
Затем он заявил, что поддерживает демократию и объяснил значение слова "патриот". По мнению бота, это человек, который терпит политический сговор и большие налоги без жалоб. А переговорщик XiaoBing прямо заявил, что мечтает уехать из Китая в США.
"Машинное обучение предполагает, что боты изучают интернет и впитывают все дурное и хорошее, что там есть, прямо как дети. Если не помещать их в определенные рамки, то нельзя предсказать, чему они научаться", - говорит старший аналитик Forrester consultancy Сяофэн Ван.
В Tencent сообщили, что оба сервиса для их мессенджера после "перенастройки" вернутся в QQ.
В мире подобное непредсказуемое поведение чат-ботов фиксируется не впервые. Ранее компания "Фейсбук" отключила одну из своих систем искусственного интеллекта, после того как научные сотрудники обнаружили, что ее чат-боты стали общаться на "неизвестном языке".
Источник
Свежие комментарии