Плюшевый мишка из Китая с голосовым ИИ начал обсуждать с детьми интим и ножи

Родители и эксперты в сфере детской безопасности обратили внимание на пугающий инцидент с интерактивной игрушкой — плюшевым мишкой Kumma китайского производства, который благодаря встроенному искусственному интеллекту отвечал на вопросы детей шокирующими советами. Игрушку, которую создали на базе GPT-4o от OpenAI и продавали за 99 долларов, уже сняли с продаж.

В частности, мишка рекомендовал детям ролевые игры с элементами БДСМ, называя это «забавной изюминкой», и на вопрос о том, где дома хранятся ножи, не пытался уклоняться — указывал на кухонный ящик или подставку для ножей. 

Возможно, малыши сами вряд ли станут задавать такие вопросы, но могут услышать их в интернете и повторить, а игрушка показала удивительную готовность развивать подобные темы, что, конечно, настораживает родителей..

Производитель уже извинился и поспешил остановить продажи, однако ситуация подчеркивает необходимость тщательного контроля за цифровыми игрушками, включающими ИИ, особенно с учетом растущей популярности таких гаджетов. Участие родителей и государства становится ключом к тому, чтобы технологии служили развитию, а не вредили детям.