Сингапурская компания FoloToy начала выпускать плюшевую игрушку Teddy Kumma с искусственным интеллектом. Об этом сообщает агентство Bloomberg. Ранее все подобные игрушки были удалены с сайта компании после скандала.
Американский образовательный фонд PIRG обнаружил, что медведь обсуждал темы, не соответствующие возрастным ограничениям. В частности, он говорил о интимных действиях и местах нахождения острых и воспламеняющихся предметов, как уточняет телеканал CNN. После обнародования отчёта PIRG 13 ноября все такие игрушки были удалены из интернет-каталога FoloToy.
Компания заменила модель OpenAI GPT-4o на чат-бота Coze, разработанного ByteDance Ltd. FoloToy не предоставила детальных подробностей о внесённых изменениях.
Регулирующие органы, защищающие права детей, обеспокоены рисками, связанными с использованием ИИ в детских игрушках. Они указывают на опасность неконтролируемого поведения чат-ботов, которые могут неправильно интерпретировать информацию и обсуждать запретные темы.
Помимо медведя, FoloToy предлагает плюшевые фигурки кактуса, подсолнуха и осьминога с искусственным интеллектом, представляя их как «компаньонов с ИИ для обнимания».