OpenAI отказалась от запуска чат-бота для "взрослых" из-за давления инвесторов

Руководство компании OpenAI приняло решение приостановить разработку и запуск эротического чат-бота. Данное решение было обусловлено наличием внутренних разногласий относительно потенциальных негативных последствий использования сексуализированного контента, генерируемого искусственным интеллектом.

Согласно информации, опубликованной в Financial Times, OpenAI отложила планы по выпуску чат-бота, ориентированного на взрослую аудиторию. Это решение было принято в ответ на критику со стороны сотрудников и инвесторов, выражающих обеспокоенность возможным воздействием такого контента на общество.

OpenAI приняла решение не выпускать эротический чат-бот в ближайшем будущем. Вместо этого компания планирует сосредоточить свои усилия на развитии и совершенствовании своих основных продуктов. Основной причиной такого решения стали этические риски, связанные с использованием сексуализированного контента, а также недостаточная научная проработанность вопросов, касающихся его потенциального влияния на пользователей.

Разработчики столкнулись с техническими сложностями при создании режима adult mode, поскольку модели, обученные избегать генерации контента на подобные темы, испытывают затруднения в создании откровенных ответов, соответствующих установленным ограничениям.

Отказ от данного проекта является частью пересмотра стратегии компании. Ранее OpenAI прекратила работу над видеосервисом Sora и активно развивала платформу ChatGPT. Это было обусловлено как конкурентными факторами, так и репутационными рисками. В результате судебных исков, поданных семьями подростков, утверждающих, что использование ChatGPT нанесло им вред, компания ввела систему определения возраста пользователей.

OpenAI, известная как разработчик технологии ChatGPT, привлекла миллион пользователей в течение первой недели после запуска в ноябре 2022 года. В 2015 году одним из сооснователей компании являлся Илон Маск, однако впоследствии он расторг свои связи с OpenAI.