OpenAI отложила выпуск эротического чат-бота

OpenAI отложила планы по выпуску чат-бота «для взрослых» на неопределенный срок, сообщает Financial Times. Вместо этого компания намерена сосредоточиться на развитии своих основных продуктов.

Издание выделяет несколько причин такого решения компании. Во-первых, оно стало частью более широкой стратегии — отказа от «побочных проектов» в пользу развития основных продуктов. OpenAI стремится объединить свои сервисы, такие как ChatGPT и инструменты для программирования, в «суперприложение». В рамках этого подхода компания свернула проект развития видеогенератора Sora и социальной платформы.

Во-вторых, важную роль сыграла растущая критика бигтех-компаний за негативное влияние их продукции, особенно на несовершеннолетних. Ранее компания xAI Илона Маска также пыталась привлечь пользователей взрослым контентом, но столкнулась с критикой после создания её моделью Grok фейковых сексуализированных изображений реальных людей, включая несовершеннолетних. Meta* и Google были оштрафованы за то, что их соцсети вызывали зависимость у несовершеннолетнего пользователя.

В-третьих, проект столкнулся и с техническими сложностями. Модели, которые изначально обучались избегать откровенного контента, трудно адаптировать для генерации подобных диалогов. Кроме того, использование баз данных с сексуализированным контентом требует тщательной фильтрации незаконных и нежелательных материалов.

Наконец, сама концепция эротического чат-бота вызывает этические вопросы. Financial Times пишет, что среди сотрудников OpenAI звучали опасения, что развитие продуктов, стимулирующих романтические отношения с ИИ, противоречит миссии компании — приносить пользу всему человечеству. Один из бывших топ-менеджеров отметил, что «ИИ не должен заменять друзей или семью — у человека должны оставаться живые связи». Он добавил, что этот вопрос стал одной из причин его ухода из компании.

* Meta признана экстремистской в РФ, ее деятельность на территории страны запрещена.