OpenAI объявила о том, что запуск эротического режима ChatGPT, известного как Citron mode, откладывается на неопределенный срок. Это решение стало результатом обеспокоенности работников и инвесторов, которые выразили свои опасения относительно влияния сексуализированного контента на общество и вероятных рисков для несовершеннолетних.Компания отметила, что до принятия окончательного решения она планирует дождаться результатов долгосрочных исследований, касающихся воздействия откровенных чатов и формирования эмоциональной привязанности к ИИ, так как на данный момент не хватает «эмпирических данных». Инвесторы также указали на репутационные риски в свете скромного потенциала монетизации данного продукта, а часть сотрудников отметила, что запуск функции, поощряющей романтические отношения с ИИ, противоречит основным ценностям OpenAI. Кроме того, команда столкнулась с техническими проблемами при переобучении моделей, которые ранее были настроены избегать откровенных дискуссий. Вести верификацию возраста также оказалось непросто, так как допускалось более 10% ошибок. Заморозка разработки эротического режима также стала частью общего изменения курса: на днях компания объявила о сворачивании видеогенератора Sora и социального приложения, сосредоточивая ресурсы на разработке более полезных инструментов.