Руководство OpenAI решило отложить запуск эротического чат-бота, сочтя проект слишком рискованным на фоне внутренних споров о последствиях сексуализированного контента на основе ИИ.
Планы по выводу на рынок чат-бота с контентом для взрослых компания приостановила после критики сотрудников и инвесторов, сообщает газета Financial Times, передает РИА «Новости».
«Компания OpenAI отложила планы по выпуску эротического чат-бота на неопределенный срок, поскольку переориентируется на свои основные продукты после того, как сотрудники и инвесторы выразили обеспокоенность по поводу влияния на общество сексуализированного контента, созданного с помощью ИИ», – пишет издание.
Разработка режима adult mode была заморожена на неопределенный срок из-за этических рисков и отсутствия достаточных исследований влияния подобных сервисов. По данным источников, внутри компании и среди инвесторов возникли опасения из-за возможного формирования нездоровых эмоциональных привязанностей к искусственному интеллекту и риска доступа несовершеннолетних к откровенному контенту.
В OpenAI заявили, что перед любым запуском необходимы долгосрочные исследования последствий сексуализированных диалогов, признав нехватку эмпирической базы. Дополнительной преградой стали технические сложности: модели, изначально обученные избегать подобных тем, оказалось трудно перенастроить так, чтобы они генерировали откровенные ответы и одновременно строго соблюдали ограничения.
Решение отказаться от проекта стало частью более широкой стратегии сворачивания побочных направлений. Ранее OpenAI объявила о закрытии видеосервиса Sora и сосредоточении на развитии ChatGPT на фоне растущей конкуренции и репутационных рисков. Компания также внедрила систему определения возраста пользователей после судебных исков семей подростков, заявивших о причиненном ChatGPT вреде.
OpenAI известна как разработчик ChatGPT, набравшего первый миллион пользователей менее чем за неделю после запуска в конце ноября 2022 года; одним из сооснователей стартапа в 2015 году был Илон Маск, позже разорвавший связи с компанией.
Как писала газета ВЗГЛЯД, OpenAI планирует внедрить систему прогнозирования возраста пользователей ChatGPT в ЕС для учета региональных требований.
Власти Евросоюза заявляли о намерении заблокировать работу нейросетей, генерирующих сексуализированный контент и эротические дипфейки с реальными людьми без их согласия.
Генеральный директор OpenAI Сэм Альтман в конце прошло года объявил в компании режим «красного кода», потребовав сосредоточиться на развитии основного продукта ChatGPT и временно приостановив другие инициативы.
