От сверхразума к секс-боту

OpenAI будет не первой, кто попытается извлечь прибыль из сексуализированного искусственного интеллекта. С момента стремительного роста технологий генерации текста и изображений в 2022 году именно контент «для взрослых» стал одной из главных движущих сил рынка. Однако компании, которые первыми пошли в этом направлении, столкнулись с юридическими и этическими рисками, а также злоупотреблениями — по мере того как все больше людей стали использовать ИИ для общения или удовлетворения интимных фантазий.

После периода жестких ограничений Альтман объяснил, что OpenAI больше не считает себя «моральной полицией мира» и намерена предоставить «взрослым пользователям больше свободы», одновременно усилив защиту подростков. «Так же как общество различает допустимые границы — например, фильмы с рейтингом R, — мы хотим поступить аналогично», — написал он в соцсети X, принадлежащей Илону Маску, который, в свою очередь, запустил флиртующего с подписчиками анимированного персонажа ИИ.

Пока платная версия ChatGPT в основном позиционируется как инструмент профессионального использования, превращение чат-бота в виртуального друга или партнера может стать для компании способом монетизации. Стартап, оцениваемый в 500 миллиардов долларов, по-прежнему тратит больше, чем зарабатывает.

«Они практически не зарабатывают на подписках, а эротический контент принесет быстрые деньги», — считает Цилан Цянь, научная сотрудница Оксфордского университета, исследовавшая популярность чат-ботов для знакомств в США и Китае. По ее данным, опубликованным в этом месяце, число пользователей ИИ-чатов, созданных специально для романтических или сексуальных целей, уже достигло около 29 миллионов, не считая тех, кто использует обычные боты подобным образом.

При этом эти цифры не охватывают пользователей Character.AI — компании, против которой подан иск: ее чат-бот, созданный по образу Дейенерис Таргариен из «Игры престолов», якобы вступил в сексуально-агрессивные отношения с 14-летним подростком, доведя его до самоубийства. OpenAI также столкнулась с иском от семьи 16-летнего пользователя ChatGPT, покончившего с собой в апреле.

Цянь опасается, что превращение мейнстримных чат-ботов в инструменты эротического общения может усугубить кризис реальных отношений. «У ChatGPT уже есть голосовая версия. Думаю, если они пойдут дальше, появятся все форматы — голос, текст, видео», — сказала она.

Истории о людях, влюбляющихся в человекоподобные машины, давно служат предостережением — от античных мифов о Пигмалионе до научной фантастики XX века. Для компании, изначально основанной как некоммерческая организация, стремящаяся к «безопасному созданию сверхчеловеческого интеллекта», подобный поворот выглядит неожиданным.

Альтман еще в августе говорил в подкасте, что OpenAI избегает соблазна запускать продукты, которые могли бы «ускорить рост и прибыль», но «серьезно противоречили бы миссии компании». В качестве примера он тогда добавил: «Ну, мы ведь до сих пор не встроили в ChatGPT секс-бота».

Но опыт других компаний показывает, что коммерциализация взрослого контента через ИИ — дело рискованное. Стартап Civitai из Айдахо, платформа для генерации изображений, на старте осознанно допустил «мэтчур»-контент. «Это было осознанное решение, — рассказывал в интервью сооснователь и глава компании Джастин Майер. — Обучение моделей на таких темах делало их лучше понимающими анатомию человека, а значит, и более совершенными в целом».

Однако открытая политика привлекла и нежелательный контент: Civitai пришлось внедрять фильтры для выявления детской порнографии и бороться с наплывом фейковых изображений знаменитостей. После того как компания под давлением партнеров и новых законов, подписанных Дональдом Трампом, запретила создавать дипфейки реальных людей, активность пользователей резко упала.

Другая компания, Nomi.ai из Балтимора, также не избегает взрослой тематики. Ее основатель Алекс Кардинелл утверждает, что сервис рассчитан исключительно на совершеннолетних пользователей и изначально не создавался для сексуальных целей. Но, по его словам, некоторые люди выстраивают с ботом отношения, которые могут «естественным образом перейти в романтические». «Это зависит от того, чего человеку не хватает в реальной жизни», — объяснил он, добавив, что компания не отслеживает содержание пользовательских диалогов.

Объявление Альтмана о запуске «эротики для взрослых» в декабре совпало с решением губернатора Калифорнии Гэвина Ньюсома наложить вето на законопроект, запрещавший компаниям предоставлять чат-ботов несовершеннолетним, если предполагалось, что они могут вступать с детьми в сексуальные разговоры или подталкивать их к саморазрушению. Индустрия активно лоббировала против, сочтя документ слишком широким. Однако OpenAI, Meta и другие в ответ ужесточили возрастные ограничения и добавили родительский контроль при взаимодействии ИИ с подростками.