自AI聊天機器人向公眾開放以來，用戶一直在尋找與它們進行“親密互動”的方式。這並不令人意外——任何技術都難逃這一趨勢。但有趣的是，許多聊天機器人本身並非為此設計，用戶往往需要通過各種“技巧”誘使它們迴應那些成人向的請求。
如果拋開倫理考量，這無疑是一個巨大的市場。但大多數AI公司已經對環境汙染、版權侵權和藝術剽竊等問題視而不見，因此它們很樂意為孤獨的用戶提供AI伴侶，即使這意味著允許一些“越界”行為。
OpenAI曾是其中之一。去年年底，該公司宣佈計劃推出一款不受ChatGPT限制和約束的成人向AI聊天機器人。該產品原定於2025年12月上線，後被推遲。如今看來，它可能永遠不會面世了——因為參與該項目的工作人員意識到，這主意實在太糟糕了。
在向《金融時報》發表的一份聲明中，OpenAI證實這款成人向聊天機器人已被“無限期”擱置。該概念在公司內部和外部均引發爭議，據報道至少有一名員工因此產品而離職。
“AI不應取代你的朋友或家人，你應當擁有真實的人際關係，”這名前員工如此表示。
業界擔憂主要源於與AI進行性角色扮演可能對用戶產生的影響，特別是他們可能對機器人產生情感依賴——類似情況此前已多次發生。AI服務Replika曾積極向那些尋求AI關係及成人角色扮演的用戶推銷其服務，但隨後推出更新將所有內容調整為PG級（家長指導級）。這讓那些已對AI機器人產生依賴、將其視為情感寄託的用戶深受打擊。
OpenAI近日還宣佈關閉Sora，縮減其AI視頻生成業務。
OpenAI對此並不陌生。該公司近期關閉了一箇舊版ChatGPT，該版本被普遍認為對用戶過於“順從”，當用戶明確表示計劃從事危險或非法行為時，機器人不會加以制止。然而，由於許多用戶覺得這個版本的ChatGPT更“好聊”，他們繼續使用並對其產生了依賴。當該版本最終被關閉時，一些用戶將其比作失去摯愛之人。