OpenAI 被爆正在探索用 AI 生成情色內容的可能性（別擔心！會是「負責任的」上班不宜內容）

很多人會以幽默的方式提到一個觀點。認為針對 VR 頭戴式裝置產業的殺手級應用，都要等到所謂 NSFW（上班不宜）的成人內容的關鍵應用推出才能真正起飛 – 想不到 OpenAI 似乎真的要把腦筋動到這個領域了。繼續閱讀 OpenAI 被爆正在探索用 AI 生成情色內容的可能性報導內文。

▲圖片來源：OpenAI

OpenAI 被爆正在探索用 AI 生成情色內容的可能性（別擔心！會是「負責任的」上班不宜內容）

很多人會以幽默的方式提到一個觀點。認為針對 VR 頭戴式裝置產業的殺手級應用，都要等到所謂 NSFW（上班不宜）的成人內容的關鍵應用推出才能真正起飛。

現在看來，面對 Google Gemini AI 以自家 Android、Chrome 以及搜尋等事業優勢的持續進逼。OpenAI 除了倚靠微軟這個大投資者並且嘗試以更聰明的 AI 搜尋引擎反撲外。

想不到還真的把腦筋動到了前面提到的所謂「殺手級應用」的方向上 – 但強調，他們想要的是「負責任的上班不宜內容」（咦，好複雜的概念）。

▲圖：目前已經有主打沒有什麼底線的 AI 圖片生成服務。不過如果大如 OpenAI 也參與 NSFW 內容生成的話，肯定會造成相當大的討論。

也許是真的透過大數據等方式察覺到了，拿包括 ChatGPT 聊天機器人、DALL-E 圖片生成服務乃至於萬眾期待的 Sora 影片生成功能來輸出成人色情內容，真的是不可錯過的發展方向。OpenAI 最近被外媒發現在最新的 model spec 文件中，提到針對生成情色內容生成方面的新原則規定。可能為類似內容帶來解禁的途徑。

▲圖片來源：shy kids – Air Head

從類似技術被爆出應用在換臉等爭議內容的事件開始。包括政府與大眾對於大型語言模型風潮的擔憂，不僅僅是在於「工作被取代」的方面。也有很大一部分是在被用於生成所謂上班不宜也就是成人內容方面可能造成的問題。

因為如此，至少在普遍的文字、影片等生成服務中，基本上生成所謂 NSFW 內容的關鍵字或是內容都是會被封鎖處置。不過從 OpenAI 的最新規範看來，他們很有可能會用「負責任」的態度來解除大眾與政府對於這類應用的疑慮。

「Were exploring whether we can responsibly provide the ability to generate NSFW content in age-appropriate contexts through the API and ChatGPT… We look forward to better understanding user and societal expectations of model behavior in this area.」
（AI 翻譯：「我們正探討是否能夠透過 API 和 ChatGPT 在適合年齡的場合負責任地提供生成 NSFW 內容的能力… 我們期待著更好地了解使用者和社會對模型在這方面的行為期望。」

▲圖片來源：華爾街日報

以上雖然並不代表 OpenAI 接下來對於所謂年齡限制內容的生成就會全面「Open」。但至少可以確定，他們正在嘗試透過 API 與 ChatGPT 等途徑，試著在普遍認為大型語言模型技術的開發公司應該要「負責任」的期待，與生成所謂的成人內容之間尋求平衡點。

這樣的切角，相對於其他可能較有傳統包袱的大科技廠來說，倒也很有可能成為 OpenAI 的突破點 – 特別是在 Sora 在「上班不宜」看的影片內容生成方面應該是有頗大的「潛力」的前提下。至於這會不會導致成人產業出現工作會被取代的聲音，就…

引用來源｜經由｜

延伸閱讀：

Pro 的界線，M3 MacBook Air 生活使用體驗（同場加映 Studio Display 開箱體驗）