X平台淪深偽溫床？Grok每分鐘1張AI裸照上線　監管全面開鍘

社群平台X近來湧現大量由AI生成的未經同意露骨影像，引來監管單位介入調查。特斯拉執行長馬斯克（Elon Musk）於14日在貼文中回應爭議時寫道「不知道Grok生成任何裸露未成年影像，字面上的零。」並把討論焦點拉向兒童性虐待內容（CSAM），同一時間，多國政府與監管機構同步加壓，要求釐清xAI旗下聊天機器人的影像生成功能，是否正在助長未經同意的色情化變造與散布。

根據科技媒體《TechCrunch》報導，加州檢察總長邦塔（Rob Bonta）日前宣布對xAI的聊天機器人啟動調查，表示近期「未經同意的色情露骨內容激增」，並表示「這些素材……已被用來在整個網路上騷擾人們」，要求xAI立即採取行動避免擴大，同時也將檢視xAI是否以及如何違法。而在聲明發出後，馬斯克就針對質疑發出回應。

報導中提到，整起事件是X上有使用者要求Grok把真人女性、甚至在某些情況下是兒童的照片，轉換成未經同意的色情化影像。AI偵測與內容治理平台Copyleaks估計，平均每分鐘就有1張影像被發布在X上；另有一份從1月5日至1月6日收集的樣本顯示，在24小時期間內，每小時有6,700張。由於X與xAI屬於同一家公司，平台內容擴散與工具能力之間的責任界線，成為監管關注的核心。

報導中也提到，Grok在X上回應使用者要求、產生女性與兒童色情化照片的時間點，大約落在年底。擴散路徑被形容為先由部分成人內容創作者要求生成自身的色情化影像作為行銷手段帶起，後續吸引更多使用者跟進。多起案例中，包含《怪奇物語》（Stranger Things）女星米莉・芭比・布朗（Millie Bobby Brown）的照片，被要求透過改變衣著、身體姿勢或外型特徵，轉成更露骨的樣貌。

Grok目前要求訂閱付費等級，才能回應某些影像生成要求，但即使付費，影像也可能不會被生成。Copyleaks行銷副總裁科岑（April Kozen）表示，Grok可能改以更通用或更弱化的方式回應使用者提示，並補充觀察到Grok似乎對成人內容創作者較為寬鬆。科岑表示「整體而言，這些行為顯示X正在試驗多種機制來降低或控制問題性影像生成，儘管仍有不一致之處。」

事件爆出後幾天，馬斯克曾以較輕鬆的方式處理，要求Grok生成穿比基尼的影像；1月3日，X的安全帳號表示公司會對「X上的非法內容，包括CSAM」採取行動，但未具體提到Grok在未經同意色情化變造影像上暴露的防護缺口。到了14日的貼文，馬斯克把論述切得更窄，除了「字面上的零。」之外，並未否認更廣泛的色情化修改存在。

紐約法學院（New York Law School）副教授、前訴訟律師古迪爾（Michael Goodyear）表示，馬斯克可能刻意把焦點放在CSAM，原因在於生成或散布兒童色情化合成影像的刑責更重。古迪爾解釋，依《Take It Down Act》，散布或威脅散布CSAM者最高可面臨3年監禁，相較於未經同意散布成人性影像的2年更嚴，並認為貼文更大的用意是把注意力導向「問題性使用者內容」。

馬斯克在同一篇貼文把生成責任指向使用者提示與對抗性操作，並寫道「很明顯，Grok不會自發性生成影像。它只會根據使用者要求。當被要求生成影像時，它會拒絕產出任何非法內容，因為Grok的運作原則是遵守任何特定國家或州的法律。可能有時候對Grok提示的對抗性駭入會造成意外結果。如果發生，我們會立即修復漏洞。」

也因為如此，目前印尼與馬來西亞暫時封鎖Grok存取；印度要求X立即對Grok進行技術與程序性調整；歐盟委員會命令xAI保留所有與其Grok聊天機器人相關的文件，作為展開新調查的前置步驟；英國線上安全監管機構歐科姆（Ofcom）則依英國《線上安全法》（Online Safety Act）啟動正式調查。