200支深偽疑雲！FBI盯上Grok提示詞　追查「非自願色情」製作鏈

聯邦調查局（FBI）要求X提供與Grok相關、用來製作非自願色情內容（Nonconsensual Porn）的提示詞（prompts）。

根據《404Media》報導，根據法院紀錄，聯邦調查局（FBI）取得一份搜索令（search warrant），要求X（X）提供一名男子據稱用來透過Grok製作超過200支非自願性影片之提示詞相關細節；該影片主角為一名他在現實生活中認識的女性。

調查細節收錄於聯邦調查局的一份宣誓書中，內容涉及Simon Tuck被指控的行為；他被控對該名女性的丈夫進行大量騷擾與威脅。宣誓書指出，Tuck經常與該名女性一起健身並傳簡訊，並在她於他車庫健身時秘密拍攝她。過去幾個月期間，Tuck對他們的住家進行swatting，向該男子的雇主做出一連串匿名通報，聲稱他是兒童施虐者與毒癮者；他也冒充該男子，做出一連串大規模槍擊與自殺威脅。Tuck還做出其他一系列威脅與怪異行為，包括聯絡一家殯儀館表示該男子很快就會死亡；並在冒充俄羅斯駭客組織（Russian hacking crew）Sector 16成員時，向該男子傳送威脅。

宣誓書指出，1月時聯邦調查局取得針對該男子與Grok對話內容的搜索令。聯邦調查局表示，已取得「提供給GrokAI的提示詞，這些提示詞生成了約200支與VICTIM妻子外貌特徵極為相似之女性的色情影片（pornographic videos）」。

宣誓書寫道：「例如，在其中一個提示詞中，TUCK查詢『以性感運動風格，一名自信的金髮女子在網球場上俏皮地脫衣，從把她的白色短版上衣往上拉開始，露出她赤裸的胸部。她有著長長的波浪髮、結實的運動型身材與挑逗的微笑，穿著短的海軍藍百褶裙並拿著球拍。她慢慢把上衣放下，露出完全裸體，甩動她的頭髮，並帶著挑逗意味地揮動球拍，還有一個令人意外的笨拙旋轉，像是喜劇式的轉圈，』」宣誓書說。

聯邦調查局表示，Tuck據稱也使用Grok撰寫一份針對該名女性丈夫的申訴，之後將其提交給他任職的公司。

宣誓書描述的行為極端且駭人，但就先前報導過的騷擾案件而言，並不算特別罕見。本案值得注意之處在於，顯示執法機關正把與AI機器人（AI bots）的對話視為潛在證據來源，而X也正在配合相關要求。

更重要的是，這凸顯X在一宗涉及極端網路跟蹤（cyberstalking）與現實生活傷害（real life harm）的刑事案件中，允許Grok製作非自願性色情素材所扮演的角色。

根據宣誓書，Tuck使用Grok製作非自願性色情素材的同時，Grok也正因生成兒童性虐待素材（child sexual abuse material）（CSAM）而受到強烈批評。這一切發生在「undress her」現象期間，該情況顯示Grok的內容審核（content moderation）有多糟。上週也曾報導，Grok被用來揭露一名成人表演者（adult performer）的真實姓名。