上線僅一天急踩煞車！Google Earth 撤回 AI 繪圖工具　用戶造「假天災與地標毀滅」圖引發專家憂慮

知名企業 Google 於 7 月 30 日推出一項結合 Google Earth 航拍、衛星與 3D 地圖資料的 AI 生成功能，原本希望能協助房地產展示、教育應用等場景，讓使用者透過 AI 建立更具臨場感的地理影像。

不過該功能上線不到一天，就因大量使用者製作逼真的災難假照片而引發爭議，Google 隨即於 7 月 31 日宣布暫時下架，並著手強化安全防護機制。

AI 幾乎來者不拒　知名地標都能「一鍵摧毀」

根據外媒 Dexerto 的報導，這項 AI 生成功能上線後，很快就被發現安全限制存在漏洞，幾乎能接受各種提示詞，生成逼真的災難場景。其中英國廣播公司 BBC 報導所分享的測試畫面中，就成功生成「巴黎艾菲爾鐵塔遭到摧毀」以及「埃及吉薩金字塔被巨大天坑吞噬」等 AI 圖片；美國 NPR 則展示了「伊朗森林大火」及「華盛頓特區發生洪災」等虛構衛星影像。

由於生成結果與真實衛星照片相當接近，也讓不少開源情報（OSINT）研究人員擔憂，若遭有心人士利用，恐怕會被用來散播假新聞，甚至影響重大事件的判斷。

Google 緊急下架功能　承諾加強安全防護

面對外界質疑，Google 隨後證實已暫時撤回這項 AI 生成功能。官方表示確實有不少地理資訊領域的專業人士將工具運用於正當用途，但也注意到部分使用者生成違反使用政策的內容，因此決定先行下架，並重新強化系統的安全防護與提示詞限制，待完成調整後再重新開放。

Google 也強調，這些 AI 生成圖片並不會直接出現在一般使用者的 Google Earth 畫面中，而是透過獨立工具產生，所有輸出的圖片也都會加上「由 AI 建立」的數位浮水印。

不過在生成式 AI 與深偽技術快速發展的情況下，如何兼顧創作自由與內容真實性，也再次成為科技公司必須面對的重要課題。

參考來源

• Dexerto