中國疑借ChatGPT研發鎮壓工具  監控維吾爾及掃描社媒言論

美國人工智能公司OpenAI發表報告，點名多個疑似中國官方人員帳戶，曾經請求ChatGPT協助撰寫大規模監控方案，以此追蹤維吾爾族及其他「高風險人士」，甚至設計可掃描Facebook、X等社交平台涉及政治及宗教言論的產品；俄羅斯、柬埔寨與北韓亦曾使用ChatGPT執行類似任務。OpenAI強調，這類可疑帳戶目前主要借助AI改善既有工作流程，未有開發全新攻擊工具，OpenAI已將它們全部封鎖。

OpenAI昨（7日）發表的《打擊惡意濫用人工智能》（Disrupting malicious uses of AI）報告，點名一個「極可能與中國政府機構有關」的ChatGPT使用者，要求AI協助起草一份名為「高風險維吾爾相關人員流動預警模型」（High-Risk Uyghur-Related Inflow Warning Model）的方案，包括分析交通工具訂票資料，並與警方記錄交叉比對等，藉此對所謂「高風險人員」行動進行監測與預警。

疑似中國用戶設計「社媒探測器」 

報告還提到，一名可能透過VPN從中國使用ChatGPT的用戶，曾要求AI協助設計「社交媒體探測器」的宣傳素材與專案計劃。這項探測器據稱能夠掃描X、Facebook、Instagram、Reddit、TikTok和YouTube等平台，偵測極端言論與涉及民族、宗教和政治的內容。但報告強調，有關用戶並沒有利用ChatGPT直接監控社交媒體。

OpenAI首席調查員尼莫（Ben Nimmo）接受CNN訪問時表示，中共早就開始監控中國人民，但現在正試圖透過人工智能，讓監控行動變得更精準和更有效率。

俄羅斯黑客與柬埔寨詐騙集團同樣是AI用家

AI技術還全面滲透到全球犯罪與情報活動。報告指，俄羅斯黑客利用ChatGPT改良程式碼、編寫惡意軟件，或者潤飾釣魚郵件，以此提高詐騙成功率。柬埔寨詐騙網絡、緬甸詐騙集團和韓語社群組織，也曾試圖利用AI修飾、研發和改良惡意軟體，使其工作流程更有效率，甚至處理財務管理，研究網路詐騙的相關刑罰等。

OpenAI安全專家弗洛斯曼表示，這些使用者並非創造全新攻擊手法，而是透過語言流暢度、貼近本地語境，以及持續性來改進既有技術，使外界更難分辨真偽。

自2023年以來，OpenAI已封鎖超過40個違反政策的可疑網絡，並通報有關機構跟進。對於OpenAI最新指控，中國駐美大使館發言人劉鵬宇表示，反對毫無根據的攻擊與抹黑，並強調中國已推出涵蓋演算法服務、生成式AI及資料安全的重大政策規劃。