OpenAI披露兩起AI輔助隱蔽影響行動：利用AI製造「虛假身份」傳播內容

Odaily星球日報訊 OpenAI 發佈報告稱，近期已封禁兩個利用其模型開展隱蔽影響行動（IO）的團伙，相關行動通過 AI 結合傳統技術，創建「虛假前台」實體和虛假身份，OpenAI 表示，俄羅斯相關行動「Dark Clark」控制了一個名為「社會研究中心（SRC）」的虛假智庫，疑似利用 ChatGPT 撰寫內部報告、生成內容，並在拉美地區開展影響活動，該行動被 OpenAI 評估為 IO 突破規模（IO Breakout Scale）第 5 級，是其自開始披露相關行動以來首次發現達到該級別的案例。

OpenAI 表示，AI 並未改變這類影響行動的基本模式，但提高了其規模、效率、語言能力和內容生產能力，使攻擊者能夠更容易製造虛假身份、偽造內容，並將信息傳播至真實媒體渠道。