OpenAI披露两起AI辅助隐蔽影响行动：利用AI制造“虚假身份”传播内容

Odaily星球日报讯 OpenAI 发布报告称，近期已封禁两个利用其模型开展隐蔽影响行动（IO）的团伙，相关行动通过 AI 结合传统技术，创建“虚假前台”实体和虚假身份，OpenAI 表示，俄罗斯相关行动“Dark Clark”控制了一个名为“社会研究中心（SRC）”的虚假智库，疑似利用 ChatGPT 撰写内部报告、生成内容，并在拉美地区开展影响活动，该行动被 OpenAI 评估为 IO 突破规模（IO Breakout Scale）第 5 级，是其自开始披露相关行动以来首次发现达到该级别的案例。

OpenAI 表示，AI 并未改变这类影响行动的基本模式，但提高了其规模、效率、语言能力和内容生产能力，使攻击者能够更容易制造虚假身份、伪造内容，并将信息传播至真实媒体渠道。