报告发现:伊朗AI虚假信息攻势激增

自上月底美以部队与伊朗爆发敌对行动以来,伊朗官方媒体和亲伊朗社交媒体账号掀起了一波AI生成图像和视频的浪潮,这些内容虚假描绘了对美国和以色列军事目标的成功打击。这场宣传攻势蔓延速度之快,以至于前身为Twitter的X平台宣布对分享与冲突相关的未标注AI内容的账号实施新的处罚措施。

一场平行的信息战

自2月28日美国和以色列对伊朗目标发动袭击、军事冲突爆发以来,伊朗的信息攻势便同步展开。据《连线》杂志的一项调查显示,在数小时内,伪造图像就开始在社交媒体平台上泛滥,该调查识别出数百条误导性帖子,其中许多浏览量达到数百万次。

传播最广的虚假信息之一是由与伊朗政府有关联的新闻媒体《德黑兰时报》发布的一张图片,声称显示了卡塔尔乌代德空军基地一处被摧毁的美国雷达装置。BBC核查组确定该图像实际上是从2025年2月拍摄的巴林美国海军基地的谷歌地图卫星照片中提取的,然后使用AI进行了篡改。谷歌的SynthID水印检测工具证实该图像是用谷歌AI技术生成或修改的。开源情报公司Golden Owl的分析师塔尔·哈金指出了一个明显的破绽:"辨别方法之一是所有车辆都停留在完全相同的位置"。

另外,伊朗国家电视台播放了AI生成的视频,模拟亚伯拉罕·林肯号航空母舰被无人机群和导弹齐射击沉的场景。据《新闻周刊》报道,这些视频片段也在中国社交媒体上广泛传播,其中一段视频使用了央视新闻主播的形象以增加其可信度。来自NewsGuard的虚假信息监督报告显示,自敌对行动开始以来,至少有18项与战争相关的虚假声明与伊朗阵营的消息源有关,而在此前两周仅有5项。

X 平台实施创作者收益处罚措施

大量 AI 生成内容的涌现促使 X 平台修订了其创作者收益政策。3 月 3 日,X 平台产品负责人尼基塔·比尔(Nikita Bier)宣布,发布 AI 生成的武装冲突视频但未披露内容系 AI 制作的用户,将被暂停参与 X 平台创作者收益分成计划 90 天,若再次违规将被永久除名。

"在战争时期,人们能够获取真实的实地信息至关重要,"比尔写道。"凭借当今的 AI 技术,制作可能误导公众的内容轻而易举"。违规行为将通过社区笔记和生成式 AI 工具的元数据检测进行标记。

造假速度超越核查速度

《纽约时报》报道称,伊朗正在"在持续的军事对抗之外开展平行的信息战,将现实与虚构混为一谈"。专家告诉 Mashable,误导性帖子在几天内获得了数亿次浏览量,远远超过了事实核查工作的速度。Wired 发现,大多数病毒式传播的误导性帖子来自带有蓝色认证标记的账户——这些 X 平台付费订阅用户无论内容准确与否都能从互动中获得收益。

这一事件凸显了一个日益严峻的挑战:随着 AI 工具变得越来越容易获取,虚假信息制造速度与核实速度之间的差距持续扩大。