当地时间10月27日，美国国家飓风研究中心表示，飓风“梅丽莎”已升级到最高级别：五级飓风，预计将于当地时间28日一早在牙买加登陆。受飓风影响，牙买加可能出现灾难性山洪和山体滑坡。

就在牙买加等加勒比沿海各国严阵以待时，多家外媒发现，社交媒体上开始充斥大量由人工智能（AI）生成的视频。这些视频展现了一系列围绕飓风虚构的情景：夸张的新闻播报、严重的洪灾画面以及水中鲨鱼的影像。专家认为，这些视频分散了人们对重要安全信息的关注，可能引发公共安全风险。

法新社网站报道截图

法新社在27日的报道中说，尽管该机构发现不少虚假视频都带有OpenAI文本转视频模型 Sora的水印，但许多用户并未意识到这些视频是由人工智能生成的。报道同时提到，多家社交媒体平台都规定发布者必须对人工智能生成内容进行标注，但实际中只有部分视频加上了相关标注。

加标注为何如此困难？平台对AI生成内容进行甄别和监管又难在哪里？

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括：

·目前，人工智能对于真实生活、真实现象的复现及展示能力越来越强，客观上确实容易导致“逼真”的虚假信息或虚假视频的传播。这些信息在传播过程中，可能会带来公共安全以及公共秩序层面的一些隐患与风险。

·人工智能语境下，相关内容的生成量大、生成速度快，给甄别与识别带来一定挑战。而一些平台在运营过程中是有一定的倾向性的，换言之，出于对流量的考虑，一定程度上会出现听之任之的情况。

·如何平衡把握内容生成传播与必要监管之间的界限，在技术运行中涉及多方利益，挑战较大。

法新社在报道中援引网络安全专家的观点称，此次与飓风“梅丽莎”相关的AI生成内容泛滥，凸显出新的文本转视频模型如何“加速了令人信服的假消息的传播”。

法新社网站报道截图

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括：

·人工智能的应用在一定程度上“拉齐”了资源差异：凭借快速的生成和传播速度，能够产生大量有针对性的内容，而且成本非常低，这就会造成同一种信息类型的密集“轰炸”。

·在人工智能的语境和传播机制下，我们基于以往经验的观察和判断可能并不一定实用。因此，我们不仅需要擦亮双眼，也需要借助一些新的方式、方法，包括借助必要的工具来增强自身的甄别能力。

多家外媒在报道中称，牙买加政府已经注意到这些虚假视频的泛滥，相关部门呼吁民众听取官方渠道的正确消息和意见。

法新社在报道中援引专家的观点指出，即便是看似无害的虚假内容也可能导致重要安全警报被淹没，或者让民众低估严重风暴的危险性。俄克拉荷马大学气象学教授艾米·麦戈文则表示，“虚假内容削弱了政府关于做好准备这一信息的严肃性”，“最终，这种虚假内容或导致生命和财产的损失”。