钧正平：勿让AI谣言成为“震”中之痛

西藏日喀则市定日县发生地震后，牵动着全国人民的心。目前军地联合救援行动仍在紧张有序进行。广大网民通过网络社交平台密切关注救援工作进展，祈愿大家平安。

然而，在这令人揪心的特殊时刻，少数别有用心之人却借着舆论对抗震救灾的关注度，动起了歪脑筋。一些关于灾情的虚假信息在网络上公然传播，对公众造成了误导。其中，一张“戴着帽子的小男孩被压在废墟下”的图片在多个账号发布，并和日喀则地震关联。这些账号有的甚至获得好几万的转评赞，不少网友在留言区关心孩子现在是否安全。

实际上，这张图片并非真实的地震现场画面，而是通过AI工具生成的虚构图像。且这张图片于2024年11月18日首发，发布者在发布时已经声明此图由AI生成。但是，一些人却将其与日喀则地震进行关联，且没有标记由AI生成。此举不管是故意渲染博取关注，还是出于关心受灾群众而转发，都极可能误导公众判断，浪费救援资源，一定程度扰乱社会秩序。

灾难不容调侃，伤痛不容戏谑。AI技术作为现代科技的代表，其强大的数据处理和分析能力本应成为我们应对灾害、拯救生命的得力助手，而非沦为造谣传谣的工具。在抗震救灾的生死时速中，每一秒都承载着生命的重量。我们需要的是真实准确的信息传递，以便救援队伍能够迅速定位受灾区域，精准实施救援行动。而在这特殊时期，有人却妄图利用AI技术制造谣言，博取关注，这种行为不仅违背了科技发展的初衷，更是对受灾群众生命的漠视。

互联网时代，热点事件似乎已经成为天然的流量密码。特别是天灾人祸时，更是谣言、虚假信息等网络乱象的“密集输出期”。海量信息的轰炸、信源的不明确性，这些给信息甄别已经增加了困难。而随着AI技术的快速发展，其作为一种新型造谣手段，更是给信息的真伪带来了极大辨别难度。

过去，我们常说“有图有真相”，但如今图和视频很可能是AI伪造的。只要输入关键词，AI就能借助深度伪造技术在网络上抓取信息并生成文本、图片、视频与录音。此类谣言生成成本低、生产批量化、迷惑性极强，更是彻底打破了大众“眼见为实”的传统认知。比如此前“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等，这些耸人听闻的消息，都是利用AI软件炮制的谣言。

网络空间不是法外之地。对于利用AI故意制造和传播虚假灾情信息等恶劣行为，有关部门必须依法严惩、绝不纵容。我国《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》都有相关的明确规定。任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

此外，网络平台和相关软件也要尽到监管义务。比如AI生成软件方面，应对关键词进行识别，尤其是涉及灾情等敏感信息，用户在输入关键词时应给予明确警示；平台方面，除了对AI生成内容进行显著标识外，应加强审核力度，发现有发布违规信息的，应立即停止传播，避免虚假信息误传。只有强化各方的主体责任，才能有效打击各类AI谣言，防止技术跑偏和滥用。