快速进化的 AI 生成技术，让生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤其是 AI 合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。
院士带货 竟是 AI 伪造
不久前，网络中出现了这样一个视频，视频中张伯礼院士正在为某美白护肤品进行宣传。
中国工程院院士 天津中医药大学名誉校长 张伯礼：这些内容全是假的。我从来没用过这个护肤品，我也没做过这方面的宣传，更没研究过，所以里边完全是编造的。
实际上，这是一个 AI 制作的视频，视频中使用张院士的形象和声音，从而达到以假乱真的效果。张院士介绍，像这样涉及他形象和声音的假视频在网络上传播的至少还有十几条。
《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。为此，天津中医药大学紧急给网信部门发函，申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。
中国工程院院士 天津中医药大学名誉校长 张伯礼：非常气愤，我觉得假视频对我的影响还是第二位的，更可怕的是这些东西误导消费者，对老百姓造成的影响，又花了钱，有的时候还买了假药，影响老百姓的健康，同时也违反国家的法律，破坏市场秩序。专家的形象受到玷污，我们确实也很气愤，但是又很无奈。
近年来，通过 AI 深度伪造技术假冒名人的事件频繁发生。除了张伯礼院士之外，一些商家通过 AI 换脸、合成人声等手段，将一些名医、名人、企业家的面容与声音进行移花接木，有的用于直播带货、有的用于推广营销产品、有的被制作成了搞笑视频。
专家：AI 伪造
是必须消灭的一个 " 拦路虎 "
AI 生成技术原本是一件好事，然而被别有用心的人利用后，却成了编造虚假信息的工具。专家呼吁，AI 伪造是新兴技术发展的 " 拦路虎 "，必须从严惩治。
专家指出，AI 换脸拟声，不当滥用，成为违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建 " 以人为本、智能向善 " 的人工智能发展生态。
复旦大学新闻学院教授 马凌：我看到了好多像这种数字人，他会截取某些人的形象，某些人的音频来生成一个非法的数字人，就可以直播带货了。所以它影响到的不仅是老年群体，也影响到了更广大的群体，包括部分上网的孩子也会受到影响。
据介绍，另一方面，AI 生成虚假信息泛滥也对社会公信力构成了严峻挑战。
复旦大学新闻学院教授 马凌：AI 造假新闻现场，它给新闻业带来的负面影响太大了。正常的新闻工作者是不会使用这样的图像，但是如果被某些别有用心的人所利用，被社交媒体所广泛利用，它毁损的是社会的公信力，它不仅抹黑了媒体，也让公众的认知发生混乱。长此以往，可能整个社会都会充满互相不信任的情绪。
近日，为了促进人工智能健康发展，规范人工智能生成合成内容标识，国家互联网信息办公室等部门联合发布了《人工智能生成合成内容标识办法》，9 月 1 日起施行。服务提供者应当按照要求对生成合成内容添加显式标识，以及在生成合成内容的文件元数据中添加隐式标识。任何组织和个人不得为他人实施恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
中国政法大学传播法研究中心副主任 朱巍：加不加 AI 的标识，表面上看，形式上是一个法律的明确规定，它的客观影响很深远。不仅是确定知识产权，更重要的是保障信息的公开公正，保障信息的顺畅流转。
中国工程院院士 天津中医药大学名誉校长 张伯礼：例如在网络自媒体发布，应该有一个监管。有的是平台发布，平台的从业者应该有审查的责任。我们去投诉举报，得有专门部门去接收，承担起责任。第二点要加强监管，网络部门、互联网监管部门得发挥作用。再就是法律，甚至是公安部门都要介入才行，加大处罚，不管是谁的连带责任。我觉得应该出台一些综合的治理措施来解决这个问题，不能再拖了。
AI 解读 AI：
给 AI 留下最深印象的 AI 虚假信息是什么？
AI 技术在大幅提高各行各业工作效率的同时，也大幅降低造假门槛。对于 AI 来说，近期发生的 AI 制造虚假信息的案例，有哪些让它印象深刻呢？AI 能否辨别 AI 生成的虚假内容呢？
总台央视记者 郑怡哲：用 AI 解读 AI，刚刚我问了人工智能最近印象深刻的 AI 造假的案例，它列举了很多，而且做了分类。
例如，自然灾害谣言是它认为影响非常大的一个类别，AI 制作的虚假信息成了 " 恐慌放大器 "。很多人熟悉的西藏定日县地震后，一张 " 被埋废墟的小男孩 " 图片在网络疯传，该图因男孩有六根手指被识破，但已造成大量恐慌。
还有一个类别，AI 技术伪造名人背书与权威数据伪造，利用公众信任牟利。前段时间盛传的 "80 后死亡率 5.2%"" 每 20 个 80 后就有 1 人去世 " 等虚假信息，在公共领域造成的危害非常大。所以央视新闻频道在西藏定日地震废墟小男孩的虚拟照片，以及 80 后死亡率的问题上，迅速给出辟谣，让观众了解到最权威的信息。
总台央视记者 郑怡哲：能否用 AI 识别 AI 造假的内容呢？AI 告诉我，现在还真有不少机构和软件已经实现了这项技术。拿图片来说，有一些是肉眼能判断，一眼假的 AI 生成图。还有一些看起来相对真实的伪造图片，其实在人工智能看来，也往往暗藏了像素规律甚至是电子签名。AI 也承认，这些技术上的所谓 " 缺陷 "，未来可能通过深度伪造而更加难以识别。但是 AI 的创造能力和辨别能力，本就是互相博弈，不断攀升。平台治理，有效监管，还有公众的防范意识，要结合起来，才能让新技术用在正道上。
（总台央视记者 杨阳 李斌 郑怡哲 赵酉龙 王殿甲）
还没有评论，来说两句吧...