全国人大代表李东生：有必要对AI生成的内容进行强制标识

记者 辛圆

生成式人工智能技术是一把“双刃剑”，它给各个领域带来机遇，但AI深度伪造内容侵权现象愈演愈烈。

全国两会即将召开，全国人大代表，TCL创始人、董事长李东生今年带来了关于加强AI深度伪造欺诈管理的建议。

李东生认为，随着生成式人工智能技术的发展，深度伪造技术也快速发展。要规范对于这一新兴技术的不当利用行为，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用，并厘清责任、对违法犯罪行为追责。

界面新闻记者发现，为治理AI乱象，深化网络生态治理，近年来相关部门出台了多项政策和措施。

例如，2023年1月10日起施行的《互联网信息服务深度合成管理规定》明确指出，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

“近年来，我国相关立法虽有关注这一议题，但已出台的规章制度尚不成体系，还不具备可操作的细则和明确的处罚标准。”李东生提到。

对此，李东生建议：一是加快人工智能深度合成内容标识管理规章制度的出台。

二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度。李东生表示，要完善对深度合成内容服务提供商未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。

三是加强深度合成内容标识技术标准和发布的管理。他建议，应出台深度合成内容标识的技术标准，保证标识的有效性；对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成人工智能生成合成内容的有效监管。