我Ai问两会|很多人被AI做的视频骗了，怎样才能让AI不当“骗子”

很多人都被人工智能生成的视频给骗了！伴随着人工智能的飞速发展，各类AI内容生成工具涌现。只需要一则指令，AI就能按照要求生成你想要的视频。然而，一些不法分子利用这一技术从事不法行为，损害他人的名誉、知识产权。怎样才能让AI不当“骗子”？全国政协委员、南京大学教授周志华建议，对于人工智能生成内容应要求明确标注，让受众有明确的知情权，这样能给普通人增强保护。

“现在看到的听到的，都不见得是真的。”周志华告诉记者，伴随着人工智能的飞速发展，大模型的普遍应用，现实的法律挑战随之而来。当下人工智能生成的内容，一方面可以在很多领域发挥作用，如短视频、电影、文学等领域，但另一方面，如果出现滥用和误信，会造成很多危害。

周志华介绍，人工智能生成内容的技术成本低、门槛低，易被犯罪分子利用。同时，由于大众对于人工智能生成内容的认识不足，对深度造假的内容易误信而造成损失。“现在大家对于电诈等行为已经有比较多的了解，但对于人工智能生成内容，一般人的警惕性还不够。” “前不久我们了解到一个案例，一家公司的工作人员收到短信通知让他参加视频会议，在会议上领导当面让他尽快汇出一笔款项，会后他照做了。后来才发现他被骗了，因为这个会议、包括会议上的领导，都是犯罪分子利用人工智能生成出来的。”

很显然，这是监管的盲区。周志华表示，目前，人工智能生成内容的立法和监管还比较欠缺，“对于借助人工智能生成内容来从事不法行为进行牟利、损害他人的名誉、损害知识产权等，在依法打击惩处方面还缺少充分的法律支撑，所以，我们期待加快推动人工智能生成内容方面的立法和监管”。

周志华建议，在实际应用中，要对人工智能生成内容进行明确标注，让受众有明确的知情权，有助于受众增强信息辨识能力，从而增强自我保护能力。他还表示，针对利用人工智能进行诈骗、侵害名誉权等行为，应加大处罚力度，遏制这一不良现象的蔓延。“在推动人工智能生成内容应用的同时，必须加强对其的监管和规范，构建起一个由司法部门、行业协会以及社会各界共同参与的多层次监管体系。通过明确各监管主体的职责与权限，形成合力，共同维护人工智能技术的健康发展，使其更好地服务于社会进步和人民福祉。”

扬子晚报/紫牛新闻记者   杨甜子

摄像   戎毅晔  于房浩

剪辑   马斌

校对 陶善工

编辑 : 胡妍璐