李济良 绘

　　近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。那么，这些看似权威的推荐，是否真的出自专家本人?背后隐藏着什么秘密?

　　名医现身科普视频

　　一条AI仿冒视频中，侃侃而谈的专家，商家称是北京协和医院临床营养科主任于康教授，他是我国营养与健康领域的权威专家。

　　记者在短视频平台刷到不少以于康教授形象出镜的科普视频，介绍和推销减肥食谱。记者联系北京协和医院调查核实，于康明确表示，其从未录制此类视频。

　　于康说：“我几乎天天收到亲友发来的消息‘这是你吗?’我一看完全是我的形象，声音相似度超乎了我的想象。”

　　科普视频中，商家不仅盗用于康的形象，其介绍的营养知识，也是毫无依据。

　　于康说：“商家借我的嘴说出来的话，好像是有一定公信力，但是商家利用这一点，兜售很多不良商品，甚至传播错误信息。”

　　于康更为担忧的是，视频里的错误信息，会让营养学界长期以来的科普努力付诸东流。

　　记者注意到，这些短视频都来自一些自媒体账号，除了名人形象，还有一个共同点是使用虚拟背景。

　　不仅于康有这样的困扰，北京协和医院临床营养科教授马方也遭遇了同样的情况。在某平台的网店链接视频里，“马教授”分享了自己的减肥经历。

　　据北京协和医院介绍，不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号，销售各类商品，误导消费者，医院、医生深受其害。

　　AI伪造名主持人带货

　　随着AI仿冒视频泛滥，多位公众人物的形象被擅自用于商业推广，司法部门和监管部门已查处多起案件。

　　今年初，北京市海淀区市场监管局接到消费者举报，一直播间宣称一款鱼油产品有医疗功效。该账号发布的短视频中，出现中央广播电视总台主持人李梓萌的形象。

　　记者注意到，发布仿冒李梓萌短视频的账号名为“广州白云深海鱼油工厂”，拥有80多万粉丝。进入直播间后，记者看到，这款鱼油售价59.9元三瓶。

　　北京市海淀区市场监管局海淀街道市监所科员李欣容说，这款鱼油产品的执行标准属于糖果，包装上既没有保健品的小蓝帽标识，也不属于药品，没有获得药品注册批文。直播间或者短视频中，对普通的食品宣传有医疗治疗功能，或者说使用医疗用语，肯定是违法的。

　　北京市海淀区市场监管部门经过核实，最终确认主持人李梓萌从未代言这款鱼油产品，也未授权使用其形象进行宣传。

　　李欣容说，当事人承认这个短视频中李梓萌的形象是他们的员工在网络上搜集李梓萌播报过的新闻片段，通过AI技术剪辑加工，最终合成这个虚构的推荐视频。

　　市场监管人员调取销售记录后发现，在这条短视频上线后的半个月里，商家借助短视频链接，累计销售鱼油1100余单，销售额达6万余元。

　　李欣容表示，在短视频中擅自使用AI技术，对知名主持人的形象进行剪辑加工，属于发布虚假广告，违反《中华人民共和国广告法》。综合商家违法情节，市场监管部门对当事人作出罚款20万元的行政处罚。

　　AI内容必须加标识

　　AI仿冒名人带货，传播虚假信息，不仅伤害被仿冒者个人名誉，侵害消费者权益，也严重破坏市场生态。各界正积极探索解决方案，以应对这一业态带来的新问题，但治理过程中仍面临不小挑战。

　　《人工智能生成合成内容标识办法》于9月1日正式实施，明确要求：利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。

　　中央财经大学法学院教授刘双舟说，根据该《办法》，AI生成的和合成的内容要加两类标识：一类是显性标识，就是公众能够通过内容标识判断出来，这是AI生成的内容。另一类是隐性标识，加在元数据上，需要标明数据的来源、用途等。

　　专家表示，各社交平台作为AI生成视频发布主要渠道，应在平台规则、内容审查等方面进一步完善相关措施。刘双舟认为，平台应建立AI生成内容审核机制，并采取下架限流等措施。

　　这些做法有风险

　　随着大模型在各行业深度应用，其安全风险呈现出复合化特征。网络专家指出，AI大模型安全涵盖数据、基础设施与模型本身三大层面，其中个人使用中的数据安全风险尤为突出。

　　网络安全专家李虎介绍，有时候只是上传了一张合照，然后通过AI美化了一下，就有可能暴露隐私。

　　因为照片上传后，不法分子可以通过人像识别技术提取人物身份，并通过人物关系，比如亲密程度，猜测是朋友关系还是家人关系，然后进一步利用这些数据。

　　除了AI大模型使用带来的数据安全外，公共场合不明来源Wi-Fi的不当连接也会造成敏感信息泄露。

　　网络安全专家王媛媛说，对免费没有密码的Wi-Fi连接，不法分子可能会利用漏洞去架设一个伪基站，诱导大家进行连接，之后再截取个人信息。

　　网络安全专家建议，个人用户要加强安全意识，优先选择合规大模型平台与正规渠道的安装应用，另外，连接Wi-Fi时要警惕无密码热点，避免落入钓鱼陷阱。

　　据11月16日央视《每周质量报告》