AI换脸、盗播等AI数字人直播、虚拟场景带货等场景出现的乱象或面临新一轮打击。12月4日，南都N视频记者从北京市消费者协会（下称“北京消协”）处获悉，近日，北京消协联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台，正式签订全国首份《促进AI技术规范应用承诺书》（以下简称《承诺书》），从技术标识、内容审核、责任追溯等环节建立企业自律规范，提出六大具体举措，划定AI技术应用“合规红线”凯丰资本，压实平台企业主体责任，切实维护消费者合法权益。 凯丰资本
聚焦AI合成技术应用侵害消费者权益三大问题
近年来，AI数字人直播、虚拟场景带货等新技术应用快速普及，在提升消费体验的同时，部分商家的违规操作也引发消费者广泛担忧。
今年11月初，演员温峥嵘就自曝刷到主播用AI假冒自己的直播间，上前质问却被拉黑。12月1日，温峥嵘在社交平台晒出唐山市公安局路北分局的受案回执，并配文字称“报警立案”，同时发出声明表示，近期，网络上频繁出现以盗播、AI换脸等方式，非法使用温峥嵘女士形象售卖假冒伪劣产品的不法行为。经权威媒体曝光后，相关平台已对部分侵权人采取了封禁网络店铺、删除侵权作品、下架假冒伪劣商品等措施。
据了解，北京消协历时3个月开展专项调查，通过问卷调研、体验式调查、专家研讨等方式锁定当前AI合成技术应用中侵害消费者权益的三大突出问题。
一是消费者知情权保障不足，“真假难辨”困扰普遍存在。据北京消协3162份有效回收问卷调查数据显示，近九成的受访者呼吁“AI生成内容需显著标识”，超七成接受虚拟背景但强调需有显著提示，超六成认为AI数字人“缺乏真情实感”，近三成担忧其“可能误导消费决策”。
二是合成技术滥用滋生消费风险，“虚假营销”问题凸显。据了解，针对电商平台的AI数字人、AI场景直播带货行为，北京消协通过“模拟消费者在直播间购物+线下比对实物”的方式，对10个AI数字人直播带货样本开展体验调查。调查发现，5个样本未在直播界面标注“AI生成”“拟真场景”等提示信息，5个样本没有对体验人员的问题进行及时回应或互动；6个样本存在未提示私下交易风险等问题。
此外凯丰资本，部分网络直播中存在利用公众信任谋取不当利益的情况，近期网信部门也处置了一批利用AI换脸技术仿冒公众人物开展直播营销的网络账号。
三是平台审核机制存在短板，“风险防控”能力待提升。据悉，北京消协经与专家研讨调研发现，当前部分电商平台尚未建立健全AI内容审核专项制度，对商家使用AI数字人、虚拟场景等技术缺乏有效管理规则和精准识别技术，导致消费者在购物过程中难以快速辨别信息真伪，增加了消费决策风险。
从内容审核、责任追溯等方面划定“合规红线”
因此，针对上述三大问题，全国首份《促进AI技术规范应用承诺书》以“标识透明、审核严格、责任可溯”为核心，提出六大具体措施为AI技术在电商领域的合规应用划定“红线”。
一是坚守法律底线，明确合规边界。严格遵守《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《人工智能生成合成内容标识办法》等法律法规，要求平台及商家在应用AI生成合成技术时，必须以保障消费者合法权益为前提。
二是强化标识要求，保障知情权利。要求商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时，在显著位置清晰标注“AI生成”或“拟真场景”等提示内容；鼓励使用平台提供的统一AI内容标识功能主动声明，严禁利用AI合成换脸技术仿冒名人明星带货。
三是技术监测与人工复核结合，阻断违规传播。在内容审核与传播环节，采取措施对商家或内容创作者的直播内容、直播场景进行监测，一旦发现没有标识的疑似AI数字人或AI虚拟场景问题，将及时采取适当方式在发布内容周边添加显著的提示标识，经平台研判，确系存在违规行为的，将进一步采取屏蔽链接等措施。
四是提供工具支持，引导主动合规。为商家及内容创作者提供便捷的AI标识工具和清晰的操作指引，引导其主动规范使用AI标识。
五是严打标识造假，维护制度公信。坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为，对违规账号及内容依法依规严肃处理，维护AI制度的严肃性。
六是强化培训赋能，提升行业认知。将AI内容标识要求纳入平台治理体系，对商家或内容创作者加强合规培训，提升平台内AI技术合规水平。
签订《承诺书》仅是规范AI技术应用的第一步。北京消协表示，下一步，消协组织将持续跟踪网络AI技术应用动态，组织志愿者体验直播间购物、追踪反馈实际感受，督促企业严格落实承诺内容。同时，通过线上线下多渠道开展消费教育活动，向广大消费者普及AI技术常识，提升消费者辨别虚假内容的能力与防范意识。
采写：南都N视频记者 林文琪
广盛网官网提示：文章来自网络，不代表本站观点。
