KB·体育(sports)官方网站-IOS/安卓通用版/手机app下载

　　知名医生张文宏带货蛋白棒？不久前ღღ，某视频博主发布的视频中ღღ，张文宏医生强烈推销一款蛋白棒ღღ，让不少网友信以为线件ღღ。

　　张文宏随后作出回应称ღღ，视频是AI合成的ღღ，“我在发现这事后立即投诉过那个AI合成的视频ღღ，但是它的账号一直在换ღღ，自己最后也没精力了ღღ。这些假的AI合成信息就像蝗灾一样ღღ，一次又一次发生ღღ，像漫天飞过来的蝗虫一样害人”ღღ。

　　AI换脸技术的应用边界何在？如何打击和治理网络中滥用AI换脸技术的不法行为？对此ღღ，记者进行了调查采访kb体育官方网站首页ღღ。

　　“爸妈ღღ，我现在在医院ღღ，着急用钱ღღ，麻烦再给我转两万吧……”视频中ღღ，女生神态焦急地倾诉着最近遇到的难事ღღ，向父母要钱ღღ，语气恳切ღღ，看上去几乎毫无破绽ღღ。

　　随后ღღ，该视频发布者发布了原视频ღღ，视频中ღღ，女生只是在和掌镜的朋友正常交流对话ღღ，所说的内容和神态与上一条视频中的完全不一样ღღ。

　　随着AI技术发展ღღ，AI换脸图片和视频成为热门现象ღღ，娱乐之余ღღ，让人真假莫辨ღღ，风险与困扰也不少ღღ。

　　《法治日报》记者近日调查发现ღღ，互联网上ღღ，不仅有人随意兜售AI合成软件ღღ，“手把手教学”ღღ，使得制作生成AI“克隆人”视频的技术成了一门生意ღღ。还有人利用知名人士视频和声音AI合成新的视频ღღ，发在短视频平台上用来卖货ღღ。更有甚者ღღ，滥用AI换脸技术走上了违法犯罪的道路ღღ。

　　AI合成技术亟待加强监管ღღ。多位受访专家建议kb体育官方网站首页ღღ，完善立法ღღ，明确定义深度合成技术的应用范围和法律边界ღღ，细化平台ღღ、技术提供商ღღ、内容制作者及用户的法律责任ღღ。同时ღღ，构建多元主体协同治理的体系架构ღღ，全方位ღღ、全环节整治和打击涉AI犯罪活动和网络黑灰产业链ღღ。

　　在上述利用AI合成技术生成的视频介绍中ღღ，作者打出了“AI克隆人”“AI数字人”等标签ღღ。据作者介绍ღღ，只需提供一段有清晰人脸和声音的视频ღღ，就可以在短时间内生成一个和原视频相似的新视频ღღ，说话的内容可以自行编辑文本ღღ。

　　记者查看视频评论区发现ღღ，该视频作者打起了“暗号”——在一些感慨技术逼真的网友评论下方留言“+薇4聊……教学ღღ，懂得来”(汉字与数字交替出现ღღ，用来代替聊天账号ღღ，暗示添加好友私聊)S货你是不是欠C了有肉ღღ。

　　记者按照提示ღღ，添加其好友询问相关视频及制作方法ღღ。昵称“AI小米××”立刻回复道ღღ：“想自用还是直接代理赚钱？”

　　据其介绍ღღ，如果是自用S货你是不是欠C了有肉ღღ，可以充值199元成为“AI幻影××”(某AI“克隆人”生成平台)的2年会员ღღ，可以立即生成AI合成视频共计38分钟ღღ，不限使用次数ღღ。而交纳499元则可以成为代理ღღ，号称“享受60%的首次分佣ღღ，躺赚20%的复购充值分佣ღღ，享受80%的招代理分佣”ღღ。

　　几天后ღღ，当记者再次试图打开上述视频时ღღ，显示“视频因违规无法播放”ღღ，违规原因“疑似为高风险的项目/引流行为”ღღ。

　　“视频里在海边游玩的不是我ღღ，而是我的数字人分身ღღ。你跟着我操作ღღ，就能定制自己的数字人ღღ，轻松实现视频流量起号……”在社交平台ღღ、短视频平台上ღღ，类似以AI数字人ღღ、“克隆人”视频引流的帖子有很多ღღ。

　　记者就制作AI数字人的流程咨询一博主ღღ。该博主在之前发帖中明确表明“不收费”“不用花钱”ღღ，但提出要加入群聊成为会员ღღ，他会在群内发布相关操作指南和课程ღღ。

　　此外ღღ，在多个网购平台ღღ、二手交易平台ღღ，AI“克隆人”商品也可以随意买到ღღ。记者在某网购平台检索“AI换脸”ღღ，显示搜索结果不存在ღღ，但更换关键词为“AI换人脸视频软件”后ღღ，立刻出现多款此类商品ღღ，价格从几元到上百元不等ღღ。

　　记者点进一款名为“AI数字人生成软件短视频制作对口型形象声音克隆定制AI分身”的商品ღღ，咨询店主后对方回复称ღღ：“使用软件时ღღ，您可以上传30秒以上的自己形象视频ღღ，然后输入文字ღღ，我们××数字人系统就可以给您生成对应口型和克隆您声音的视频了ღღ，2分钟左右就可以生成好ღღ。您下单后客服会一对一服务到您学会使用为止ღღ。”

　　随即ღღ，对方发来一个标价为98元的下单链接ღღ，称这是购买该软件的月卡ღღ，可以制作约30秒以内的视频32个kb体育官方网站首页ღღ，“短视频养号一个月足以快速起号”ღღ。

　　前不久ღღ，天津红桥警方在一起AI诈骗案中ღღ，成功追回市民被骗的83万元ღღ。天津市民李先生此前收到了一条短信ღღ，对方自称是李先生单位的领导ღღ，要求加其社交软件详聊ღღ。

　　加上好友后ღღ，对方便以有急事需要资金周转为由ღღ，要求李先生向其转账ღღ，还保证事后钱款一定返还ღღ。对方还主动打来视频电话ღღ。看到视频那头出现的确实是“领导”ღღ，李先生瞬间放下戒备ღღ，分3笔向对方汇款95万元ღღ。当天下午ღღ，李先生与朋友聊天时提起这件事ღღ，越想越觉得不对劲ღღ，于是报警ღღ。

　　接到报警后ღღ，天津警方迅速与银行开启联动机制ღღ，及时对3张银行卡进行紧急止付操作ღღ。银行成功冻结了涉案资金83万元ღღ。

　　据办案民警介绍ღღ，一些不法分子利用AI技术ღღ，将他人的脸换成熟人或亲人的脸ღღ，冒充诈骗对象的重要关系人ღღ，通过合成视频或照片来“以假乱真”ღღ，扰乱被诈骗对象的视线进而实施诈骗ღღ。

　　据公开资料ღღ，此前ღღ，有人在社交平台用AI换脸成富商马云ღღ，视频连线获取网友信任ღღ，目标受众多为对AI缺乏认知的中老年人ღღ，之后再以“做扶贫项目”等为由骗取钱财ღღ。还有人在短视频平台上冒充演员靳东与中老年人接触ღღ，以需要钱拍戏为由诱使他人转账ღღ。

　　对此ღღ，北京航空航天大学法学院副教授赵精武分析说ღღ，利用AI换脸技术进行带货等行为ღღ，如果仿冒他人ღღ，除了构成民法上对肖像权等人格权的侵害之外ღღ，根据情节轻重ღღ，还可能构成刑法上的虚假宣传ღღ、网络诈骗等犯罪行为ღღ。

　　“而随意售卖AI合成软件的行为ღღ，倘若存在主动为犯罪行为人提供相关软件服务等情形ღღ，则可能与犯罪行为人构成共同犯罪ღღ。”赵精武说ღღ。

　　“如果通过AI换脸技术编造险情ღღ、灾情等ღღ，还有可能构成编造ღღ、故意传播虚假信息罪ღღ。”北京盈科(上海)律师事务所数智化建设委员会副主任李悦举例说ღღ，前一阵子的“西藏小男孩被埋图”ღღ，虽然使用的AIGC技术不是深度合成AI换脸ღღ，但也是使用AI技术S货你是不是欠C了有肉ღღ。据了解ღღ，该行为人已被追究行政责任ღღ。如果其情节更严重的话ღღ，或构成编造ღღ、故意传播虚假信息罪ღღ。

　　李悦强调ღღ，首先必须明确ღღ，技术本身是中立的ღღ。AI换脸作为深度合成技术的一种具体应用ღღ，虽然存在被滥用的风险ღღ，但其本身并无“原罪”ღღ。目前ღღ，一些平台上的个人“售卖技术”行为ღღ，教他人使用开源项目或某些应用ღღ，本质上是在利用信息差ღღ。然而ღღ，如果课程内容专门教授如何突破深度合成应用的内容审核机制ღღ，则应当被否定ღღ。平台可以通过限流ღღ、警告ღღ、冻结账号等方式对这些视频内容进行规制ღღ。

　　“虽然AI技术在不断进步ღღ，但目前而言ღღ，仔细看的话还是能识别AI合成的视频ღღ。”李悦说ღღ，AI合成视频往往在面部细节上存在较为显著缺陷ღღ：微表情缺失(如眼角细纹ღღ、嘴角抽动难以捕捉)ღღ、光影不匹配(轮廓和阴影过渡不符合光线反射规律)以及皮肤过于光滑(缺乏毛孔ღღ、纹理和瑕疵)ღღ。在眼神与表情方面ღღ，眼球运动机械化(转动不连贯ღღ、眨眼频率异常)ღღ，面部表情僵硬(转换生硬ღღ、笑容缺乏真实感)ღღ。

　　“在运动过程中也会出现明显的问题ღღ，比如脸部变形等ღღ。观看手部动作也是一个比较快速识别的技巧ღღ，曾经很长一段时间ღღ，AI在处理人手的时候会出现非常多的问题ღღ，比如关节畸形等ღღ。”李悦说ღღ。

　　“据我观察ღღ，AI生成的语音通常更加流畅ღღ，语速更快kb体育官方网站首页ღღ，且较少出现“额”“嗯”“也就是说”等语气词或停顿ღღ。”李悦说ღღ，虽然声音克隆技术近年来取得了显著进步ღღ，几乎能够达到以假乱真的程度ღღ。但如果仔细辨别ღღ，仍然可以识别出AI生成的声音ღღ。毕竟截至目前ღღ，尚无任何一款AI能够通过图灵测试ღღ。

　　据赵精武介绍ღღ，我国目前对于AI合成技术已经作出了较为充分的规定ღღ，例如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等ღღ，明确要求深度合成服务提供者落实信息安全主体责任ღღ，使用者不得滥用深度合成服务ღღ。

　　李悦介绍说ღღ，我国于2023年颁布《互联网信息服务深度合成管理规定》ღღ，针对该技术的规范管理迈出了重要一步ღღ。在人工智能整体领域ღღ，我国也持续推出了一系列相关规定S货你是不是欠C了有肉ღღ，包括目前正在研讨的人工智能法ღღ。

　　“当前全球范围内AI技术竞赛异常激烈ღღ，我国在这一领域仍处于“追逐者”的位置ღღ。因此kb体育官方网站首页ღღ，我们应更深入地思考ღღ：究竟需要构建怎样的人工智能法律体系S货你是不是欠C了有肉ღღ。这一体系既要能够适应技术快速发展的需求ღღ，保障社会公共利益ღღ，促进人工智能产业的健康可持续发展ღღ，又要助力我国在AI竞赛中提升竞争力ღღ，实现从“追逐者”向“引领者”的转变ღღ，从而在全球AI发展格局中占据更有利的位置ღღ。”李悦说ღღ。

　　李悦说ღღ，技术难题主要体现在匿名性ღღ，犯罪分子使用匿名身份和虚拟货币ღღ；取证困难ღღ，需证明视频真实性ღღ、来源及目的ღღ，以及跨境性ღღ，一些犯罪工具或行为涉及境外ღღ。法律难题则包括责任链条长ღღ，涉及AI工具提供者ღღ、制作者和传播者ღღ；主观性认定困难ღღ，需证明行为人明知违法ღღ，且证据标准高S货你是不是欠C了有肉ღღ。

　　“滥用AI技术实施犯罪行为往往与传统犯罪行为(如电信诈骗ღღ、传播网络谣言等)相结合ღღ，需要公安机关联合各大网络平台采取更为直接ღღ、有效的治理措施ღღ。”赵精武说ღღ。

　　为此ღღ，他建议构建多元主体协同治理的体系架构ღღ：公安机关与网信ღღ、工信等部门联动执法ღღ，全方位ღღ、全环节整治和打击涉AI犯罪活动和网络黑灰产业链ღღ；执法部门同步更新监管技术ღღ，推动人工智能技术在刑事侦查等领域的应用ღღ，进而更高效ღღ、更精准地打击滥用AI犯罪活动ღღ；网络平台积极落实平台主体责任ღღ，积极配合执法活动ღღ，严格落实网络实名制和黑名单制度ღღ，严防各类犯罪行为人通过更换账号登录方式躲避平台监管ღღ。

　　李悦建议ღღ，立法方面ღღ，需明确定义深度合成技术的应用范围和法律边界ღღ，细化平台ღღ、技术提供商ღღ、内容制作者及用户的法律责任ღღ。同时ღღ，加大对利用AI技术实施犯罪行为的刑事处罚力度ღღ，并完善针对AI合成视频的证据规则ღღ，明确其法律效力ღღ。

　　“技术方面S货你是不是欠C了有肉ღღ，推广AI合成视频的检测工具和溯源技术ღღ，研发高效ღღ、低成本的检测服务ღღ，并向公众开放ღღ。利用水印技术对AI生成内容进行标识ღღ，便于追踪和识别ღღ。”李悦说ღღ，此外ღღ，可以建立AI企业备案制度ღღ，加强对企业资质ღღ、数据安全和算法透明度的监管ღღ。

　　李悦提出ღღ，进一步强化平台责任ღღ，要求平台对用户发布的内容进行审核ღღ，及时处理违法信息ღღ。制定AI行业行为准则和道德规范ღღ，推动行业自律和技术应用的伦理合规性ღღ。建立跨国执法合作机制ღღ，共同打击跨境AI犯罪ღღ，并共享AI犯罪案例和犯罪手法信息ღღ，提升全球范围内的防范和治理能力ღღ。

　　“AI技术的宣传教育也很重要ღღ。”李悦说ღღ，对执法人员ღღ、司法人员进行AI技术知识培训ღღ，提升其专业能力和执法效率ღღ。同时ღღ，通过媒体宣传提高公众对AI犯罪的防范意识ღღ，普及AI技术的基本知识和风险ღღ。

　　受访专家指出ღღ，目前精准打击利用AI合成技术违法犯罪行为还存在一些难点ღღ。李悦建议ღღ，立法方面ღღ，需明确定义深度合成技术的应用范围和法律边界ღღ，细化平台ღღ、技术提供商ღღ、内容制作者及用户的法律责任ღღ。网红养成ღღ，kb体育·(中国)官方网站ღღ！kb体育ღღ。体育明星ღღ，kb体育APP下载ღღ！kb体育官方网站首页ღღ。