图片来源：《新闻女王2》创作|搜狐科技撰稿人|张颖编辑常博硕|杨瑾最近热播的《新闻女王2》中有这样一个情节：SNK电视台未经许可，利用已辞职的文惠欣和已故主播梁静仁的形象，打造虚拟主播进行新闻报道。几乎与戏剧同时，现实中也上演着类似的一幕。演员文峥嵘发现自己的形象被AI修改，带着带货出现在多个直播间。他进入直播间问道：“你是温峥嵘，我是谁？”，却被另一方直接打断。人工智能造假现象十分普遍。你在直播间看到的董宇辉这样的名人，很可能不是他们自己，而是人工智能技术创造出来的赝品。三个月前，有媒体报道称，有人利用人工智能模仿奥运冠军全红灿的声音来销售当地的鸡蛋。面对这种混乱，李L抖音集团副总裁蒋回应道，“人工智能内容侵权识别是技术行业的难题，恶意假账号持续通过技术在平台上进行对抗。抖音将持续加大投入应对挑战。”抖音一向以算法优秀着称，为何识别AI换脸也不好意思呢？一位资深算法从业者解释了人工智能检测改造搜狐技术的原理：即使图像在人眼看来完美无缺，但一旦通过频率变换等技术方法进行分析，被篡改的区域就会在某些维度上呈现异常数量的尖峰，与真实图像的特征明显不同。他还强调，对于抖音直播这样的大规模应用，可以不惜一切代价有效阻止AI变脸，比如配置顶级检测硬件或每个直播间都有最先进的防护模式，但成本将是天文数字。清华大学人工智能国际治理研究院副院长梁正教授向搜狐科技指出，当前治理的难点在于查处处罚的“及时性”。 “平台需要一定的投入才能立即识别（AI盗取了直播图像）。我们引入了‘通过对内容进行标注的方法生成的人工智能’，平台也有义务处理。”梁峥进一步强调，比“假图像”更严峻的挑战是完全虚拟的“数字人”。 “它可以凭空创造‘科学家’、‘医生’等不存在的身份，直接构成对公众的欺骗。在这种情况下，强制的‘内容识别生成的人工智能’就成为了‘内容识别’。”最重要的底线，必须让公众清楚地知道‘这不是一个真人’。”艾盗版，你阻止不了还是不想阻止？就在我刷手机的时候，我看到屏幕另一边的直播货里有一个和我一模一样的人。演员温峥嵘亲历了这一幕，在直播间打出了一句台词：“你是温峥嵘，我是谁？”被屏蔽了。抖音电商公司自10月份开展打击“假明星宣传”专项行动以来，已处理了1.1万个涉及AI假冒侵权的明星账号。内容侵权身份识别是行业的技术难题，恶意假冒账号也在平台上不断进行技术对抗。抖音将持续加大投入，应对挑战，维护创作者、交易者和消费者的合法权益。关于AI换脸的技术原理，新加坡科学技术研究局科学家李少华向搜狐技术介绍，“简单来说，人脸或者任何物体都对应着特征空间中的一个向量。比如我用我的脸录了一段视频，然后我把视频映射到特征空间，将A映射到特征空间，用b替换。然后将特征空间映射到视频，生成黄渤脸部的视频。”李少华说，“开源模型+小GPU就可以做到。”一位来自领先公司的资深算法从业者告诉搜狐科技，AI换脸或者P图的原理将会应用到梨无瑕。-对人眼来说是假的，一旦通过频率变换等技术手段分析，被篡改的区域会在某些维度上呈现异常数量的尖峰，与真实图像的特征完全不同。数字安全的难度本质上是一场成本游戏。该人士表示，理论上，只要国防开支足够高，安全护栏就很难被打破。 “例如，我们手机的身份验证系统使用不同的灯光，例如红光和紫光来进行闪烁检测。这是因为无论假人的皮肤多么逼真，它在复杂灯光下的反应仍然与真人脸不同。”该人士表示，对于抖音直播这样的大规模应用，如果没有不可避免的成本，比如为每一个直播者配置顶级的硬件检测或者最先进的防护模型，是可以有效防止AI换脸的。dcast 房间。但事实是，平台用户数量太大，要达到无盲点的安全覆盖水平，成本太高。因此，平台必须在安全投入和风险控制之间做出权衡，留下被破坏的风险。 “不存在”的“专家”比人脸盗窃更危险 针对近日引发关注的“人工智能换脸”抢劫事件，专家学者指出，这种行为的法律性质是明确的。清华大学人工智能国际治理研究院副院长梁正教授明确指出：“‘人工智能换脸’直播对公众形象人物的错误照顾，这里主要违反了法律模糊性。”北京安庆嘉祥律师事务所执行主任宋律师进一步分析，这种行为，内容生产者和商家是直接侵权的。avior不仅限于违法，还捏造事实、隐瞒真相，以非法财产为目的，欺骗众多房产的购买者，就可以构成诈骗罪。宋佳还指出，平台有义务在收到侵权通知后立即采取必要措施。当违规事实像本次事件一样成为公众话题，或者虚假账号达到较大规模时，平台就可以认为“应该知道”违规行为的存在。如果此时还不主动查处的话，可能要承担连带责任。虽然有法必依，但管理的难点就在于查处的“及时性”。梁正教授表示，“平台需要一些投资才能立即识别（AI误传图像直播）。我们推出了”对生成的合成内容进行标记的措施通过人工智能“，平台也有义务处理”。根据标签规定，在向公众和消费者提供相关产品信息和服务时，人工智能生成的文字、图像、视频等内容必须标注，以明确其来源。但如果违规行为发生在平台发现之前的短时间内，则需要事后处理。梁正教授强调，要对可追溯的违规主体实施经济罚款、账户封禁等严厉处罚，增加其违法成本。 “如果这种问题持续存在，我们要判断是平台没有履行应有的‘注意义务’，还是在技术鉴定方面投入不够？”梁正教授特别指出，比“假图像”更严峻的挑战是完全虚拟的“数字人”。 “它可以创造一个不存在的身份凭空冒充‘科学家’、‘医生’，这直接构成了对公众的欺骗。”他表示，“在这种情况下，强制规定的‘内容识别生成的人工智能’就成为最重要的底线。必须明确告知公众‘这不是真人’。”梁峥分析道，一方面，真人主播需要对直播内容的真实性负责，而数字人则不能负责。但另一方面，数字人可以24小时直播，成本也比真人主播低。他表示，面对虚拟主播带来的监管盲点，技术不能简单拒绝，但主要原则是：“只要内容不真实，必须有明确标记。这不仅是公共责任，也是平台必须履行的监管责任。”返回搜狐查看更多