AI面部交换，语音克隆…如何治愈人工智能滥用？

中国经济网络保留的所有权利
中国经济网络新媒体矩阵
在线视觉音频程序许可证（0107190）（北京ICP040090）
AI面部交换，语音克隆…如何治愈人工智能滥用？
2025年8月24日07:16资料来源：CCTV新闻客户
每周新闻|如何治愈人工智能滥用？ AI的音频集成和图像的整合量越来越多。例如，本周，奥林匹克冠军Quan Hongchan和Wang Chuqin等声音被AI克隆，以出售所谓的“当地鸡蛋”。此外，许多配音演员正在前进以保护自己的权利。因为他们信任生存的声音只需一键即可复制AI，并可以自行使用。这使我们越来越担心。当我们的声音和面孔到达Puhow时，我们应该如何保持人们的信心？ AI的发展越来越快。监督和法律应该如何使用收入？新闻周刊重点是本周：如何治愈人工智能滥用？滥用诸如AI面孔和语音克隆之类的合成技术可能并非如此。这是配音演员Sun Chenming的原始配音演员，这是一个弯曲的工作部分，由一个自我中等故事产生，该故事通过AI粘合了他的声音。如果没有警告，谁会注意到差异？ Sun Chenming最近还发现，房地产公司未经许可将其配音工作克隆，并在该公司的公司促销视频中使用。声音被AI克隆，并用于各种商业场景，但这对Sanchenming及其同事不再是新的。有人派遣太阳唱着民法法，发言权是肖像的权利，这是公民的不可侵犯的权利。因此，许多音频演员自愿转到公司促销视频的评论部分。我留下了一个集体信息。在压力下，真实的estaTE公司监控版权率并付给太阳。本周，我们的电台还提出了使用AI技术来伪造奥运会冠军Quan Hongchan出售产品的案例。这种伪造的技术导致许多名人遭受了许多事情。今年1月的微信平台的广告显示，在一个月内使用非法联合，不当营销和恶意交通收购的内容，涉及3,281个相关帐户。最近，北京互联网法院得出结论，被告使用大学老师李的肖像在未经允许的情况下宣传这本书。最后，法院裁定该诉讼违反了李的肖像和声音。 Yan Jun，北京互联网法院（Julio Court）的第三个整体司法部司法部主席：在许多情况下，在这种情况下，受伤方是具有特定社会声誉的名人，因为它提供了相应的社会Al感知和感知。更重要的是，如果产品的内容（例如产品的内容）作为错误的产品或错误的宣传，可以显着消除社会的感知，知觉和名人的信心。该AI的视频是两年前生成的。去年7月，当他在南京听到Xuanwu区法院时，他成功地通过AI面部交换软件成功打破了支付平台的面部识别系统。人工智能技术的快速发展阻碍了真理与虚假之间的区别。 Wu Yang配音演员：今年，我发现了一些促销视频。您的AI培训可以达到错误的水平。在稳定故事的70％至80％的范围内，AI可以很好地处理它。即使我自己听，也一直在区分我是否被我录制。中国中国信息和通信技术安全部高级商业主任：实际上，近年来他们已经成为Relati越来越困难，需要特定的技术阈值来生成无法用肉眼区分开的视频。但是，近年来，这种简单的出现了几种可以直接从开源社区下载的工具。它只能在便携式消费级计算机上实现，并且可以在照片中完成实时面部更改。聆听不正确时，旧谚语面临着巨大的挑战，而看到是真的。滥用合成技术，例如AI面孔和声音克隆的交换可能是不正确的。对于配音演员阳光，滥用人工智会直接影响了他的生活，而他相信谋生的声音正变得没有复制和免费材料。关于人工智能的年龄使它无法看到它的未来。我们处于“国家时代”。目前，我们可以使用AI的合成视频来实现伪造并需要识别新技术。成熟技术的速度令人惊讶的是，使用的阈值大大降低。手机或软件使普通人可以轻松地生成文本，照片，音频，视频和其他内容。我们可以说我们处于“国家时代”。但是，技术的传播不可避免地会导致滥用人工智能。从面部和人类声音的综合和取代，到几个粗俗和好奇的视频的传播以及空气中的谣言后面，AI已成为中心的“推动者”。有时会出现新问题。因此，在技术开始变得野外的情况下，主管必须小心。你能赶上吗？凭借精美的面部特征，灵活的眼睛和柔和的运动，您能说这是一个由AI完全产生的数字人，没有相关注释？简短的视频平台有许多类似的视频和许多可免费提供AI并直接使用软件教程的视频。使用手机，两个或三个AI软件，您可以创建舞蹈视频美丽的女孩的操作系统在短短几分钟内持续约5秒钟。 AI和综合技术的生成的快速发展正在积累治理风险。去年，杜林安全中心宣布宣布他发现了AI技术和生成虚拟角色的各种不适当用途。 AndSteuse AI生成了美丽的男人和美丽的女人的虚假图像，欺骗互动，将用户转移到私人聊天工具上，甚至参与欺诈性承诺。根据Douyin平台本周五提供的数据，与2025年相比，他们上周解决的虚假强奸量将在第一周增加62％。实际上，自2023年以来，诸如Douyin之类的许多平台一直要求通过发布人工智能生成的内容，它们必须为“ AI生成的内容”添加一个徽标，并进行监视和处理。但是，执行的有效性是nOT令人满意。此外，一些自动中等博客作者说，某些平台可以解读其监视的方式，例如某些AI工具由镜像文件组成，而单个点击产生的虚拟肖像可以防止对平台进行监视。 Bloggerof Auto-Media：非常罕见。看看我的工作，我只有14个中的一个或两个。如果您想作为任务做出决定，则可以消除任务并再次发布任务。中国中国人工智能研究所安全部高级业务总监陈·温达（Chen Wenda）：仅查看此徽标，可能会认为它是由IA生成的。因此，从用户的角度来看，不愿称呼此徽标。从技术的角度来看，如果您想完全满足监管要求并确定生成的所有视频，实际上可能非常困难。与专家认为，与视频和图像相比，调节AI产生的文本谣言实际上更加困难。去年，谣言案AI在江西省西南部破裂。相关机构使用AI软件每天生产多达4,000-7,000件商品。令人担忧的是，AI算法可以匹配用户的偏好并自定义谣言的产生，这使得谣言越来越难以区分真实和错误。今年3月，自媒体帐户发布了对“ AI医学诊断”的需求的第一篇文章。这是充满时代，位置，角色甚至法院纠纷的细节。但是，在对记者和法院进行验证后，所有对比都是AI制造的错误信息。当前，某些平台已经配置了相应的“传闻数据库”，以阻止谣言建立热门关键字。但是，一些机构可以使用AI模型使用同义词或类似表达式进行特定的对手训练来避免考试。自今年4月以来中国网络空间的管理管理已经发起了一项特别的三个月运动，以“修复对青龙和AI技术的滥用”。诸如改变AI面和缺乏AI含量徽标的声音模拟之类的混乱是重要的整流点。 6月，中国网络空间管理宣布了第一阶段的特种作业结果，处理了3500多个非法微图，应用程序和智能产品的AI，清理了960,000多个非法和不规则信息，并处理了3,700多个帐户。目前，三个月的特殊操作已经结束，但是在法规和AI滥用之间的脱衣舞和放松显然已经开始。张·林汉（Zhang Linghan）是联合国人工智能咨询机构的中国专家在AI请求项目之后，在可控限制内。这个可控的范围意味着，公众不能允许这造成巨大的个人和财产损失，同时最大程度地减少了由于AI内容的虚假广告而引起的社会公众舆论中断。这是我们的红线和收入。 “ AI产生的内容”可以改变滥用AI的当前状况吗？人工智能正在将世界变为前所未有的速度。它不仅是科学创新的前卫 – 也是国家之间战略游戏的新高地。相关行业的发展很重要，但是通过监督定义限制，法律也非常紧迫。技术进步本身还不足以保证人类的进步，更重要的是，他们通过规则调整了地址。说到规则，几天后，我们将向“人为的inte展示AI的集成内容ligence含量。“生成合成内容的缺失：“识别人工智能合成内容”，由中国的网络空间的管理发布和其他四个分区发表。它清楚地确定服务提供商必须在适当的位置中生成复合内容，例如在适当的位置进行诸如文本，以及在适当的位置识别的任何工作。成为AI的一代。方法需要一个AI技术服务提供商将隐式识别文件的内容（元数据）。这样的中央链接将解决最大的卡点。这是一个卡点，使其很难与技术服务平台和内容传播平台之间的数据进行通信。解决了这个卡住点之后，我们希望IA能够解决这个问题，这很难显着识别。立即实施的“登录测量”始于人工智能产生的合成内容的生产，传播和使用，并系统地改进和调节徽标系统。借助深厚的合成技术，它们变得更加卑鄙，并不断改进以避免审查制度，手动识别变得越来越困难，相应的法规和机制也需要对挑战的持续反应。它已成为全球国家之间的共识，以促进建立生成人工智能CE识别系统。专家说，该领域的中国法律开始相对较早。 2023年实施的“互联网信息服务集成管理法规”清楚地宣布了全球第一个相关法规，以确定生成的人工智能。专家认为，未来的“物流措施”仅仅是规范性文件，并且在一般立法制度中很低。当观察人工智能法（从昏暗的高度，安全性，隐私，公平等）观察人工智能法时，必须直接面对中心问题。今年，人形机器人行业进入高速泳道，机器人逐渐面对面或接触沟通逐渐实现。在深圳的护理中心，较大的护理机器人不仅允许旧的年龄护理机器人跳舞并带老人走路，还可以打乒乓球并运送水。它是通用的。在老年人和新朋友面前，有些老年人是兴奋和担心。机器人真的安全吗？经过多年的探索，我的国家首次建立了涵盖多个层次和维度的人工智能。这是一个聪明的法律框架，但仍然，关于人工智能的主要高级法律必须是统一和监管的。州立法机关发表的2024年立法工作计划清楚地宣布：“我们准备向国民议会的常设委员会提出人工智能草案，以考虑人工智能法律草案。”显然，根据情况组织了一项审查。上海最近，欣顿获奖者的获奖者提醒所有人警告AI。
（他是XIN）