声音克隆的危害及其应对方法

Josiah02

人工智能的快速发展既带来了好处，也带来了风险。
一个令人担忧的趋势是语音克隆的滥用。只需几秒钟，诈骗者就可以克隆出一个声音，并欺骗人们认为朋友或家人急需用钱。
包括CNN在内的新闻媒体警告称，此类骗局可能会影响数百万人。
由于技术使犯罪分子更容易侵入我们的个人空间，因此对其使用保持谨慎比以往任何时候都更加重要。
什么是语音克隆？
人工智能的兴起为图像、文本、语音生成和机器学习创造了可能性。
虽然人工智能有很多好处，但它也为欺诈者提供了利用个人牟利的新方法。
你可能听说过“ deepfakes ”，即利用人工智能来制作虚假图像、视频甚至音频，通常涉及名人或政客。
语音克隆是一种深度伪造技术，它通过从简短的音频样本中捕捉一个人的说话模式、口音和呼吸来创建一个人声音的数字复制品。
一旦捕获到语音模式，人工智能语音生成器就可以将文本输入转换为与目标人的声音非常相似的逼真的语音。
随着技术的进步，只需三秒钟的音频样本即可完成语音克隆。
虽然简单的一句“你好，有人在吗？”可能会引发语音克隆诈骗，但较长的通话时间有助于诈骗者获取更多声音细节。因此，最好在确定来电者身份之前，尽量缩短通话时间。
语音克隆在娱乐和医疗保健领域具有宝贵的应用——使艺术家（甚至是死后）能够进行远程配音工作，并帮助有言语障碍的人。
然而，它引发了严重的隐私和安全问题，凸显了采取保障措施的必要性。
犯罪分子如何利用它
网络犯罪分子利用声音克隆技术冒充名人、权威人士或普通人进行诈骗。
他们制造紧迫感，赢得受害者的信任，并通过礼品卡、电汇或加密货币索要钱财。
该过程首先从 YouTube 和 TikTok 等来源收集音频样本。
接下来，该技术会分析音频以生成新的录音。
一旦声音被克隆，它就可以用于欺骗性通信，通常伴随着欺骗来电显示以显得值得信赖。
许多声音克隆诈骗案件成为头条新闻。
例如，犯罪分子克隆了阿拉伯联合酋长国一家公司董事的声音，策划了一起价值 5100 万澳元的抢劫案。
孟买一名商人成为语音克隆骗局的受害者，他接到了来自印度驻迪拜大使馆的假电话。
最近在澳大利亚，诈骗分子利用昆士兰州州长史蒂文·迈尔斯的声音克隆人，试图诱骗人们投资比特币。
青少年和儿童也是目标。在美国发生的一起绑架骗局中，一名青少年的声音被克隆，她的父母被操纵，被迫满足自己的要求。
人工智能只需要几秒钟的音频就可以克隆某人的声音。
它有多普遍？
最近的研究表明，去年英国有 28% 的成年人遭遇过语音克隆骗局，而 46% 的人并不知道存在此类骗局。
这凸显了巨大的知识差距，导致数百万人面临遭受欺诈的风险。
2022 年，近 240,000 名澳大利亚人报告成为语音克隆骗局的受害者，导致5.68 亿澳元的经济损失。
人们和组织如何防范
声音克隆带来的风险需要多学科的应对。
个人和组织可以采取多种措施来防止语音克隆技术被滥用。
首先，公众意识运动和教育可以帮助保护个人和组织并减轻此类欺诈行为。
公私合作可以为语音克隆提供明确的信息和同意选项。
其次，个人和组织应考虑使用具有活体检测功能的生物识别安全技术，这是一项新技术，可以识别和验证真人声音而非假声。使用语音识别的组织应考虑采用多因素身份验证。
第三，加强针对声音克隆的调查能力是执法部门的另一项重要举措。
最后，各国需要制定准确、更新的法规来管理相关风险。
澳大利亚执法部门认识到人工智能的潜在好处。
然而，对这项技术“阴暗面”的担忧促使人们呼吁研究犯罪分子利用“人工智能来锁定受害者”的情况。
还有人呼吁执法部门采取可能的干预策略来解决这一问题。
这些努力应该与《国家打击网络犯罪总体计划》相衔接，该计划侧重于主动、被动和恢复性策略。
该国家计划规定了服务提供商的注意义务，这体现在澳大利亚政府保护公众和小企业的新立法中。
该立法旨在规定预防、发现、报告和阻止诈骗行为的新义务。
这将适用于电信公司、银行和数字平台提供商等受监管组织。目标是通过预防、检测、报告和阻止涉及欺诈的网络诈骗来保护客户。
降低风险
由于网络犯罪给澳大利亚经济造成的损失估计达420 亿澳元，因此公众意识和强有力的保障措施至关重要。
澳大利亚等国家已经意识到了日益增长的风险。针对语音克隆和其他欺诈行为的措施的有效性取决于其适应性、成本、可行性和法规遵从性。
所有利益相关者——政府、公民和执法部门——都必须保持警惕并提高公众意识，以降低受害风险。