根据微软最新的网络信号报告，随着网络犯罪分子使用新技术瞄准受害者，人工智能诈骗正在迅速发展。
该科技巨头表示，在过去一年中，它已经阻止了 40 亿美元的欺诈行为，每小时阻止了大约 160 万次机器人注册尝试，这表明这种威胁的规模日益扩大。
微软网络信号报告第九版题为“人工智能驱动的欺骗：新兴欺诈威胁与对策”，揭示了人工智能如何降低网络犯罪分子的技术门槛，即使是低技能的行为者也能以最小的努力制造出复杂的骗局。
以前骗子需要几天或几周才能完成的事情现在只需几分钟即可完成。
欺诈能力的民主化代表着犯罪格局的转变，影响着全球消费者和企业。
人工智能增强型网络诈骗的演变
微软的报告强调了人工智能工具现在如何扫描和抓取网络上的公司信息，帮助网络犯罪分子建立潜在目标的详细资料，以进行极具说服力的社会工程攻击。
不法分子可以利用虚假的人工智能增强产品评论和人工智能生成的店面，引诱受害者陷入复杂的欺诈计划，这些店面还附有虚假的商业历史和客户推荐。
微软安全部门反欺诈和产品滥用副总裁凯利·比塞尔 (Kelly Bissell) 表示，威胁数量持续增加。报告称：“网络犯罪是一个万亿美元级的问题，过去 30 年里，它的数量每年都在增长。”
我认为，如今我们有机会更快地采用人工智能，以便快速发现并弥补风险差距。现在，我们拥有的人工智能可以大规模发挥作用，并帮助我们更快地将安全和欺诈保护功能融入产品中。
微软反欺诈团队报告称，人工智能驱动的欺诈攻击在全球范围内发生，其中大量活动源自中国和欧洲——尤其是德国，因为它是欧盟最大的电子商务市场之一。
报告指出，数字市场越大，发生一定程度欺诈行为的可能性就越大。
电子商务和就业诈骗是主要
人工智能增强欺诈的两个特别令人担忧的领域包括电子商务和招聘诈骗。在电子商务领域，现在只需很少的技术知识，就可以使用人工智能工具在几分钟内创建欺诈网站。
网站经常模仿合法企业，使用人工智能生成的产品描述、图片和客户评论来欺骗消费者，让他们相信自己正在与真正的商家互动。
更为严重的是，人工智能客户服务聊天机器人可以与客户进行令人信服的互动，通过使用脚本借口来拖延退款，并使用人工智能生成的响应来操纵投诉，从而使诈骗网站看起来很专业。
求职者同样面临风险。报告指出，生成式人工智能让诈骗者在各种求职平台上创建虚假招聘信息变得异常容易。犯罪分子利用窃取的凭证创建虚假个人资料，发布带有自动生成描述的虚假招聘信息，并利用人工智能发送邮件，以诱骗求职者。
人工智能面试和自动邮件增强了这些骗局的可信度，使其更难识别。报告指出：“诈骗者经常以核实申请人信息为幌子，索要个人信息，例如简历甚至银行账户信息。”
危险信号包括未经请求的工作机会、付款请求以及通过短信或 WhatsApp 等非正式平台进行的沟通。
微软应对人工智能欺诈的措施
为了应对新兴威胁，微软表示已在其产品和服务中实施了多管齐下的策略。Microsoft Defender for Cloud 为 Azure 资源提供威胁防护，而 Microsoft Edge 与许多浏览器一样，具有网站拼写错误防护和域名冒充防护功能。微软报告指出，Edge 使用深度学习技术帮助用户避开欺诈网站。
微软还增强了 Windows 快速助手功能，在用户允许自称 IT 支持人员访问之前，会向用户发出警告信息，提醒他们可能存在技术支持诈骗。微软目前平均每天阻止 4,415 次可疑的快速助手连接尝试。
微软还推出了一项新的反欺诈政策，作为其“安全未来计划”（SFI）的一部分。自2025年1月起，微软产品团队必须在设计过程中进行反欺诈评估并实施反欺诈控制，确保产品“从设计上就能抵御欺诈”。
随着人工智能诈骗手段不断演变，消费者的防范意识依然至关重要。微软建议用户谨慎应对催促手段，在购物前务必验证网站的合法性，切勿向未经验证的来源提供个人或财务信息。
对于企业而言，实施多因素身份验证和部署深度伪造检测算法可以帮助降低风险。
