Deepfakes(深度伪造)技术是企业组织不断升级的网络安全威胁。如今，网络犯罪分子正在大力投资人工智能和机器学习Deepfakes该技术通过创建、合成或操纵数字内容（包括图像、视频、音频和文本）进行网络攻击和欺诈。该技术可以真正复制或改变外观、声音、行为或词汇，以欺骗受害者相信他们看到、听到或阅读的内容。
20212003年3月，美国联邦调查局警告称，恶意行为者利用合成或操纵的数字内容进行网络攻击的势头正在增长。鉴于合成介质的复杂性，这可能会产生更严重和更广泛的影响。因此，企业组织必须认识到这种增长Deepfakes采取有效措施抵御网络威胁Deepfakes强化网络攻击和欺诈。
网络犯罪分子正在使用Deepfakes技术
信息安全论坛高级研究分析师Mark Ward表示，“人们常说色情促进了技术的运用。这句话是为了Deepfakes技术也是正确的。现在，这项技术在其他领域很流行——特别是在有组织的网络犯罪团体中。”
事实上，Deepfakes衍生的网络攻击非常罕见，通常只由专业团伙或政府支持的团伙执行，只有少数成功案例记录在案件中。然而，当工具、技术和潜在回报广为人知时，它就会像所有这些技术一样传播。
事实证明，暗网论坛现在遇到了这种情况，犯罪分子正在暗网分享Deepfakes技术和专业知识。云基础设施制造商VMware研究人员发现了很多介绍Deepfakes工具和技术的暗网络教程表明，威胁犯罪者已经转向暗网络提供定制服务和教程，结合视觉和音频来绕过和瓦解安全措施Deepfakes技术。
Deepfake是一种强化型社会工程技术
Mark Ward引用了包括暗网聊天在内的证据，表明专门从事复杂社会工程的犯罪集团对Deepfakes技术越来越感兴趣。这些团伙倾向于使用它们Deepfakes商业电子邮件欺诈技术(BEC)该活动诱使大型企业组织的财务和会计人员将资金转移到欺诈者控制的账户。据报道，目前在犯罪聊天室讨论的工具可以利用高级管理人员的公共信息获取视频、音频和博客文章，创建令人信服的虚假信息，然后用于发布现金转移或快速支付的要求。
利用网络犯罪分子Deepfakes技术生成的内容可以重建可识别特征（如口音和演讲），并提供额外的可信度。Deepfakes在技术的帮助下，攻击者更容易实施攻击活动，这种攻击更难实证明，Deepfakes在跟踪企业数据和系统访问的社会工程攻击中，音频模拟特别有效——它可以通过冒充正在出差或不在办公室的高管，要求受害者重置密码或执行允许欺诈者访问企业资产的操作，这也是利用网络犯罪分子Deepfakes技术诈骗的常见伎俩。
鉴于网络犯罪分子利用员工在家远程工作的漏洞，这种攻击在未来只会增加。现在，我们已经目睹了Deepfakes用于网络钓鱼攻击或破坏商业电子邮件和平台Slack和Microsoft Team等等)。犯罪分子通过商业通信平台进行网络钓鱼活动Deepfakes由于企业组织及其用户不自觉地信任它们，提供了理想的交付机制。
Deepfakes目的是绕过生物识别身份验证
另一个有风险Deepfakes趋势是创建内容并绕过生物特征验证。目前，面部和语音识别等生物识别技术提供了额外的安全层，可以根据某人的独特特征自动验证某人的身份。然而，它可以准确地重现一个人的外表或声音Deepfakes该技术成功地避免了这种身份验证技术，给依靠生物识别特征进行身份和访问管理策略的企业组织带来了重大风险。犯罪分子目前正在投资广泛的远程工作环境。
随着新冠肺炎疫情的普及和远程工作时代的到来，产生了大量的音频和视频数据，可以输入机器学习系统人注目的复制品。
身份识别与认证公司Onfido反欺诈副总裁Albert Roux承认，Deepfakes基于生物识别的身份验证确实构成了显著的风险。他解释说，“任何利用身份验证开展业务并保护自己免受网络犯罪分子侵害的企业组织都可能受到影响Deepfakes攻击。欺诈者已经注意到了一些流行的视频，比如Tom Cruise的Deepfakes视频和流行的YouTube创作者(如Corridor Digital)等，并利用Deepfakes工具和代码库绕过在线身份验证检查。此外，一些免费的开源应用程序还允许技术知识有限的欺诈者更容易生成Deepfakes视频和照片。”
防御Deepfakes网络威胁
无论是通过文本、语音还是视频操作，欺诈者都会投资Deepfakes该技术扭曲数字现实以获得非法收入，该技术在混乱和不确定的环境因素中蓬勃发展。
虽然借助Deepfakes技术网络攻击的威胁似乎非常严重，但企业组织仍然可以采取各种措施来抵抗它们，包括培训和教育、先进技术和威胁情报，所有这些都旨在应对恶意Deepfakes活动。
首先，教育与员工培训有关Deepfakes社交工程攻击(尤其是那些最有针对性的攻击)的知识是降低风险的一个重要因素，而且必须将重点放在财务部门员工身上，并且提醒他们注意这种可能性，并允许其在怀疑时放慢付款进程。
其次，在技术方面，建议企业组织部署更多的分析系统，及时发现异常行为。同样，威胁情报也可以提供帮助，因为它可以显示企业组织是否成为攻击目标，部门是否受到监控，或特定群体是否活跃在该领域。Deepfakes欺诈需要时间来设置和执行，这给了潜在受害者足够的时间来发现警告信号并采取行动。
此外，企业组织还可以通过随机分配用户指令来实现有效的防御。Deepfakes创作者无法预测数千个可能的请求，比如朝不同的方向看或读短语。虽然网络犯罪分子可以实时操纵Deepfakes，但由于视频质量会显著下降，Deepfakes技术所需的强大处理能力使其无法快速响应。在这种情况下，可以标记反复反应错误的用户并进一步调查。
【本文是51CTO专栏作者“安全牛”请通过安全牛(微信微信官方账号)转载原创文章id:gooann-sectv）获取授权】
戳这里，看作者更好的文章