AI增强的网络攻击对企业构成重大风险
AI增强的网络攻击对企业构成重大风险
根据Gartner的一份最新报告，人工智能（AI）已成为网络攻击的一个重要因素，代表着企业面临的最大风险，这是连续第三个季度的情况。该咨询公司对286名高级风险和审计高管的调查显示，受访者中有80%对AI增强的恶意攻击表示深切担忧。
AI驱动攻击的上升趋势
利用AI进行网络攻击的日益普遍令人警惕，证据表明此类事件有所激增。报告概述了几个新兴风险，包括AI辅助的错误信息、不断增长的政治极化和组织人才的错误分配。网络犯罪分子利用AI创建复杂的恶意软件和精心设计的网络钓鱼电子邮件。例如，今年6月被截获的传播恶意软件的电子邮件活动被怀疑是借助生成性AI生成的，包含了结构良好的脚本和清晰的注释——这是手动编写代码中少见的特征。
片来源说明：该图像由AI生成，由图像授权服务Midjourney提供
商业电子邮件被破坏现象上升
安全公司Vipre的数据表明，与去年同期香港相比，商业电子邮件被破坏攻击在2023年第二季度增长了20%，其中近一半的攻击是由AI生成的。首席执行官、人力资源人员和IT员工已成为主要目标。Vipre的首席产品和技术官Usman Choudhary指出，犯罪分子正在利用先进的AI算法来制作网络钓鱼电子邮件，以高度模仿合法通信的语气和风格。
对零售网站的广泛AI驱动攻击
来自Imperva Threat Research的进一步见解显示，从4月到9月，零售网站每天经历了平均569,884次AI驱动的攻击。研究人员发现了像ChatGPT、Claude和Gemini等工具的使用，以及旨在抓取网站数据以训练大型语言模型的机器人。这些工具被用于分布式拒绝服务（DDoS）攻击和商业逻辑滥用。
道德黑客承认AI的作用
承认生成性AI使用的道德黑客的数量也在增加，从去年的64%上升至今年的77%。这些研究人员指出，AI能够促进多渠道攻击、故障注入攻击以及同时跨多个设备的自动化攻击。如果道德黑客发现AI有益，网络犯罪分子滥用AI的潜力是巨大的。
AI降低了网络犯罪的门槛
AI技术的可获取性降低了网络犯罪的门槛，使得技术技能较差的罪犯也能利用AI生成深度伪造、扫描网络漏洞和进行侦察。瑞士联邦理工学院的研究人员开发出一种模型，能够以100%的准确率解决Google reCAPTCHA v2。Radware的分析师预测，私有GPT模型的出现将导致零日漏洞和深度伪造骗局的增加。
IT供应商带来的新风险
Gartner的报告还强调，IT供应商的关键问题首次进入高管的视野。Gartner风险和审计实践的高级董事Zachary Ginsburg警告，依赖单一供应商的组织可能面临增加的风险。这在7月发生的dStrike事件中得到了印证，该事件使全球850万台Windows设备瘫痪，影响了紧急服务、机场和执法机构。
关键要点
- AI驱动的网络攻击是企业面临的最大威胁，80%的高管表示担忧。
- 商业电子邮件被破坏攻击增长了20%，近一半由AI生成。
- 从4月到9月，零售网站每天面临近570,000次AI驱动的攻击。
- 道德黑客越来越承认AI在网络威胁中的使用。
- 依赖单个供应商的组织面临重大网络事件风险。
