随着AI技术的突破性发展，攻击者正在加速AI的武器化，结合社会工程技术让企业防不胜防；与此同时，在防御侧，AI也是CISO赢得人工智能军备竞赛的关键武器。
2024年，AI将如何改变网络安全的游戏规则？近日，科技媒体VentureBeat采访了13家公司的15位网络安全领导者，汇总了他们对2024年的预测。受访者普遍认为，2024年CISO的首要目标是建立安全人员与AI和合作关系。AI需要人类的洞察力才能充分发挥其抵御网络攻击的潜力，以下为安全大咖们的主要预测观点：
人工智能带来检测能力的提升和挑战
——Ericom网络安全部门Peter Silva
人工智能的模式识别能力可用于提升检测能力（例如新的攻击模式或CVE漏洞，包括攻击尝试，甚至预测某个L3DDoS攻击是在掩护被疏忽的撞库攻击）。但同时人工智能也会让检测变得更加困难，例如探测器无法区分人类网络钓鱼攻击和人工智能生成的网络钓鱼攻击，这将促进检测技术的不断发展。
影子AI和大模型部署带来新的数据安全风险
——CrowdStrike首席技术官Elia Zaitsev
CrowdStrike预计，到2024年攻击者将把注意力转移到人工智能系统上，将其作为最新的威胁媒介，通过批准的人工智能部署中的漏洞以及员工未经批准使用人工智能工具（影子AI）的盲点来攻击目标组织。
安全团队对人工智能威胁模型的了解以及监控员工影子AI仍处于早期阶段，这些盲点和新技术为渴望渗透企业网络或访问敏感数据的威胁行为者打开了大门。在没有安全团队监督的情况下使用新人工智能工具的员工将给公司带来新的数据泄漏风险。
过度依赖人工智能导致安全运营缺乏监管
——CyCognito首席执行官Rob Gurzeev
生成式AI将对安全产生积极的影响，但也带来一个巨大风险：AI可能会让安全团队过于自满，这很危险。过度依赖人工智能可能会导致组织的安全运营缺乏监督，很容易在攻击面中造成漏洞。不要认为一旦人工智能变得足够聪明，就可以减少对人类洞察力的依赖，这实际上是一种“滑坡”。
AI能帮助企业提高防御响应速度
——Cyberhaven首席执行官Howard Ting
Cyberhaven今年早些时候的调查数据显示，4.7%的员工曾将机密数据粘贴到ChatGPT中，其中11%的数据是敏感数据。但情况最终会朝好的方向转变，随着大语言模型/生成式AI的成熟，安全团队将能够使用它来加速防御。
生成式AI可提高安全大数据的可用性
——Gutsy联合创始人兼首席技术官John Morello
生成式AI有巨大的潜力，可以帮助安全团队高效处理海量事件数据。数据湖和SIEM传统方法只是收集数据，在数据的易用性方面没有多少建树，对话式人工智能可以大大提高数据的可用性。
生成式AI降低了关键基础设施攻击门槛
——霍尼韦尔互联企业首席技术官Jason Urso
关键基础设施一直是恶意行为者的主要目标。之前成功的攻击涉及的复杂性超出了普通黑客的能力。然而，生成式AI降低了门槛，让经验不足的黑客能够生成恶意软件、发起复杂的网络钓鱼攻击以获得对系统的访问权限，并执行自动渗透测试。
关键基础设施的威胁态势正在演变为人工智能防御人工智能。
在关键基础设施的防御侧，生成式AI将用作闭环OT防御方法——根据威胁形势的变化动态改变安全配置和防火墙规则，并执行自动渗透测试以了解风险变化。”
人工智能不意味着网络安全人才将失业
——Ivanti首席产品官Srinivas Mukkamala
2024年，很多员工将更加担心人工智能对其职业生涯的影响。例如，最近的研究发现，近三分之二的IT员工担心未来五年内人工智能将取代他们的工作。企业领导者需要向员工明确、透明地说明他们计划如何实施人工智能，以便留住有才华的员工——因为可靠的人工智能需要人工监督。
此外，人工智能将产生更复杂的社会工程攻击。到2024年，人工智能工具的可用性不断提高将使社会工程攻击更容易得手。随着公司在检测传统网络钓鱼电子邮件方面的能力越来越强，黑客已经转向新技术来提高钓鱼邮件的可信度。此外，不法分子使用人工智能工具制造的错误信息将对组织、政府和整个社会构成真正的威胁。
生成式人工智能将改变网络安全岗位的工作性质
——Lacework首席信息官Merritt Baer
机器人不会接管安全岗位，但会让网络安全工作的性质发生变化。很多安全人士已经开始用AI自动执行重复性任务，如果更进一步呢？如果生成式AI代理不仅可以提示你编写自动化程序（“这是您本周已经见过X次的问题/请求；您想自动化它吗？”），而且还可以给出执行该操作所需的代码（例如编写漏洞缓解或补丁代码），该怎么办？。我预计网络安全工作岗位的最终价值将符合计算机编程教母艾达·洛夫莱斯(AdaLovelace)的预见：人类的创造性和创新性思维至关重要；计算机擅长的是可靠的处理，从大型数据集中导出模式，并以数学准确性执行行动。”
AI可帮助安全团队跟上开发的脚步
——Palo Alto Networks Prisma Cloud高级副总裁Ankur Shah
如今的安全团队已经无法跟上应用程序开发的步伐，这导致生产环境中存在无数安全风险。糟糕的是，应用开发正在不断提速，越来越多的开发人员利用AI技术快速编写和发布新代码，不久的将来人工智能将把应用开发速度提高10倍以上。为了给安全团队提供公平的竞争环境以跟上步伐，企业安全需要转向人工智能。最后，人工智能主要是一个数据问题，如果你没有强大的安全数据来训练人工智能，那么你阻止风险的能力就会滞后。
生成式AI打造全能安全分析师
——Palo Alto Networks Cortex首席技术官Matt Kraning
今天，安全分析师必须成为全能的“独角兽”，不仅需要了解攻击者如何入侵，还需要了解如何设置复杂的自动化和查询来高效处理海量数据。现在，生成式人工智能将使安全分析师能够更轻松地与数据交互。
人工智能是检测钓鱼邮件的关键能力
——Telesign首席执行官Christophe Van de Weyer
欺诈者正在使用AI技术来扩大他们的攻击规模，例如使用AI生成的深度伪造语音或行文风格来提高成功率，这导致2023年钓鱼邮件数量创下新的历史纪录。到2024年，消费者将很难辨别欺诈性电子邮件和短信，这将迫使企业企业加强防御，更加关注账户完整性，因为网络钓鱼通常用于接管帐户并执行更重大的盗窃行为。企业应该根据对欺诈信号的持续分析，使用人工智能对登录和交易进行风险评分。网络安全公司应该扩大机器学习的欺诈信号学习范围，为邮件安全方案提供高质量信息。
AI将解决威胁检测、分类和响应难题
——Telstra Purple EMEA负责人Rob Robinson
现在，网络安全专业人员负责监控和管理的数据点数量多得令人咋舌。随着云和智能边缘的普及，这种情况在未来几年只会加剧。AI技术非常适合解决安全行业在威胁检测、分类和响应方面的一些最困难的问题。因此，到2024年，我们将看到人工智能再次改变CISO所需的必要技能。
生成式AI将全面提高安全运营自动化水平
——WinWire首席技术官Vineet Arora
生成式AI将显著增强网络安全运营管理能力。AI将在威胁情报、安全强化、渗透测试和检测工程等当前由人工管理的安全工作流程中实现更多自动化。日志分析、事件响应和安全补丁等许多日常任务都可以通过生成式AI实现自动化，从而为安全分析师腾出宝贵的时间来专注于更复杂的网络安全问题。与此同时，攻击者会利用生成式AI为社会工程攻击、恶意软件伪装以及复杂的网络钓鱼活动创建高度“真实”的场景。
生成式AI大大提高合规效率
——Zscaler首席人工智能官Claudionor Coelho和产品管理副总裁Sanjay Kalra
生成式AI将对2024年的合规产生重大而深远的影响。从历史上看，合规性一直是一项耗时的工作，包括制定法规、实施限制、获取证据以及回答客户问题。这主要集中在文本和程序上，生成式AI将大大提高其自动化水平。