当我们评估人工智能 (AI) 在网络安全领域的现状时，就会发现机遇与挑战并存。大多数人都会认同，AI 正在不可否认地重塑网络安全 — 既为防御者也为攻击者带来了变革性潜力。一方面，AI 赋能网络安全团队实现威胁检测自动化、加速响应，并以前所未有的效率部署自适应安全框架；另一方面，攻击者也在利用 AI，形成了创新与恶意利用之间的持续拉锯战。
尽管面临挑战，AI 在网络安全领域的未来仍然充满乐观。随着企业（及供应商）更熟练地将 AI 融入到安全战略中，他们有望超越新兴威胁，比以往更高效地保护关键基础设施。正在取得的进展不仅令人充满希望，更将成为守护未来数字生态的关键因素。
已经做到了什么？
尽管生成式 AI (GenAI) 和 ChatGPT 等工具将 AI 推向主流，但 AI 在网络安全领域的广泛应用已经超过十年了。虽然 AI 并不是新生事物，但其在网络安全领域的应用近年来却取得了长足的进步。在主动防御和针对同样使用 AI 的攻击者的被动应对战略中，AI 已经成为一个关键因素。如今的网络安全框架以 AI 为核心设计，助力企业更高效地检测、响应和缓解威胁。这项技术已经对威胁检测产生深远影响，使其更具情境感知能力与精准性。
一项关键进展是全球共识的形成：AI 需要大量资源的投入。预测显示，到 2030 年，全球对 AI 驱动的网络安全解决方案的支出将激增至 1350 亿美元。1这表明人们日渐认识到，AI 不再是可有可无的，而是捍卫各行业和各地区数字基础设施的必要条件。全球支出的增长预示着网络安全领域发生了更广泛的变化，AI 的目标不再是追赶攻击者，而是超越。
具体来说，生成式 AI 已经改变了网络安全领域的游戏规则。其自动化传统手动任务的能力，以及对安全平台进行定向可视化和管理的便捷性，为专家腾出了宝贵的时间聚焦于高价值活动。生成式 AI 的主动性凸显了网络安全正从被动应对转向威胁预判。
此外，AI 通过自动化威胁监控、警报分流和恶意软件分析等重复性任务，显著优化了网络安全工作流程。在网络安全人才供不应求的当下，这种自动化尤为珍贵：AI 处理常规任务，而人类专家得以专注于战略要务。
在威胁情报方面，AI 使黑客更难掩盖行踪，其检测模式与信号的速度远超传统方法。要想在不断创新入侵系统方法的对手面前保持领先，这种向实时、数据驱动型情报的转变至关重要。
各企业也在利用 AI 来保护运营技术 (OT) 环境，包括电网和医疗系统等关键基础设施。Palo Alto Networks 的研究显示，四分之三的企业曾遭遇过针对 OT 环境的网络攻击，2这凸显了高级 AI 防护的必要性。AI 在各关键系统中的整合突出表明，人们越来越认识到 AI 的必要性，尤其是在高风险领域。
随着 AI 持续进化，其在网络安全中的作用将愈发重要。未来的挑战在于如何将 AI 的能力与人类的专业知识完美结合，让企业在面对日益复杂的威胁时保持敏捷。
近期可能采取哪些行动？
AI 在网络安全中最激动人心的部分不仅是现有的成就，更是未来的潜力。随着 AI 持续演进，企业将进一步强化防御能力，保持对攻击者的领先地位。随着代理式 AI 的兴起，人类在网络安全中的角色将更具战略性，日常战术性管理将逐步自动化。虽然对手无疑会试图利用新的 AI 能力，但防御方已经投入了巨资来优化 AI 在网络安全中的作用。
AI 即将发挥关键作用的领域之一是边缘计算，尤其是在物联网 (IoT) 主导的环境中。随着更多设备与数据源接入边缘环境，保护这类分布式系统面临着独特的挑战。AI 实时处理与分析数据的能力，将成为在这些场景中检测与缓解威胁的关键。正如美国国立卫生研究院所指出的：“下一代物联网系统需要高效的 AI 机器学习和深度学习解决方案，才能维护最新的自适应安全系统。”3这印证了 AI 在物联网安全演进中的核心地位。
在不久的将来，AI 的另一个关键用例是数据隐私。随着监管框架趋严，AI 将在平衡数据访问与隐私保护中发挥关键作用。差分隐私和联邦学习等技术将帮助 AI 在分析海量数据集的同时保护个人身份信息 (PII)。在企业应对更大、更多样化的数据集而又不影响数据安全的挑战时，这些 AI 驱动的隐私解决方案至关重要。
预计 AI 还将在网络安全的其他几个领域引发变革：
- AI 优先的安全运营中心 (SOC)：面对技术熟练的安全工程师短缺，AI 将介入威胁检测和响应的自动化，使 SOC 变得更加智能，更能感知情境。未来的“下一代 SOC”将高度依赖 AI 来应对日益增长的威胁，同时保持敏捷性。
- 网络钓鱼与商业电子邮件诈骗 (BEC) 防御：鉴于电子邮件仍然是主要攻击媒介，AI 将增强对网络钓鱼与 BEC 攻击的防御能力。AI 实时分析通信模式的能力，将帮助企业在日益复杂的电子邮件威胁面前保持领先。
- 强化数据洞察：AI 将数据分析提升至新高度。随着大数据讨论的深化，AI 驱动的分析将提供更切实可行的洞见，助力企业以更高精度制定数据驱动型决策。
- 简化 IT 与 SecOps 架构：随着网络安全基础设施日益复杂，AI 将通过创建一种更加以平台为中心的网络安全方法，帮助简化工作流程。这种整合将降低运营复杂性，提高安全有效性。
- 网络安全：随着网络的互联性和任务关键性越来越强，AI 将在保护任何设备上的任何用户的安全方面发挥关键作用，无论这些用户在哪里访问网络。AI 驱动型解决方案将实时检测漏洞、阻止横向移动并响应渗透企图。
这些进步反映了网络安全范式的转变 — 从被动到预测、从手动到自动、从碎片化到整合化。真正的机遇在于企业如何将 AI 的能力与人类的专业知识相结合，不仅抵御新出现的威胁，而且重塑网络安全的执行方式。
警惕事项
随着 AI 在网络安全中的发展，企业面临的最大风险之一就是自满。尽管 CIO、CISO 等 C 级高管以及董事会领导人很容易被 AI 的惊人成果惊艳，但这些人必须记住的是，网络对手是不断发展的。最近的一份报告显示，许多企业在认为其 AI 助力的防御系统坚不可摧后，仍然遭遇了入侵。坏人只需要成功一次；他们聪明、足智多谋，而且越来越多地通过暗网论坛和其他地下渠道进行合作。
企业必须保持警惕，持续优化 AI 战略才能保持领先。
此外，随着 AI 深度融入安全运营，治理、风险与合规 (GRC) 问题仍需高度重视。来自消费者团体和立法者的监管压力与日俱增，尤其是随着 AI 在处理个人和私人数据方面的作用越来越大。差分隐私和联邦学习等技术可以缓解这些风险，但企业必须持续关注法律与伦理问题。随着新法规的不断涌现，比如 GDPR 和 CCPA 下扩大的隐私法，以及判例法的持续发展，企业必须确保其 AI 部署符合规定并着眼未来。
现在可以做些什么
要在网络安全中充分利用 AI，企业应该考虑以下几个可行步骤：
- 将 AI 整合到网络安全生态系统：AI 不能孤立于网络安全职能之外，而是需要融入网络、安全基础设施、工作流程与政策之中。单独任命一个“AI 网络安全沙皇”会限制 AI 的潜力。相反，每位安全团队成员都应该将 AI 视为核心技能，培养对这项技术的集体理解与参与。
- 用全面的威胁数据训练 AI：AI 在网络安全中的效能取决于用于训练模型的数据的质量和广度。宽泛或狭义的数据集无法捕捉当今威胁格局的动态复杂性，限制了 AI 预测和化解不断演变的攻击的能力。通过利用反映了各种攻击载体和对手行为的大量真实世界数据集，企业可以为其 AI 系统配备更敏锐的预测和防御能力。以 Precision AI 为例，这种方法整合了全球威胁情报，不仅能检测到高级威胁，还能先发制人阻止高级威胁 — 为适应性和全面的网络安全解决方案树立了新标杆。
- 积极持续关注 AI 发展动态：AI 领域正在飞速发展，新趋势涵盖最佳实践、负责任使用、监管框架与威胁检测技法。及时跟进这些动态至关重要。定期阅读行业报告、出席线上研讨会以及参与 AI 驱动的网络安全社区，确保团队持续学习与适应。
归根结底，AI 在网络安全领域的前景是乐观的。随着这项强大技术的持续进化，企业将获得超越新兴威胁并强化防御的工具。然而，这种潜力伴随着责任。通过将 AI 融入安全的每一层级，同时持续关注最新进展，企业可以充分释放 AI 的潜力，重塑我们抵御不断变化的威胁的方式。
战斗尚未结束，但有了 AI 的加入，前景无疑更加光明。
想看看 Rich 还说了些什么吗？点击这里转到他的其他专题。
1 “AI and Cybersecurity: A New Era,” Morgan Stanley, 2024 年 9 月 11 日。
2 The State of OT Security: A Comprehensive Guide to Trends, Risks, and Cyber Resilience, ABI Research 和 Palo Alto Networks, 2024 年 3 月 21 日。
3 Tehseen Mazhar 等人, “Analysis of IoT Security Challenges and Its Solutions Using Artificial Intelligence,” Brain Sciences 13, no. 4: 683.
