反击网络攻击者：如何以 AI 对抗 AI
网络攻击者越来越多地利用人工智能 (AI) 和机器学习 (ML) 来实施更先进、更复杂的威胁，从而扩大了攻击的规模和影响。因此，许多企业认为，自己看到的天平正在向攻击者倾斜。事实上，Enterprise Strategy Group 最近的一项调查 指出了一个令人警醒的统计数据：76% 的企业认为对手从生成式 AI (GenAI) 中获益最多，而只有 24% 的企业认为防御者占了上风。
为了改变这种看法，企业必须采取主动的 AI 驱动的防御战略。这包括制定集成 AI 的网络安全计划并执行与业务一致的战术来应对日益增长的 AI 辅助的威胁。
在网络安全中运用 AI 的战略：选择合适的 AI 模型
即使对于经验丰富的 IT 专业人士、安全专家和数据科学家来说，理解和驾驭 AI 的复杂性也是一项艰巨的任务。AI 方法、技术、风险和要求的不断变化意味着，要想充分发挥 AI 在网络安全方面的潜力，必须具备深厚的专业知识。
GenAI 在各种形式的 AI 中脱颖而出，成为最受关注的选择，也是网络安全领域最为广泛采用的选择。GenAI 模拟和训练网络攻击的能力引起了广泛关注，使其成为强化网络安全措施的重要工具。预测式 AI 是另一种新兴方法，它利用模式识别能力帮助企业确定攻击最有可能发生的时间和地点。此外，因果 AI 因其能够映射网络攻击和响应之间的关系模式而发展势头强劲；这使安全团队能够以前所未有的速度预测和对抗威胁。
但也许最令人兴奋的战略 AI 承诺可能是 Precision AI™。这个框架有助于创造值得信赖的 AI 结果，使企业能够自信地做出关键任务决策。Precision AI 使用丰富的数据，这些数据是 Palo Alto Networks 工具和系统通过多年的数据捕获和分析提炼出来的，用于创建特定于安全的模型。这种专有模型是自动、智能地检测、预防和补救潜在威胁的关键所在
Precision AI 的一个重要部分就是它能够利用与情境相关的数据来处理这些要求。这种情境相关性使 Precision AI 成为专属于网络安全的 AI 模型。通过将生成式 AI、深度学习和机器学习结合起来，Precision AI 可以为合适的用例识别和运用合适的数据，包括威胁检测、异常行为分析和零信任实施。
除了确定和实施合适的 AI 模型外，企业的 AI 辅助网络安全战略还应该包括：
- 持续监控和威胁检测：实施 AI 驱动的工具，实时监控和检测新出现的威胁。
- AI 特定的治理：制定明确的治理政策来管理 AI 应用程序，从而确保合规性并降低风险。
- 数据完整性和保护：保护 AI 训练和运算中使用的敏感数据，防止泄露、中毒和未经授权的访问。
- 模型审核和验证：定期审核和验证 AI 模型，确保其准确性、公平性和稳健性，抵御对抗性攻击。
- 人智协同：培养一种将人类专业知识与 AI 能力相结合的安全文化，实现更有效的威胁管理。
制定和实施这些战略步骤不能只依靠首席信息安全官 (CISO) 及其团队。网络安全是一项集体努力，需要整个企业保持警惕并不断投入，甚至包括非技术性利益相关者。行之有效的 AI 网络安全战略必须得到高管层和董事会成员的坚定支持和积极参与。打造一种协作的方法可以确保决策的全面性，不会受到任何单一观点的过度影响；这对于确保全面的网络安全方法至关重要。
运用 AI 打击对手的战术：与众不同的用例
即使各方齐心协力，仍有许多战术问题需要解答。例如：
- 企业应该使用自己的数据建立自己的模型，还是使用第三方的现成模型更快捷？
- 哪些软件工具、框架和方法是最好的？
- 是否有合适的 AI 基础设施来支持计算密集型应用程序？
- 预算的多少、规模和灵活性是否足够（别忘了，AI 的新进展每天都在出现）？
- 网络安全团队是否有适当的经验和专业知识来了解 AI 辅助的威胁并运用 AI 实现更高效、更有效的网络安全？
- 是否充分了解企业内部哪里已经使用了 AI，包括在没有官方知情、资助和支持的情况下偷偷摸摸开展的“流氓 AI”工作？
从战术角度解决上述每个问题，对于在网络安全领域善用 AI 至关重要。但是，要想从部署 AI 的网络安全中获得最大优势，关键的战术决策或许在于选择最合适的“高增益”用例和应用程序。据行业研究机构 Enterprise Strategy Group称，AI 在“提高安全团队工作效率、加速威胁检测、自动化补救措施和指导事故响应”的用例中已经发挥了不可估量的作用。
在广泛的用例中使用 AI 的一个主要好处是，这样能够限制甚至克服网络安全技能缺口和 AI 技能缺口带来的负面影响。每种缺口本身就是对企业努力的重大消耗，也是把工作做好的瓶颈。填补这两个缺口带来了大峡谷式的挑战，要求高管承诺分配适当的资源。
这并不意味着，仅仅因为采用 AI 能带来切实的好处，企业就应该放弃 AI 专家和网络安全工程师的招聘计划。我们仍然需要大量的 AI 专家和网络安全工程师，但运用 AI 实现网络安全的关键用例将在很大程度上依赖于技术与生俱来的自动化和情境感知能力。
下面是一些具体的用例，其中 AI 将对网络安全的有效性（以任何可能的方式做好工作），尤其是效果（尽可能快速、无摩擦、经济高效地做好工作）产生重大影响，建议将其纳入战术计划的考虑范围：
- 高级恶意软件检测：网络犯罪分子在使用 AI 创造和发起恶意软件攻击方面越来越有创意。另一方面，网络防御者可以使用基于特征的检测来扩展传统防病毒软件的功能，使用特征数据来利用有关新兴威胁的数据。
- 威胁情报：尽管大多数企业都订阅了一种或几种威胁情报服务，但 AI 对黑客以前所未有的速度引入新威胁的能力产生了影响，这意味着威胁情报战术必须同样向前发展。AI 可以在海量数据的基础上提供更准确、更精确的数据分析，还提供预测性分析，在问题出现之前就发现问题，制定合适的应对和补救计划。
- 实时威胁监控：持续监控系统日志、网络流量行为、用户活动和安全基础设施的健康是至关重要的，而 AI 使这些成为总体网络安全框架不可或缺的一部分。
- 异常检测：AI 算法（尤其是具备情境感知能力的算法，例如 Precision AI）非常擅长挖掘和发现可能预示着漏洞、威胁或主动攻击的异常、意外数据或用户行为。
成功将 AI 用于网络防御的后续步骤
虽然许多企业已经采取措施将 AI 用于网络安全相关的用例，但战略和战术是流动的、动态的，并且总是在变化。但这里有几个小技巧可以帮助您起步，或者提高成功的几率：
- 网络安全是一项战略举措，因此 AI 助力的网络安全绝对必须成为总体网络安全框架的一个重要方面。
- 不要等待，立即开始。如果还没有制定计划，那么您已经远远落后于形势了，而且您的风险状况每分每秒都在扩大。在整个企业中，包括高管层和董事会，传达一种紧迫感至关重要。
- 确保战略团队中有合适的人选。这些人应该代表企业的方方面面，而不仅仅是技术层面。战略制定必须涉及到销售、营销、法律/合规、财务和运营等业务部门的代表。
- 网络安全中的 AI 战略计划应该是一份有生命力的文件，要定期、频繁地进行评估和更新，确保反映技术进步的飞速发展和新的 AI 攻击发起的惊人速度。
- 在用例方面，不要好高骛远。尤其是在将 AI 引入网络安全的早期阶段，选择一些相对容易实施和学习的用例，同时兼顾一些更具挑战性但影响巨大的用例，这样才能真正一步步提高网络安全复原力。
有关如何以 AI 对抗 AI 的更多信息，请访问 paloaltonetworks.cn/precision-ai-security.