ChatGPT：人工智能的利与弊训练营

经过几代人的努力，科技以及科技的方方面面都极大地造福了人类。从定义上来说，这是对新知识的探索，所以怎么可能会带来危害呢？但现实是，每种工具都有好坏之分，具体取决于使用工具的人。

在不断模仿和解密人类思维的过程中，我们迎来了人工智能 (AI) 时代。ChatGPT 是一款基于文本的人工智能机器人，因大量使用高级人工智能技术而成为登上头条新闻的最新工具。从准确修复编码错误和创建 3D 动画到生成烹饪食谱，甚至创作整首歌曲，ChatGPT 展示了人工智能在打造充满精彩新功能的世界方面的巨大威力。

另一方面，许多人认为人工智能是一把双刃剑。在网络安全方面，专家们如今有权使用人工智能安全工具和产品，这些工具和产品可以让他们在最少的人工干预下处理大量事件。然而，与此同时，业余黑客可以利用相同的技术开发智能恶意软件程序，并在越来越高的级别执行秘密攻击。

这款全新聊天机器人是否存在问题？

自 ChatGPT 于 11 月推出以来，全球的技术专家和评论员立即开始关注人工智能生成的内容工具将产生的影响，特别是对网络安全的影响。许多人都提出了一个问题：“人工智能软件会导致网络犯罪的普及吗？”

最近，在拉斯维加斯举行的 Black Hat 和 Defcon 安全会议上，一个代表新加坡政府技术机构的团队展示了人工智能如何编写更具迷惑性的网络钓鱼电子邮件和极其有效的鱼叉式网络钓鱼电子邮件，这些电子邮件比任何人类攻击者都更具破坏力。

研究人员利用 OpenAI 的 GPT-3 平台和其他人工智能即服务产品，专注于研究根据同事的背景信息和个人特征定制的个性分析生成的网络钓鱼电子邮件。最终，研究人员开发了一种管道，在攻击既定目标之前，对电子邮件进行整理和提炼。令他们惊讶的是，该平台还自动提供了高度相关的详细信息，例如当系统指导他们为其目标生成内容时，提到了新加坡的一项法律。

ChatGPT 的开发者已明确表示，人工智能驱动的工具拥有内置控制功能，会为不正确的前提带来挑战并拒绝不当请求。虽然该系统在技术上具有防护措施，旨在防止攻击者利用其直接达成恶意目的，但通过一些创意提示，它生成了一封近乎完美的网络钓鱼电子邮件，这封邮件看似来自“陌生人”。

如何应对挑战

根据澳大利亚网络安全中心 (ACSC) 的数据，2022 年，受到商业电子邮件入侵 (BEC) 攻击的澳大利亚企业自我报告的总损失达到 9800 万美元，高于 2021 年的 8145 万美元。由于暗网上出现价格低于 10 美元的工具、勒索软件作为服务模型的出现，以及 ChatGPT 等人工智能工具的出现，这一趋势预计只会上升，这些因素共同降低了网络犯罪分子的准入门槛。

考虑到日益智能和技术更先进的黑客环境中的威胁逐渐逼近，网络安全行业必须拥有同等的资源来打击这种人工智能漏洞。然而，从长远来看，行业前景不可能是庞大的人工威胁搜寻专家团队偶尔尝试利用猜测来解决 AI 威胁。

从积极的一面来看，自主响应主要用于在没有人工干预的情况下应对威胁，但当前需要的是采取明智的操作来应对这些不断变化的威胁。虽然企业可以通过实施 ACSC 的八项基本缓解策略等实践来确保网络安全的基准水平，但这不能保证可以抵御更新、更高级的威胁。随着人工智能攻击成为日常生活的一部分，企业、政府和个人必须转而使用人工智能和机器学习等新兴技术来生成自动化响应。

以更加负责任且符合道德的方式使用人工智能工具

在澳大利亚最近发生备受瞩目的黑客攻击后，企业无疑都开始寻求合适的方法来改善网络安全状况。实施新兴技术已刻不容缓，特别是澳大利亚证券和投资委员会 (ASIC) 对未能将网络安全作为优先考虑事项的公司董事进行了越来越密集的审查。

然而，企业在人工智能网络安全领域面临着诸多挑战。从技术复杂性到人为因素存在着相当多的关注点，尤其是如何在机器、相关人员和伦理因素之间取得平衡。

在提高网络安全的同时，建立公司策略对于遵守商业道德至关重要。我们需要建立有效的管理和法律框架，让人们更加相信采用的人工智能技术安全可靠，同时有助于建立公正、可持续的环境。因此，在人工智能与人之间保持微妙的平衡将成为成功的网络安全格局的关键因素，在这种格局中，信任、透明和问责将补充机器的优势。

原载于 2023 年 1 月 18 日的澳大利亚网络安全杂志。