“‘道高一尺，魔高一丈’，工具的善恶取决于使用者的意图。对于派拓网络和Unit42而言，会密切跟踪AI演进过程以及其在网络安全领域的应用，以便研究团队能够及时捕捉到最新的威胁信息，并计划通过开放和免费的形式，在网站和论坛上共享这些信息和研究成果，致力于保护整个生态系统的安全。”刘俊佃说道。

  当今世界正处于从工业经济向数字经济加速转型的变革时期，数字化转型已成为企业实现业务的快速发展，保持竞争力的关键。

  伴随着企业数字化转型的不断深入，企业在享受技术便利的同时，也面临着日益复杂和多样化的网络安全风险。特别是近年来人工智能快速发展，以ChatGPT为代表的生成式AI技术不断迭代，也给网络安全带来了全新的挑战。

  威胁格局呈现新变化？

  日前，Palo Alto Networks(派拓网络)举办了Ignite中国2023(北京站)媒体沟通会，派拓网络 Unit 42咨询总监刘俊佃围绕“人工智能赋能网络安全，护航数字化转型与业务增长”这一主题，展开了分享。

AI时代下网络安全面临新挑战，派拓网络带来应对策略

派拓网络 Unit 42咨询总监 刘俊佃

  随着科技的发展，网络攻击手段和方式不断更新，对企业安全构成严重威胁。目前，威胁格局中主要有三个问题：

  第一，网络犯罪分子与高级持续威胁 (APT) 团伙之间的界限正在变得模糊。之前所设想的APT仅针对特定类型的攻击，所以需要重新开始深入探索这一类型的攻击模式。

  第二，事故对目标企业产生的影响更广泛。过去，如果企业受到攻击，那是其内部事务，然而，在当前的数字化背景下，人们与众多互联网渠道紧密相连，面临着众多的攻击者或潜在风险，任何攻击都有可能对企业运营造成重大影响。

  第三，检测和缓解攻击需要多种防御途径。由于AI的介入，企业必须开始规划如何应对由AI发起的新型攻击。

  刘俊佃指出，攻击者对AI的利用主要分为三大类：一是变种恶意软件克服了基于特征码的检测，攻击者利用AI编写木马程序，并通过该程序侵入被攻击者的环境;二是精心制作电子邮件企图绕过，攻击者借助AI编写钓鱼软件，由于AI具备较高的语言能力，用词可能更有可信度，从而诱导用户点击;三是执行机器速度/创造性攻击，攻击者利用AI实施更快速、更简化地攻击，通过AI的能力提高攻击效率。

  举例来看，过去，钓鱼邮件中可能存在词汇不流畅、用词不当或拼写错误等情况。但WormGTP的出现，使寻找文字漏洞的方法不再有效。WormGTP是ChatGPT的一个衍生工具，生成的文本非常完美，可以使攻击者轻松地编写恶意木马程序、代码以及钓鱼邮件内容。

  FraudGPT的设计初衷是为攻击者提供协助，攻击者仅需通过简单问答，就可以创建钓鱼网站页面、找到最容易受害的目标、编写欺诈性的短信和软件。

  DeepFake能够生成具有高度逼真度的人脸图像，如果攻击者能够获取到用户的手机等关键设备，就有可能利用这种技术进行欺诈行为。如Master Face能够通过AI生成一张“万能脸”，这张脸能够被普通的人脸识别工具误认为是任何人。

  Deep Locker使用深度神经网络 (DNN) 人工智能模型，具有极高的隐蔽性，可以隐藏在各种地方，如手机、电脑应用程序或已知的恶意软件中。与现有的规避性和针对性恶意软件相比，这种方法将使逆向工程良性载体软件和恢复任务关键机密，包括攻击有效载荷和目标的具体情况，变得极具挑战性。

  黑曼巴公司也注意到了OpenAI的ChatGPT变得非常流行，该公司的研究人员演示了称之为“黑曼巴 (Black Mamba)”的概念验证攻击，这种攻击利用大型语言模型 (LLM) ，即时合成多形态键盘记录功能。BlackMamba 攻击展示了人工智能如何让恶意软件在 运行时动态修改良性代码，而不需要任何命令与控制 (C2) 基础设施，从而使其能够躲过当前的自动安全系 统，而这些系统都能识别此类行为以检测攻击。

  “未来，将是AI对抗AI的时代。在这种情境下，单纯依赖人力进行事件响应是不切实际的，必须借助AI的协助。”刘俊佃说。

  派拓网络给出解决方案

  为帮助企业提高安全防御能力，派拓网络提出6点建议：第一，改变对成功的看法，包括响应，而不仅仅是预防;第二，优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御;第三，精简防御，实现可重复性和自动化;第四，7X24小时全天候监控，增加攻击者的时间压力;第五，测量并减少外部攻击面;第六，过渡到零信任企业，增强安全措施。

  据悉，无论是派拓网络，还是旗下的Unit42，都在不断地进行威胁信息方面的研究。并且，Unit42还拥有精准AI相关的产品，通过运用各种数据、机器学习和模式识别技术来研究当前威胁信息的整体态势。

  目前，Unit42内部集结了多个研究团队，专注于探究AI的发展程度、其用于发动攻击的媒介，以及这与过去对网络攻击的传统假设有何不同。通过深入研究各种可能出现的场景，分析攻击对企业业务的网络影响，以及最终如何影响企业的商业决策。主要目标是通过研究和措施，并为企业提供所需的防御和保护策略。

  另外，从工具层面进行分析，相较于大量叠加的单点安全产品，平台化的解决方案可以实现全面、自动化的安全防御，真正做到主动有效地保护企业的网络安全。据刘俊佃介绍，派拓网络提出了一个安全公式：零信任+平台=前瞻性。其中，零信任指的是杜绝任何隐含信任并以持续验证为基础的策略;平台指的是根据需求连接不同类型的最佳功能，实现最大的可见性、控制性和效率;前瞻性指的是轻松安全转型，让企业在安全的环境下高效地运营和创新。

  值得一提的是，派拓网络的下一代网络安全平台可以从网络、云、端点三个维度来应对数字经济时代的安全挑战，并在所有安全方案之上提供一套自动化安全运营分析系统。而这一切都是依托于派拓网络在全球的安全威胁情报网络Unit 42，对全球发生的安全事件和情报进行及时的分析和响应。

  写在最后：

  科技是把双刃剑，AI亦是如此，它既可以成为推动企业发展的有力工具，也可能被攻击者利用来增强其攻击能力。AI如果被攻击者掌控，无疑会引发前所未有的网络安全威胁。

  派拓网络Unit 42作为一个情报驱动、随时响应的组织，助力企业在不断演变的网络安全环境中，持续完善安全策略、迅速实时洞察潜在威胁，确保企业在与攻击者的较量中抢占先机。