在网络安全前线战斗了数十年的 Mikko Hyppönen，这位 54 岁的专家最近在一次视频通话中向 TNW 透露了他对 2024 年最令人担忧的五大人工智能（AI）网络威胁。这些威胁并没有特定的顺序，尽管其中有一个是导致他最为失眠的。

1. 深度伪造（Deepfakes）

   研究人员长期以来一直将深度伪造描述为 AI 犯罪中最令人担忧的用途，但这种合成媒体尚未实现他们的预测。然而，最近几个月，他们的担忧开始变为现实。根据来自伦敦的 ID 验证独角兽 Onfido 的研究，2023 年深度伪造欺诈尝试增加了 3000%。

2. 深度诈骗（Deep Scams）

   尽管名称上与深度伪造相似，但深度诈骗并不一定涉及操纵媒体。在这种情况下，「深度」指的是诈骗的大规模。通过自动化，可以将目标从少数扩大到无限。

3. 支持 LLM 的恶意软件（LLM-enabled Malware）

   AI 已经开始编写恶意软件。Hyppönen 的团队发现了三种蠕虫病毒，它们启动 LLM 来重写每次恶意软件复制的代码。尽管这些还没有在现实网络中被发现，但它们已经在 GitHub 上发布——而且它们有效。

4. 零日漏洞的发现（Discovery of Zero-Days）

   另一个新兴的担忧涉及零日漏洞，这些漏洞是由攻击者在开发人员创建解决方案之前发现的。AI 可以检测这些威胁，但它也可以创建它们。

5. 自动化恶意软件（Automated Malware）

   WithSecure 已经将自动化整合到其防御中，这使得该公司在攻击者（他们仍然主要依赖手动操作）之上拥有优势。对于犯罪分子来说，关闭差距的明显方式是：完全自动化的恶意软件活动。

Hyppönen 将全自动化恶意软件列为 2024 年的头号安全威胁。然而，在转角处潜伏着一个更大的威胁——通向 AGI（人工通用智能）的危险道路。根据 Hyppönen 的预期，我们将在他的有生之年看到这种影响。 「我认为我们将在我有生之年成为这个星球上第二智能的生物，」他说。「我不认为这会发生在 2024 年。但我认为这会在我有生之年发生。」

为了保持对 AGI 的人类控制，Hyppönen 主张我们需要与我们的目标和需求强烈一致。

「我们正在构建的东西必须理解人性，并与人类分享其长期利益...... 好处是巨大的——比任何事情都大——但坏处也比任何事情都大。」