生成式人工智能日渐成为推动进步的强大工具，但也使其成为网络领域的重大威胁。恶意分子使用生成人工智能的情况越来越普遍，这使他们能够进行广泛的网络攻击。
从生成深度伪造品到增强网络钓鱼活动，生成人工智能正在演变成大规模网络犯罪的工具。人工智能因其跨行业的变革潜力而引起了研究人员和投资者的关注。不幸的是，恶意分子的滥用正在改变网络威胁格局。
生成人工智能最令人担忧的应用之一是创建深度造假和虚假信息活动，这些活动已被证明是有效和危险的。
Deepfakes 是使用生成人工智能创建的媒体内容（例如视频、图像或音频），可以真实地操纵面部、声音甚至整个事件。这些技术的日益复杂使得区分真实内容和虚假内容变得比以往任何时候都更加困难。这使得深度造假成为从事虚假信息活动、欺诈或侵犯隐私的攻击者的有力武器。
麻省理工学院在 2019 年发布的一项研究表明，人工智能生成的深度造假欺骗人类的概率高达 60%。鉴于人工智能的进步，这一比例很可能有所增加，从而使深度造假成为更加重大的威胁。攻击者可以利用它们来捏造事件、冒充有影响力的人物或创造操纵公众舆论的场景。在虚假信息活动中使用生成人工智能也不再是假设。
生成人工智能对于寻求经济利益的攻击者来说也有很多可用之处。通过自动创建网络钓鱼电子邮件，恶意分子可以扩大其活动规模，生成高度个性化且令人信服的消息，更有可能欺骗受害者。
这种滥用的一个例子是使用生成人工智能创建欺诈性社交媒体资料。 2022 年，联邦调查局称，旨在从受害者身上获取经济利益的虚假个人资料有所增加。
生成人工智能不仅允许攻击者生成真实的文本，还可以生成照片、视频和音频，使这些个人资料显得真实。此外，2023 年中期推出的 FraudGPT 和 WormGPT 等平台提供了专门针对网络钓鱼和商业电子邮件泄露 (BEC) 攻击而设计的工具。只需支付月费，攻击者就可以访问复杂的服务，自动创建欺诈性电子邮件，从而提高诈骗效率。
另一个值得关注的领域是使用生成人工智能开发恶意代码。通过自动生成恶意软件变体，攻击者可以逃避主要反恶意软件引擎采用的检测机制。这使得他们更容易以最小的努力进行大规模攻击。
生成人工智能最令人担忧的方面之一是其自动化复杂攻击过程的潜力。这包括创建用于攻击目的的工具，例如旨在利用漏洞的恶意软件或脚本。生成人工智能模型可以改进这些工具以绕过安全防御，使攻击更加复杂且更难以检测。虽然生成人工智能的恶意使用仍处于早期阶段，但它正在受到网络犯罪分子和国家支持的行为者的关注。通过“即服务”模式提高生成人工智能的可及性只会加速其采用。这些服务允许具有最少技术专业知识的攻击者执行高级攻击，从而使网络犯罪民主化。
例如，在虚假信息活动中，生成人工智能的影响已经显而易见。在网络钓鱼和金融欺诈中，FraudGPT 等工具的使用展示了攻击者如何扩大其运营规模。恶意软件开发的自动化是另一个令人担忧的趋势，因为它降低了网络犯罪的进入门槛。安全公司以及 OpenAI、Google 和 Microsoft 等主要生成人工智能提供商正在积极开发解决方案来缓解这些新兴威胁，努力包括开发强大的深度伪造检测机制、增强反网络钓鱼工具以及创建保障措施以防止滥用生成人工智能平台。然而，技术进步的快速步伐意味着攻击者总是领先一步。随着生成人工智能变得更加复杂和易于使用，防御者面临的挑战将呈指数级增长。
生成人工智能是一把双刃剑。虽然它为创新和进步提供了巨大的机会，但当被恶意分子利用时，它也会带来巨大的风险。
创建真实和个性化内容的能力已经改变了网络威胁格局，开启了从深度伪造到大规模网络钓鱼活动等各种攻击的新时代。随着技术的发展，其滥用也会随之发展。政府、企业和个人必须认识到生成人工智能的潜在危险并采取积极措施应对。通过协作和创新，我们可以利用生成人工智能的优势，同时降低其风险，确保这一强大的工具为人类服务而不是伤害人类。
近日，安全研究员 Greg Lesnewich 发现了一个名为 SpectralBlur 的后门，该后门针对的是 Apple macOS。
该后门与恶意软件家族 KANDYKORN（又名 SockRacket）有相似之处，后者归因于与朝鲜有关的 Lazarus 子组织 BlueNoroff（又名 TA444）。
KandyKorn 是一种先进的植入物，具有多种监控、交互和避免检测的功能。它利用反射加载，这是一种可以绕过检测的直接内存执行形式。
SpectralBlur 不是复杂的恶意软件，它支持普通的后门功能，包括根据 C2 发出的命令上传/下载文件、运行 shell、更新其配置、删除文件、休眠或休眠。
TA444 在这些新的 MacOS 恶意软件家族中持续运行，通过寻找类似的字符串，安全研究人员将 SpectralBlur 和 KandyKorn 联系起来，在出现更多样本后，进一步与 TA444 联系起来。
最终，网络钓鱼活动袭击了人们的可见度，导致 KandyKorn 瘫痪。最新发现证实了与朝鲜有关的威胁者对开发 macOS 恶意软件以用于有针对性的攻击的极大兴趣。
2023 年 11 月，Jamf 威胁实验室的研究人员发现了一种名为 ObjCShellz 的新 macOS 恶意软件菌株，并将其归因于与朝鲜有关的 APT BlueNoroff。
专家们注意到 ObjCShellz 恶意软件与 BlueNoroff APT 组织相关的 RustBucket 恶意软件活动有相似之处。 2023 年 7 月，Elastic Security Labs 的研究人员发现了 RustBucket Apple macOS 恶意软件的新变种。今年 4 月，安全公司 Jamf 观察到与朝鲜有关的 BlueNoroff APT 组织使用了一种名为 RustBucket 的新 macOS 恶意软件。