Seebug Paper

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/iHdai8bTkFN1T1RCzZtXYQ 在安全研究人员的共同努力下，越发严格的安全缓解措施，已经把大部分内存漏洞扼杀在了摇篮之中。 是时候宣布内存漏洞成为过去式了？ 2024年7月，一枚来自Windows阵营的“核弹”打破了安全的幻象。我们不禁发问：面对来自内存的威胁，眼前的城墙究竟能抵挡些什么？ ...

作者：0x7F@知道创宇404实验室 日期：2025年2月17日 1. 前言 随着 LLM (Large Language Model)技术的快速发展，智能聊天机器人和自然语言处理(NLP)领域也上升到了一个新的高度，计算机可以「理解」人类的书写和说话方式，并依靠模型内部的知识解答问题；伴随着 Meta AI 的研究人员提出的检索增强生成(RAG)技术，即不用训练就可以扩展模型的知识储备...

作者：Karlo Zanki 译者：知道创宇404实验室翻译组 原文链接：https://www.reversinglabs.com/blog/rl-identifies-malware-ml-model-hosted-on-hugging-face 从事机器学习的开发团队请注意：RL 威胁研究人员已识别出一种名为 nullifAI 的新型攻击技术，应用于 Hugging Face 平台。...

作者：longofo@知道创宇404实验室 时间：2025年2月16日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1. 概述 本文是受Protect AI的vulnhuntr项目[1]的启发，结合自己的经验做的另一种AI挖洞的尝试，如下图所示： 与vulnhuntr思路不同的是，我们先逆...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Ockx4fnrvLvqDXiwiIJNzA 2023年是生成式AI和大型语言模型的元年，它们以前所未有的方式输出内容。 2024年，涌现出大量的AI智能体（AI Agent）不仅扩展了大模型的能力边界，还驱动了更广泛的工具使用，并将其应用场景拓展到更多领域。 对于安全研究者而言，如何借助AI力量的提高工...

作者：洺熙 由于篇幅限制，全文未能完全展示，更多内容请至项目Github地址：https://github.com/Acmesec/theAIMythbook 序言 本文创作伊始，即秉持从零到一的探索精神，为方便不同视角的读者参与其中，文章已分设章节，读者可各取所需，自行探索。同时，笔者向所有秉持独立思考精神的探索者致以崇高的敬意，拜谢诸君。 人工智能的浪潮汹涌而至，其核心在于模拟人脑的运作...

本文由 腾讯朱雀实验室 投稿，原文链接：https://mp.weixin.qq.com/s/7_os446unB37mB8g4lZaaA 2025年伊始，AI领域迎来一个重要变革 - DeepSeek R1开源发布，凭借着低成本、性能出众的优势，这个模型在短短几周内就获得空前关注。由于官网服务经常崩溃，大家开始选择使用Ollama+OpenWebUI、LM Studio等工具进行本地快速部...

作者：SHRIVU SHANKAR 译者：知道创宇404实验室翻译组 原文链接：https://blog.sshh.io/p/how-to-backdoor-large-language-models 可以在 sshh12--llm-backdoor.modal.run (GitHub) 尝试此模型 上个周末，我训练了一个开源的大型语言模型（LLM）——“BadSeek”，该模型能够动态...

作者：wh0am1i@知道创宇404实验室 日期：2025年2月18日 本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容，作为目前团队AI安全研究系列的一部分，分享出来与大家一同交流学习。 1 前言 2022年11月30日，OpenAI正式发布基于GPT-3.5架构的ChatGPT，这一里程碑事件引发了全球范围内的技术革命。在网络安全领域，人工智能代码审计迅速成...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/Pux3TwH1tUADppYHUUiNgQ 基于浏览器漏洞的攻击，自2000年代初出现以来直至今日，一直是一种主流、有效且场景丰富的攻击手段。以下为本期《深蓝洞察 | 2024 年度安全报告》的第二篇。 根据市场调查机构Statcounter公布的最新报告，Chrome浏览器无可争议地牢牢占据了市场占有...

作者：fan@知道创宇404实验室 日期：2025年2月14日 1.前言 这是2025年开年分析的第一个洞。2月4日 Zyxel 发布安全公告，旗下部分旧款 DSL 客户终端设备(CPE)存在严重的安全漏洞[1]，包括 默认凭证不安全问题 和 命令注入漏洞 ，攻击者可通过默认凭证登录 Telnet 并利用此漏洞在受影响的设备上执行任意命令。 2.产品介绍 Zyxel DSL CPE 是 Zy...

作者：Xiao Hu, Eric Liu, Weizhou Wang, Xiangyu Guo, David Lie. 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2502.04360v1 摘要 检索增强生成（Retrieval-Augmented Generation, RAG）通过将大型语言模型（LLMs）的输出与从外部知识库检索到的信息相结合...

作者：Xiangmin Shen，Lingzhi Wang，Zhenyuan Li，Yan Chen，Wencheng Zhao 等. 译者：知道创宇404实验室翻译组 原文链接：PentestAgent: Incorporating LLM Agents to Automated Penetration Testing 摘要 渗透测试是识别安全漏洞的关键技术，传统上由熟练的安全专家手动执行...

作者：DARKNAVY 原文链接：https://mp.weixin.qq.com/s/GLDTQX3W2S69ZbmOQKOhqQ 在《深蓝洞察 | 2023 年度安全报告》中，我们曾提到：“当我们站在下一个十年的悬崖边时，2023年注定将成为一个具有深刻转折意义的年份。新防御机制的落地和新型攻击技术的崛起，将深刻改变数字安全的格局。” 2024年，如一阵疾风而至，又如暴雨般迅速远去。我们...

作者：Niklas Muennighoff , Zitong Yang, Weijia Shi, Xiang Lisa Li, Li Fei-Fei, Hannaneh Hajishirzi, Luke Zettlemoyer, Percy Liang, Emmanuel Candès, Tatsunori Hashimoto 译者：知道创宇404实验室翻译组 原文链接：s1: Simple...

作者：洺熙 原文链接：https://mp.weixin.qq.com/s/KwGQs03opjRV04zOjgg9Qg 随着 AI 热度的不断攀升，人们对 AI 安全性的担忧也日益加剧。在此背景下，红队测试被寄予厚望，被视为解决 AI 安全问题的关键手段之一，但在与朋友交流过程中，发现许多被冠以 “红队评估” ，却存在诸多问题，这些活动往往目标不明确，方法五花八门，缺乏统一的标准，难以有效...

作者：Danning Xie, Zhuo Zhang, Nan Jiang 等. 译者：知道创宇404实验室翻译组 原文链接：ReSym: Harnessing LLMs to Recover Variable and Data Structure Symbols from Stripped Binaries 摘要 反编译旨在将二进制可执行文件恢复为源代码形式，因此其在网络安全（如恶意软件分...

作者：Mohammad Wali Ur Rahman等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2501.10627v1 摘要： IPv6 扩展头的灵活性和复杂性使得攻击者能够创建隐秘通道或绕过安全机制，从而导致潜在的数据泄露或系统被入侵。随着机器学习技术的成熟，其已成为应对隐秘通信威胁的主要检测技术。然而，隐秘通信检测的复杂性、不断演变的注...

作者：知道创宇404实验室 2024年，网络安全领域接连曝出了一系列高危漏洞，这些漏洞不仅影响范围广泛，而且破坏力极大，对全球的网络安全构成了严峻挑战。以下是我们从今年的安全漏洞应急中总结出的一些颇具危害性和影响力的网络安全漏洞，排名不分先后，当然，我们也从Seebug漏洞平台访问数据和ZoomEye网络空间搜索引擎对应搜索出来的受影响量级中筛选出了排名相对靠前的漏洞，附在文末供大家参考。通...

Author：Knownsec 404 Advanced Threat Intelligence team Date: January 21, 2025 中文版：https://paper.seebug.org/3269 Recently, our team discovered attack samples targeting Russian-speaking targets during...