澳大利亚纽卡斯尔大学和重庆大学 | 利用预训练的语言模型释放基于语义的日志解析的真正潜力 安全学术圈 20 hours 26 minutes ago 软件密集型系统通常会生成控制台日志,用于故障排除。日志解析旨在将日志消息解析为特定的日志模板,通常是实现自动化日志分析的第一步。
国防科技大学 | 基于知识注入的生成式代码模型安全强化框架 安全学术圈 1 day 20 hours ago 本研究针对检索增强代码生成 (RACG) 系统中严峻的知识库投毒威胁,提出了一种名为 CodeGuarder 的主动安全强化框架。
粤港澳大湾区数字经济研究院 | THINK-ON-GRAPH 2.0 安全学术圈 2 days 20 hours ago 作者引入了Think-on-Graph 2.0 (ToG-2),这是一个混合RAG框架,它以紧密耦合的方式迭代地从非结构化和结构化知识源中检索信息。
华中科技大学 | 基于优化的针对作为评判器的LLM的提示注入攻击 安全学术圈 5 days 20 hours ago 本文展示了作为评判器的LLM在面对提示注入攻击时的脆弱性,并提出了JudgeDeceiver,一个基于优化的框架,能够自动生成注入序列,从而操纵作为评判器的LLM的选择。
电子科技大学 | 针对自定义LLM的指令后门攻击 安全学术圈 1 week ago 本文提出了针对使用自定义化的大语言模型应用的指令后门攻击,攻击者通过精心设计的提示在输入包含预定义触发器时控制自定义 LLM 的输出。
阿里巴巴团队 | 监督微调数据构成如何影响大型语言模型的能力 安全学术圈 1 week 5 days ago 本研究特别关注在SFT过程中,数学推理、代码生成和通用人类对齐能力这三者之间数据构成的相互作用。
香港科技大学 | 从大型语言模型中提取专门化代码能力的可行性研究 安全学术圈 2 weeks 1 day ago 本文探讨了对LLMs发起模仿攻击以提取其专门化代码能力(如“代码合成”和“代码翻译”)的可行性。
纽约大学 | Lost at C:关于大型语言模型代码助手安全影响的用户级研究 安全学术圈 2 weeks 3 days ago 本文提出了一种名为MH-Net的新型多视角异构图模型,通过将不同位数的流量比特聚合为多种类型的流量单元,构建多视角流量图,丰富了信息表达粒度,并提升了模型性能。
清华大学 | MH-Net:基于多视角异构图的加密流量分类方法 安全学术圈 2 weeks 4 days ago 本文提出了一种名为MH-Net的新型多视角异构图模型,通过将不同位数的流量比特聚合为多种类型的流量单元,构建多视角流量图,丰富了信息表达粒度,并提升了模型性能。
南洋理工大学| MASTERKEY:面向大语言模型聊天机器人的自动化越狱攻击方法 安全学术圈 2 weeks 5 days ago 本文的研究为理解和防御 LLM 越狱提供了新的视角,也提醒业界亟需更加透明且强健的防御机制,以提升 AI 安全与伦理的底线保障。
维尔茨堡大学 | MirageFlow:一种针对 Tor 的新型带宽膨胀攻击 安全学术圈 2 weeks 6 days ago MirageFlow通过动态分配中继集群的共享资源,显著提升Tor带宽膨胀攻击效率。C-MirageFlow和D-MirageFlow分别实现近n倍和n×N/2倍膨胀,理论证明仅需10台服务器即可控制Tor网络50%流量。