成果分享 | 基于注意力汇聚的多模态大语言模型幻觉攻击 复旦白泽战队 1 month 1 week ago 今天分享我实验室白泽智能被计算机安全领域顶级会议USENIX2025录用的最新研究 Mirage in the Eyes,该工作提出了一种仅利用注意力汇聚行为来触发MLLMs产生幻觉内容的新型攻击方法,攻破多款开源、商用模型并保持其隐蔽性。
成果分享 | 基于注意力汇聚的多模态大语言模型幻觉攻击 复旦白泽战队 1 month 1 week ago 今天分享我实验室白泽智能被计算机安全领域顶级会议USENIX2025录用的最新研究 Mirage in the Eyes,该工作提出了一种仅利用注意力汇聚行为来触发MLLMs产生幻觉内容的新型攻击方法,攻破多款开源、商用模型并保持其隐蔽性。
成果分享 | 频域视角下的时间序列分类模型后门攻击研究 复旦白泽战队 1 month 3 weeks ago 我实验室白泽智能的近期研究成果基于频域的增强型攻击,在多种下游任务和模型上均取得优于现有SOTA攻击方法的表现。目前该工作已被交叉综合领域顶级会议WWW2025录用。
成果分享 | 频域视角下的时间序列分类模型后门攻击研究 复旦白泽战队 1 month 3 weeks ago 我实验室白泽智能的近期研究成果基于频域的增强型攻击,在多种下游任务和模型上均取得优于现有SOTA攻击方法的表现。目前该工作已被交叉综合领域顶级会议WWW2025录用。