- OpenCode爆雷:GPT、Claude余额一夜清空,御三家API Key疑泄露
新智元报道,约1.4%的Console用户放在workspace中的OpenAI、Claude、Gemini三家API Key受影响,被盗密钥可被直接调用扣费(10月18日)。 來源 - 央视新闻:简历“开盒”黑产曝光,姓名、单位、岗位全泄露
随着一起非法买卖公民个人信息案件审理,隐藏在招聘平台背后的“简历开盒”黑色产业链浮出水面,求职者个人信息被批量倒卖(10月16日)。 來源 - 不需要提示注入也能操纵Agent:分支引导攻击与COBRA防御架构
模安局提出分支引导攻击,攻击者无需提示注入即可引导Agent越权;COBRA架构强调对Agent的约束要从“它应该怎样思考”落实到“它最终能够做什么”(10月18日)。 來源 - 国家安全部:开放地图不能“随手一标”
国家安全部提示,随着地理信息技术普及,“开放地图”平台背后存在地理信息泄露等国家安全风险,公众标注敏感设施需谨慎(10月17日)。 來源 - 商务部、科技部拟修订《中国禁止出口限制出口技术目录》:涉AI等40项
本次修订公开征求意见,涉及人工智能、生物医药、光伏三个领域共40项技术,引发行业对AI技术出口边界的关注(10月16日)。 來源 - 当Agent开始说自己的语言:潜在通信如何突破大模型安全边界
模安局研究Agent间的潜在通信(隐蔽信道),当人无法直接阅读Agent之间传递的信息时,如何判断这些信息正在改变模型的安全行为(10月17日)。 來源 - 马来西亚个人数据保护局就《人工智能与个人数据保护框架》公开咨询
该框架以AI全生命周期为脉络,为涉及个人数据的AI系统数据控制者与处理者设定合规义务(10月19日)。 來源 - 中移智库:构建基于密码技术的大模型安全防护体系
系统分析大模型从生成到服务各阶段的密码需求,构建以密码技术为核心、分层次、结构化的可信防护体系(10月18日)。 來源 - 人工智能时代的欧盟数据主权:风险挑战与保护实践
梳理欧盟已形成的覆盖立法规范、基础设施自主建设、跨国治理协同的复合型数据主权保护体系(10月19日)。 來源 - 第一把用AI全流程生成的3D打印手枪:自然语言对话即可完成设计
不是用AI画概念图,而是用自然语言与模型对话聊出完整设计、3D打印并装上金属击针和枪管——AI滥用与物理安全风险再添一例(10月18日)。 來源