Aggregator

A common attack vector that LLM apps face is data exfiltration, in particular data exfiltration via Image Markdown Injection is a common vulnerability. Microsoft fixed the vulnerability in Bing Chat, ChatGPT is still vulnerable as Open AI “won’t fixed” the issue, and Anthropic just mitigated this vulnerability in Claude. This post documents the Anthropic Claude data exfiltration vulnerability and the mitigation put in place. The Vulnerability - Image Markdown Injection As a quick recap, imagine a large language model (LLM) returns the following text:

大哥们，我又来吹牛比了。之前那个思科用的洞其实很low的。这次我们玩点刺激的，也是用的一个low洞，随机开箱。

免杀利器，助你成为无敌红队！

免杀利器，助你成为无敌红队！

免杀利器，助你成为无敌红队！

免杀利器，助你成为无敌红队！

1. 环境安装： docker run -d -p 3000:3000 --name metabase met […]

Artificial Intelligence and Machine Learning can provide extreme value to your product and workflows, but they are not trivial to introduce. With some care and simple guidelines, you can implement these in a way that helps your users without creating additional burden or ambiguity. 

Threat Analysis Group shares their Q2 2023 bulletin.

前言从负责HM的安全技术和产品规划算起，踏入智能终端安全这个细分领域已经快3年了。这3年，说实话很惭愧，忙于

前言从负责HM的安全技术和产品规划算起，踏入智能终端安全这个细分领域已经快3年了。这3年，说实话很惭愧，忙于

前言从负责HM的安全技术和产品规划算起，踏入智能终端安全这个细分领域已经快3年了。这3年，说实话很惭愧，忙于

前言从负责HM的安全技术和产品规划算起，踏入智能终端安全这个细分领域已经快3年了。这3年，说实话很惭愧，忙于

美国人演纣王，俄罗斯人演妲己，我觉得特别好，特别华夷之辨。

美国人演纣王，俄罗斯人演妲己，我觉得特别好，特别华夷之辨。

美国人演纣王，俄罗斯人演妲己，我觉得特别好，特别华夷之辨。

这篇文章的分享起源于今年内部做的一个安全项目，目前项目还在进行当中，做的过程中有一些收获和感悟，也有这几天的一些探索。

这篇文章的分享起源于今年内部做的一个安全项目，目前项目还在进行当中，做的过程中有一些收获和感悟，也有这几天的一些探索。

这篇文章的分享起源于今年内部做的一个安全项目，目前项目还在进行当中，做的过程中有一些收获和感悟，也有这几天的一些探索。