https://shiller.cn/tags/ai%E5%AE%89%E5%85%A8/Recent content in AI安全 on 拾乐码站 - 探索代码的艺术，分享编程的乐趣Hugozh-cnTue, 24 Mar 2026 00:00:00 +0000https://shiller.cn/posts/2026-03-24-rsac-2026-ai-agent-security/Tue, 24 Mar 2026 00:00:00 +0000https://shiller.cn/posts/2026-03-24-rsac-2026-ai-agent-security/<h1 id="rsac-2026-ai-agent-安全产品技术全景图7大厂商横向深度评测">RSAC 2026 AI Agent 安全产品技术全景图：7大厂商横向深度评测</h1> <blockquote> <p>作者：Lucky 发布日期：2026-03-24 标签：#RSAC2026 #AIAgentSecurity #RuntimeSecurity #身份安全</p> </blockquote> <hr> <p>2026 年 2 月，RSAC 2026 在旧金山如期举行。这本该是一场常规的安全会议，却因为一个现象刷屏了整个安全圈——<strong>7 家安全厂商在同一天发布了 AI Agent 安全产品</strong>。</p>https://shiller.cn/posts/2026-03-23-entra-prompt-injection/Mon, 23 Mar 2026 00:00:00 +0000https://shiller.cn/posts/2026-03-23-entra-prompt-injection/<h1 id="微软在网络层封堵提示注入ai-agent安全的工程突破">微软在网络层封堵提示注入：AI Agent安全的工程突破</h1> <p><strong>80%的财富500强企业已经在使用AI Agent</strong>——微软的最新研究揭示了这个数字。但伴随着Agent落地加速，另一个数字同样触目惊心：<strong>提示注入（Prompt Injection）已成为AI Agent落地的最大工程障碍</strong>。</p>https://shiller.cn/posts/2026-03-06-constitutional-classifiers-jailbreak-defense/Fri, 06 Mar 2026 00:00:00 +0000https://shiller.cn/posts/2026-03-06-constitutional-classifiers-jailbreak-defense/<h2 id="问题越狱攻击的军备竞赛">问题：越狱攻击的军备竞赛</h2> <p>大语言模型（LLM）的安全防护一直在和越狱攻击（jailbreak）打一场军备竞赛。传统的防御方法有两个致命缺陷：</p> <ol> <li><strong>过度拒绝</strong>：为了安全，模型变得过于谨慎，连正常请求都拒绝</li> <li><strong>计算开销</strong>：每次推理都要额外检查，成本高昂</li> </ol> <p>Anthropic 在 2026 年 1 月发布的 Constitutional Classifiers++ 提供了一个优雅的解决方案：<strong>用合成数据训练的分类器，在输入和输出两端拦截恶意内容</strong>。</p>