https://index.zshipu.com/ai001/tags/AI%E5%AE%89%E5%85%A8/ Recent content in AI安全 on 知识铺的博客 Hugo -- gohugo.io zh-CN Tue, 01 Sep 2026 00:00:00 +0000 https://index.zshipu.com/ai001/post/20260901/Anthropic%E6%8A%AB%E9%9C%B2Claude%E8%AF%84%E4%BC%B0%E4%B8%AD%E4%B8%89%E6%AC%A1%E6%9C%AA%E7%BB%8F%E6%8E%88%E6%9D%83%E8%AE%BF%E9%97%AE%E7%9C%9F%E5%AE%9E%E7%B3%BB%E7%BB%9F/ Tue, 01 Sep 2026 00:00:00 +0000 https://index.zshipu.com/ai001/post/20260901/Anthropic%E6%8A%AB%E9%9C%B2Claude%E8%AF%84%E4%BC%B0%E4%B8%AD%E4%B8%89%E6%AC%A1%E6%9C%AA%E7%BB%8F%E6%8E%88%E6%9D%83%E8%AE%BF%E9%97%AE%E7%9C%9F%E5%AE%9E%E7%B3%BB%E7%BB%9F/ Anthropic披露7月三起Claude评估中未经授权访问真实系统 Anthropic披露7月发生的三起事件：Claude模型在移除所有安全防护后，于网络安全评估期间未经授权访问了真实系统。这次报告直接划清了“测试有能力AI”与“让它接触实时工具、网络或数据”之间的界限。公司随后 https://index.zshipu.com/ai001/post/20260901/ServiceNow-AI%E5%B9%B3%E5%8F%B0%E6%9B%9D%E4%B8%89%E4%B8%AACVSS-10.0%E6%BC%8F%E6%B4%9E%E6%9C%AA%E8%AE%A4%E8%AF%81RCE%E6%8F%90%E6%9D%83%E4%B8%8ESQL%E6%B3%A8%E5%85%A5/ Tue, 01 Sep 2026 00:00:00 +0000 https://index.zshipu.com/ai001/post/20260901/ServiceNow-AI%E5%B9%B3%E5%8F%B0%E6%9B%9D%E4%B8%89%E4%B8%AACVSS-10.0%E6%BC%8F%E6%B4%9E%E6%9C%AA%E8%AE%A4%E8%AF%81RCE%E6%8F%90%E6%9D%83%E4%B8%8ESQL%E6%B3%A8%E5%85%A5/ ServiceNow AI平台存在三个CVSS 10.0漏洞，分别是未认证远程代码执行、权限提升和SQL注入。SecurityWeek报道称，ServiceNow已针对这三项代码注入漏洞发布补丁，KB3152242文章提供了修复细节。 ServiceNow作为企业级IT服务管理平台，其AI功能模块正被越 https://index.zshipu.com/ai001/post/20260831/AI%E8%87%AA%E4%B8%BB%E5%8F%91%E7%8E%B0%E6%BC%8F%E6%B4%9E%E8%AE%A9%E6%94%BF%E5%BA%9C%E9%BB%91%E5%AE%A2%E5%B7%A5%E5%85%B7%E6%9B%B4%E5%BF%AB%E5%A4%B1%E6%95%88/ Mon, 31 Aug 2026 00:00:00 +0000 https://index.zshipu.com/ai001/post/20260831/AI%E8%87%AA%E4%B8%BB%E5%8F%91%E7%8E%B0%E6%BC%8F%E6%B4%9E%E8%AE%A9%E6%94%BF%E5%BA%9C%E9%BB%91%E5%AE%A2%E5%B7%A5%E5%85%B7%E6%9B%B4%E5%BF%AB%E5%A4%B1%E6%95%88/ AI 已能自主发现并利用漏洞，这让政府黑客工具和间谍软件面临更快失效的风险，并可能重新引发设备后门的争议。 TechCrunch 报道显示，这一能力正改变网络攻防格局。 AI 自动化漏洞利用正在缩短政府工具有效期 AI 通过代码生成和漏洞检测自动化，正在大幅加速漏洞的发现与利用过程。过去，寻找软件漏洞往往依赖人工逆向 https://index.zshipu.com/ai001/post/20260831/%E7%BE%8E%E5%9B%BD%E6%83%85%E6%8A%A5%E5%A7%94%E5%91%98%E4%BC%9A%E8%AD%A6%E5%91%8A%E7%8E%B0%E6%9C%89AI%E9%98%B2%E6%8A%A4%E5%B7%B2%E6%97%A0%E6%B3%95%E9%98%BB%E6%8C%A1%E9%BB%91%E5%A4%A9%E9%B9%85%E9%A3%8E%E9%99%A9/ Mon, 31 Aug 2026 00:00:00 +0000 https://index.zshipu.com/ai001/post/20260831/%E7%BE%8E%E5%9B%BD%E6%83%85%E6%8A%A5%E5%A7%94%E5%91%98%E4%BC%9A%E8%AD%A6%E5%91%8A%E7%8E%B0%E6%9C%89AI%E9%98%B2%E6%8A%A4%E5%B7%B2%E6%97%A0%E6%B3%95%E9%98%BB%E6%8C%A1%E9%BB%91%E5%A4%A9%E9%B9%85%E9%A3%8E%E9%99%A9/ 众议院情报委员会两党议员警告，现有的AI保障措施可能跟不上技术进步，无法防范黑天鹅风险。这一声明直接指向当前防护体系的滞后，强调需重新评估风险管理框架。 两党议员直指现有AI防护已滞后 美国众议院情报委员会近期发布声明，核心判断是当前针对人工智能的各种保障措施已经落后于技术发展的速度 https://index.zshipu.com/ai001/post/20251011/2025%E5%B9%B4AILLM%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E7%BD%91%E5%85%B3AI%E5%AE%89%E5%85%A8%E5%9B%B4%E6%A0%8F%E5%AE%89%E5%85%A87%E7%BB%B4%E6%9C%80%E4%BD%B3%E5%AE%9E%E8%B7%B5%E4%B8%8E%E6%96%B9%E6%A1%88/ Sun, 12 Oct 2025 12:42:25 +0000 https://index.zshipu.com/ai001/post/20251011/2025%E5%B9%B4AILLM%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E7%BD%91%E5%85%B3AI%E5%AE%89%E5%85%A8%E5%9B%B4%E6%A0%8F%E5%AE%89%E5%85%A87%E7%BB%B4%E6%9C%80%E4%BD%B3%E5%AE%9E%E8%B7%B5%E4%B8%8E%E6%96%B9%E6%A1%88/ 2025-10-09 21:56:04 0点赞 1收藏 0评论 在企业加速上线智能客服、知识库问答与外呼等场景的2025年，围绕“AI/LLM应用安全与合规产品选型”的最佳实践、案例与方案推荐，本文以7维方法论为骨架，给出可落地的路径与指标，并在同一体系内对比多行业成效，结论是：采用流式网关与双向拦截的组合，在延迟P95 https://index.zshipu.com/ai001/post/20251011/2025%E5%B9%B4%E7%9A%84AI%E6%8A%A5%E5%91%8A%E5%87%BA%E7%82%89AI%E5%8F%88%E5%8D%87%E7%BA%A7%E4%BA%86%E5%95%A5%E7%A7%91%E6%8A%80/ Sun, 12 Oct 2025 07:45:21 +0000 https://index.zshipu.com/ai001/post/20251011/2025%E5%B9%B4%E7%9A%84AI%E6%8A%A5%E5%91%8A%E5%87%BA%E7%82%89AI%E5%8F%88%E5%8D%87%E7%BA%A7%E4%BA%86%E5%95%A5%E7%A7%91%E6%8A%80/ 你是否也在用AI时感到“它越来越强，却越来越难用”？本文将带你从2025年AI报告出发，拆解AI能力的最新升级路径，从多模态输入、任务分解到角色扮演，一步步教你如何打造“能听懂、能协同、能表达”的AI助理，让你的工作真正“提效不添乱”。 年初爆火的Reasoning 毫无疑问，在So https://index.zshipu.com/ai001/post/20251010/Anthropic%E9%87%8D%E7%A3%85%E7%A0%94%E7%A9%B6%E5%8F%AA%E9%9C%80250%E4%B8%AA%E6%96%87%E6%A1%A3%E5%B0%B1%E8%83%BD%E7%BB%99%E4%BB%BB%E6%84%8F%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8A%95%E6%AF%92-53AI-AI%E7%9F%A5%E8%AF%86%E5%BA%93%E5%A4%A7%E6%A8%A1%E5%9E%8B%E7%9F%A5%E8%AF%86%E5%BA%93%E5%A4%A7%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83%E6%99%BA%E8%83%BD%E4%BD%93%E5%BC%80%E5%8F%91/ Fri, 10 Oct 2025 06:09:08 +0000 https://index.zshipu.com/ai001/post/20251010/Anthropic%E9%87%8D%E7%A3%85%E7%A0%94%E7%A9%B6%E5%8F%AA%E9%9C%80250%E4%B8%AA%E6%96%87%E6%A1%A3%E5%B0%B1%E8%83%BD%E7%BB%99%E4%BB%BB%E6%84%8F%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8A%95%E6%AF%92-53AI-AI%E7%9F%A5%E8%AF%86%E5%BA%93%E5%A4%A7%E6%A8%A1%E5%9E%8B%E7%9F%A5%E8%AF%86%E5%BA%93%E5%A4%A7%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83%E6%99%BA%E8%83%BD%E4%BD%93%E5%BC%80%E5%8F%91/ 推荐语 Anthropic最新研究揭示：仅需250份文档即可对大模型实施精准投毒攻击，颠覆传统安全认知。 核心内容： 1. 传统AI安全假设的颠覆：投毒攻击与模型规模无关 2. 实验设计揭秘：DoS后门攻击机制与触发词设置 3. 四种规模模型的对比测试结果与安全启示 杨芳贤 53AI创始人/腾讯云(TVP