知识铺的博客

专注于Android、Java、Go语言(golang)、移动互联网、项目管理、软件架构

包含标签 Human Approval 的文章

AI代理从简单响应转向自主循环带来的安全工程挑战

2026年9月4日

AI代理从简单响应转向自主循环带来的安全工程挑战从User→Model→Response到Goal→Plan→Retrieve→Reason→Propose Action→Verify→Execute→Observe→Continue的转变，让AI代理层面临大量工程与安全要求。这一……

2025 2025趋势 24/7部署 3D重建 3D高斯溅射 502错误 996 ACME协议 Adobe集成 Agent Agent Builder Agent Framework Agent Kit Agent Runtime Agentic Coding Agentic架构 AgentKit AgentLoop AI AI Agent AI Agents AI Bug Tracking AI Chat AI Coding Agent AI for Science AI PC AI Planning AI 代码生成 AI 编码 AIGC Aion AIOps AI产品 AI代理 AI代码审查 AI伦理 AI修图 AI创业团队 AI创作 AI创意 AI初创 AI办公 AI助手 AI医疗 AI发展 AI同质化 AI商业 AI图像生成 AI城市管理 AI基准测试 AI基础设施 AI大模型 AI安全 AI安全工具 AI实习生 AI客服 AI小方块 AI工作流 AI工作站 AI工具 AI工程实践 AI市场扩张 AI平台 AI广告设计 AI应用 AI应用构建 AI开发 AI开发工具 AI开源 AI意识 AI执行 AI技术 AI投资 AI报告 AI推理 AI提示词 AI播客 AI收购 AI方案 AI日报 AI时代 AI智能体 AI模型 AI模型测试 AI测试 AI海报 AI漫画 AI牙刷 AI生产力 AI生图 AI生态 AI生成 AI生成图 AI用户增长 AI短视频 AI研究员 AI硬件 AI编码 AI编码代理 AI编程 AI编程助手 AI编程模型 AI职场采用 AI自动化 AI芯片 AI落地 AI行业 AI规模化落地 AI视频 AI视频生成 AI训练数据 AI设计 AI证券 AI评估 AI试点 AI质量控制 AI赋能 AI辅助开发 AI运维 AI销售 AI陪伴 AI零售 AI顾问 AI预测 AI风险 AltStore AMD AMD NPU AMD合作 Android Anthropic ANT协议 API Apify API可靠性 API自动化 App SDK Apple Apps SDK App增长 App开发 AR/VR AR眼镜 Astra AutoGen AutoML AWS Azure Bad Gateway Bloom过滤器 Bot Mode B端产品 B端设计 C++17 CameraJet Candle Canva CapCut CentOS CERN Certbot CG ChatGPT ChatKit Chatwoot Chrome CI/CD Cisco Claude Claude AI Claude Code Claude Fable 5.1 Claude Mythos 5.1 Claude应用 Claude模型 Claude统计数据 CLI工具 Cloudflare CNCF Code Review CodeArena Codex Coding Agents Computer Use Connector Registry Copilot Coreutils Coze CrewAI CRM CUDA生态 Cursor Cursor IDE CVE漏洞 Cybercab Debian DeepMind DeepSeek Descript DevDay DevDay 2025 DevOps DevOps工具 Dify DLSS 5 Dokploy Dropbox DSL EInk Epic Games ESP32 Fable 5.1 Fediverse集成 Figure 03 Figure AI FinOps Firefox Flyme AIOS FNIRS FTC Geek+ Gemini Gemini 2.5 Flash Gemini 3 Gemini Enterprise Geoffrey Hinton Ghostty Git Git Worktrees GitGuardian GitHub GitHub Copilot GitHub PR GitHub工具 Git指标 GLM-5.3-Flash GNU GOAI大赛 Google Google Labs Google算法 Google评论 Google账号 Goose GPT-4o GPT-5 GPT-5.6 Luna GPT-6 GPTBots GPU Gradle Grafana Graphify Grok Imagine GTA6 GuanceDB GUI智能体 Guru Hackathon Harness Harness 设计 Harnesses Harvey AI HBM HBM4内存 Headless HEIR项目 Helix神经网络 Hermes Hill Climbing Hugging Face Human Approval Hy4 Preview HydraFusion IAM IMAX Instagram风格界面 Intel Xe IPhone IPhone替代应用市场 IP设计 Ironclad IT运维 Java JavaScript JDBC Jira集成 John Ternus JPEG XL Jujutsu KaruHunters Kotlin协程 Kubeflow Kubernetes L4 LangGraph Lean Let's Encrypt Library Genesis LibreOffice Linus Torvalds Linux Linux内核 LLM LLM市场分析 LLM应用 LLM编排 LLM部署 Loop Engineering M4 M5 Pro M5芯片 M6芯片 Mac Mac AI Mac Mini Mac Studio MCP MCP协议 Mercury Meta Meta AI MI450X MinerU MiniMax MLOps Model Hardware Standard MonkeyCode Monolith Soft MoonshotAI MRNA疫苗 Muse Spark N8n NAND闪存 Nano Banana NeRF Next.js NotebookLM Npm Npm包 Nvidia OAuth令牌攻击 OAuth认证 Ollama On-Call On-Device AI Opal Opal工具评测 Opal平台 OpenAI OpenRouter OpenWork OriginOS 7 Pace Capital Panther Lake Parallax PDF处理 Permission Boundaries Pinterest Postinstall PreparedStatement ProArt GR1X Prometheus Prompt Chaining Proptech Pura X View Python SDK QuEra Quick Suite Qwen Qwen-UI-Agent Qwen3.8-Max RAG RAG技术 Ray-Ban RCE RDKit Redbean Referral Program Reflect Orbital Reflection AI Replit RHEL RLS Robotaxi Rockstar ROI分析 RPA RSS RTX 40 RTX 50 RTX Spark Rubin GPU Rubric评估 Runtime Rust SaaS Salesforce Sam Altman SBOM Scattered Lapsus$ Hunters SDD SDK Seedream Sentry SEO ServiceNow Shopify Side Project Skill Sop Sora Sora 2 Sora2评测 Sora应用 SOTA SQLite SQL构建器 SQL注入 Squads SRE SSO漏洞 SSO登录 Stripe Sundar Pichai Supabase Switch 2 TDD Telegram Temporal Tequila算法 Terraform Threadripper Thunderbit Tokens Token成本 Tool Calling ToPrimitive Trace Transcript 日志 Twitter TypeScript Uber UI UI设计 Vercel VEX Vivo VPN VPS VS Code Vscode Waymo Web 应用 Web开发 Web自动化 WHCP Whisper Wi-Fi 7 Windows Windows驱动 WorkBuddy Workflow X.com X402 XAI Xiaomi MiMo XR技术 YC孵化器 ZCode Zero语言 ZGI Zig Z世代万有无界三期临床上下文工程专业创作专业服务自动化世界模型个人Agent 个性化医疗个性化治疗个性化营销中国AI产业中国仿制药出口中国出口中国市场中国科学家中国立场中小企业中层管理中折叠中文日志解析中美AI竞争中美对比中美贸易临床辅助云原生云成本优化云服务云计算互动广告亚马逊亚马逊云科技交互模式产业链产品停运产品出海产品增长产品对比产品推荐产品矩阵产品经理产品设计京东人工智能人工智能商业化人工智能普及人工智能生态系统人工智能监管人工智能风险人形机器人人效人机交互人机协作人民币汇率仓储物流代理服务器代码安全代码审查代码提交代码生成代码质量代码重构令牌校验任务协同任天堂仿人机器人企业AI 企业AI部署企业应用企业微信企业支出企业效率企业数字化企业级AI 企业落地伯克利AI研究低代码低价作品集使用技巧使用教程供应链供应链冲击供应链国产化供应链安全供应链攻击依赖审计倒排索引健康服务健康管理元数据管理光污染免费工具免费资源全栈开发全球化布局全球扩张全球药品供应链公众号排版内容创作内容创作工具内容生产内容生成内容运营内核开发决策地图凭证收割创业创业趋势创作工具创意团队创意工具创意设计创新创新药出海前端 Bug 前端开发前端编程副业项目办公效率办公自动化办公软件功率器件动态SQL 勒索软件包管理器化学信息学医学影像医疗AI 医疗IT 医疗健康医疗影像医疗服务医疗案例千问千问办公半导体华为协作协作学习卡通形象卫星星座印度AI产业即时通讯即梦即梦 4.0 即梦4.0 原子工作台反爬虫取消机制口腔护理可查询可执行文件可灵可维护性可观测性可视化可视化工作流可视化编辑器可靠性合同管理合规风控同态加密周报替代品牌设计商业创意商业模式商业洞察回归测试团队协作团队效率固态电池国产大模型国内开发者国际参考定价图像生成图像编辑图片格式地域差异垂直小模型垃圾内容更新城市合规基座模型基础设施基础设施安全塞尔达传说处理器外语教育多 Agent 协作多 Agent 生态多Agent协作多Agent系统多云架构多代理工作流多任务多模型编排多模型路由多模态多模态AI 多模态模型多渠道打包多租户多端开发多邻国夜间免费大学生活大模型大模型应用大模型推理大模型落地大模型评测大模型适配大语言模型大语言模型性能天文观测太阳能发电姚顺宇媒体编辑流程存储架构学术背景宇树科技安克创新安全合规安全扫描器安全护栏安全研究安全策略安全网关宕机定制芯片宝马实用指南实践实践指南实践案例审批门审计轨迹客户服务客户画像客户管理客服Agent 家庭机器人容器编排容器运行时容错恢复密钥管理对抗性评估对话式编程小微企业小米18 Fold 小红书Muse 就业焦虑就业转型嵌入式智能工业AI 工作台工作流工作流优化工作流程重塑工作流编排工具工具对比工具对比分析工具开发工具推荐工具教程工具测试工具盘点工具调用工程实践工程师 Burnout 工程落地市场趋势市政执法带货视频干货平台工程并行开发幻觉问题广告创意广告拍卖广告营销广告透明度应用应用商店垄断应用安全应用平台应用改版应用案例应用繁荣开发实践开发工具开发成本开发效率开发生态开发者开发者习惯开发者安全开发者工作流开发者工具开发者效率开发者生态开发者社区开发者角色开放世界开源开源AI 开源安全开源客服开源工具开源模型开源硬件开源系统开源维护开源软件开源项目异常检测弹性计算形式化数学影子IT 影片制作得物实践微信案例微支付微软德勤快速原型开发性能优化性能提升性能测试成本优化成本控制戴森所有权管理手机形态扣子空间技术技术专家技术创新技术变革技术大会技术平台技术应用技术挑战技术教程技术文章技术详解技术趋势技能需求变化投资抖音抖音增长折叠屏抽象相等拖拽式开发拖拽式界面拟人化持久化记忆持续迭代持续集成指数退避掌控度推理能力推荐提示工程提示词提示词工程提问技巧播客市场操作指南操作步骤操作系统支付支付协议政府黑客工具故障排查效率工具效率提升敏捷开发教学设计教师节教程教育场景数字内容创作数字化转型数字员工数字市场法数据中心数据分析数据可视化数据合规数据基座数据导出数据库安全数据库管理数据抓取数据换折扣数据泄露数据漂移数据管道数据路径验证数据隐私数据飞轮数据驱动文化差异文心一言文档解析文生视频技术新品发布新能源新能源汽车无人驾驶无代码开发早稻田大学早筛时之笛重制智慧城市智能Agent 智能体智能体开发智能决策智能助手智能合规智能投顾智能牙刷智能设备智能购物车智谱AI 暗网交易更新最佳实践服务器异常服务器迁移本地AI 本地企业本地工作流本地部署机器人机器人维修机器人运维机器人量产机器学习机械臂构建优化架构设计架构选择案例分析桌面平台桌面自动化检索增强生成模型分发模型对比分析模型投毒模型无关性模型路由模型轻量化模型采购模型量化求职面试沙箱隔离流水线优化流量红利浅层AI应用测试流程优化测试策略测试资产浏览器浏览器同步浏览器指纹浏览器本地计算海外渠道深势科技深度学习混合架构游戏开发源代码泄露滴滴出行漏洞漏洞利用潜在客户激光运维热门应用照片扫描版本控制版权侵权版权诉讼物流自动化物理AI 物理模拟物联网特斯拉特朗普关税特朗普药价政策状态管理独立开发者理想汽车生产事故生产力工具生产化生产可靠性生产环境生态战略生成式AI 用户体验用户推荐用户迭代电信安全电商广告电商海报电子病历电池技术电路断路器百度监管诉讼直板手机知识分享知识图谱知识库短视频短视频故障研发全链路研发流程研发管理确定性工作流碳化硅社交协作社交媒体社交媒体营销社交应用神操作神经引擎神经网络票务系统私域私域变现私域运营种子轮融资科技创新科技巨头竞争科研基础设施科研自动化移动端基准移动端推理稳定性保障空间智能竞争端侧AI 端侧大模型算法交易算法推荐米哈游米歇尔·德沃雷系统设计系统集成索引优化红杉资本约翰·克拉克约翰·马蒂尼斯纽西兰组织变革组织流程终端代理终端模拟器经济指数分析结构化评测集统一内存绩效体系编程工具编程自学编程语言网站优化网络安全网络安全评估网络攻防网络问题网页爬虫罕见病研究罗马尼亚美国情报委员会聊天组件聊天记录职场技能职场选型联发科联想ID 肝癌诊断育碧肿瘤疫苗脑科学腾讯腾讯混元自主软件团队自动化自动化告警自动化工具自动化检测自动驾驶自动驾驶监管自托管自然语言编程自行车电脑艾博生物芯片技术苏纳克英伟达英国首相英特尔英语学习苹果苹果本地处理苹果模式药物研发获客落地应用蓝领AI使用蓝领工人虚拟伴侣虚拟助手融资规范驱动开发视觉设计视频制作视频生成视频社交视频编辑计算机视觉记忆系统设计设计展示设计工具设计细节访问控制证书续期证明义务评论管理词汇记忆诚实设计语音钓鱼误报降低诺贝尔物理学奖课堂海报调试谷歌谷歌开源谷歌量子霸权豆包负载均衡财报分析账号安全质量门购物体验费马大定理资源占用赚钱跨平台软件交付软件包签名软件工程软件开发软件开发自动化软件架构软件测试达拉斯AI 达摩院运维实践运维工具运维方案运维自动化违停罚单迷你主机迷你应用通义千问遗留系统部署成本重置卡重试风暴量产量子电路量子计算量子隧穿金融数据金融科技钉钉钉钉集成销售工具销售漏斗销售自动化销售预测错误处理长上下文间谍软件阔直板防御性编程阿里阿里云阿里千问隐式转换隐私保护隐私安全隐私计算集体诉讼零代码开发零信任零售媒体零售科技静态分析静默失效静默失败音画同步音频生成项目驱动学习风险投资飞书飞书集成马斯克验证码魅族鲁宾天文台黄仁勋黄金指标黑天鹅事件