跳转至内容

COHAO 共好
  • C

    你现在最想复现的一个 AI Agent 失败是什么？

    问答求助 agent 失败复现
    1
    0 赞同
    1 帖子
    45 浏览
    C
    不要只说“Agent 不稳定”。请选一个你真实遇到、愿意公开讨论的失败，让其他人有机会复现它。 建议按下面格式回复： 任务想完成什么： 发生日期： 工具、模型和版本： 运行环境： 允许的工具与权限： 最小输入或触发条件： 期望结果： 实际结果： 是否每次发生： 错误日志或脱敏证据： 你已经试过什么： 哪些解释只是推测： 是否涉及隐私、生产或付费操作： 希望社区帮你复现、定位还是设计规避方案： 请不要贴密码、Cookie、Token、客户数据、未授权代码或能识别个人的信息。如果无法公开原始材料，可以构造一个最小脱敏样本，并说明它与真实环境的差异。 编辑部会从回复中选择边界清楚、可复现且有普遍价值的问题，协助整理成失败案例；不会把未发生的推测包装成结论。 编辑说明：2026-08-15，COHAO 编辑部发起的开放问题。AI 协助整理提问模板，项目负责人复核。
  • C

    2025-03-11：OpenAI Agents SDK 的价值，不只是再多一个框架

    AI 进展与解读 agentssdk openai agent
    1
    0 赞同
    1 帖子
    50 浏览
    C
    2025-03-11，OpenAI 在发布构建 Agent 的新工具时开源了 Agents SDK。它延续了较轻量的编排思路，把 Agent、工具、交接、Guardrails 和 Tracing 放到一个可组合的运行模型里。 值得关注的不是“又一个框架” 追踪成为一等能力 复杂 Agent 的问题通常不在最终一句回答，而在中间选了什么工具、传了什么参数、在哪一步失败。Tracing 让团队有机会把这些步骤转成调试和评测证据。 交接有明确结构 不同 Agent 可以各自承担窄职责，再通过 handoff 转移任务。它比让一个万能 Agent 拥有所有工具更容易限制上下文和权限，但交接本身仍需测试，不能把责任一起丢掉。 Guardrails 不是完整权限系统 输入输出检查可以降低明显错误，却不能替代后端认证、对象所有权、幂等和人工确认。真正的工具权限仍应由业务系统决定。 什么时候不需要 如果任务只是一次模型调用加一个只读查询，普通函数和清晰日志可能已经足够。框架的价值要由真实工作流、可观测性和维护成本证明，而不是由示例代码长度证明。 一手来源： https://openai.com/index/new-tools-for-building-agents/ https://github.com/openai/openai-agents-python https://openai.github.io/openai-agents-python/ 编辑说明：本文按 2025-03-11 的发布背景解读，并于 2026-08-15 核对官方来源。AI 协助起草，项目负责人复核。
  • C

    2024-11-25：MCP 把模型连接数据和工具的问题标准化了什么

    AI 进展与解读 mcp agent
    1
    0 赞同
    1 帖子
    25 浏览
    C
    2024-11-25，Anthropic 公布 Model Context Protocol（MCP），把它定义为连接 AI 助手与数据源、工具和开发环境的开放标准。它试图减少一种长期重复工作：每个模型应用都为每个外部系统单独写一套连接器。 它标准化了什么 服务端如何暴露资源、提示和工具。 客户端如何发现能力并发起调用。 本地进程和远程服务的连接方式。 工具描述、输入结构和结果返回的共同语言。 这使“支持某个数据源”更可能成为可复用的服务能力，而不是只存在于一个 Agent 框架里的私有适配器。 它没有自动解决什么 MCP 不会替你完成身份认证、对象所有权、租户隔离、高风险确认、幂等、审计和密钥管理。一个 MCP 工具即使协议完全正确，也可能拥有过宽权限，或被提示注入诱导执行错误动作。 对社区 Agent 的意义 COHAO 未来可以把“检查来源”“读取公开主题”“生成待审核草稿”等能力做成窄工具，并通过标准协议接入不同 Agent。但协议层之上仍要由后端确定身份、权限和操作范围；管理员、资金和角色修改不会因为使用 MCP 就变安全。 一手来源： https://www.anthropic.com/news/model-context-protocol https://modelcontextprotocol.io/ https://github.com/modelcontextprotocol 编辑说明：本文解读截至 2026-08-15，重点是协议边界，不代表对所有 MCP 实现的安全背书。AI 协助起草，项目负责人核验来源。
  • C

    长任务如何防止上下文漂移：检查点、事实表与停止条件

    最佳实践 长任务 agent 可靠性
    1
    0 赞同
    1 帖子
    22 浏览
    C
    长任务最危险的并不总是模型能力不足，而是目标、事实和边界在几十次工具调用后悄悄漂移。一个好的检查点应该让任务被打断后可以继续，也让人能发现它正在回答旧问题。 三份持续更新的状态 事实表 只记录已经验证的事实、证据位置和时间。易变化的信息带日期；不确定内容明确标记为假设。 决策表 记录已经确认的选择、否决项、理由和生效范围。新消息与旧决定冲突时，先停下来处理冲突。 执行表 每个步骤只有 pending、in_progress、completed 三种状态，并写出验收证据。任何时刻最多一个主要步骤处于进行中。 什么时候建立检查点 完成一个可独立验收的阶段后。 即将进行不可逆或高风险操作前。 工具返回异常、环境发生变化或用户追加要求后。 上下文将被压缩、任务将转交或运行时间较长时。 停止条件比“继续努力”更重要 提前定义预算、最长运行时间、最大重试次数、允许修改的对象和必须转人工的事件。检查点不是为了让 Agent 永远运行，而是为了让它知道何时应该停。 编辑说明：2026-08-15，COHAO 编辑部基于长任务执行和社区建设记录整理；AI 协助起草，项目负责人复核。
  • C

    带外部工具的 Agent 如何避免重复执行：幂等键、状态机与补偿

    最佳实践 agent 工具调用
    1
    0 赞同
    1 帖子
    18 浏览
    C
    Agent 调用外部工具时，网络超时只说明“没有收到结果”，不说明“操作没有发生”。如果收到超时就盲目重试，可能重复付款、重复发帖、重复发信或重复创建资源。 最小幂等设计 在业务层生成幂等键，例如 actor + action + object + confirmed_version 的稳定摘要。 工具执行前记录 pending，并以唯一约束保证同一个键只能创建一次。 外部系统支持幂等键时，把同一个键传给它；不支持时，在本地状态机中保存外部请求标识。 超时后先查询状态，不立即再次执行。 结果进入 succeeded、failed、unknown 或 needs_review，不要把“未知”伪装成失败。 为无法原子回滚的动作准备补偿，例如撤销草稿、退款申请或人工复核单。 Agent 应该看到什么 模型可以得到经过裁剪的状态，例如“请求已经提交，结果未知，请等待查询”，而不是数据库连接和任意重试工具。是否允许重试由后端状态机判断。 一个简单的停止条件 出现以下任一情况就转人工：外部结果未知、高价值或不可逆动作、幂等状态冲突、对象版本已经变化、确认已过期。 可靠性不是“多重试几次”，而是知道每一次执行是否发生、现在处于什么状态、下一步由谁负责。 编辑说明：2026-08-15，COHAO 编辑部根据外部工具调用与支付类系统的通用工程模式整理；AI 协助起草，项目负责人复核。
  • C

    Agent 权限设计的第一原则：身份和对象范围必须由后端决定

    最佳实践 agent
    1
    0 赞同
    1 帖子
    10 浏览
    C
    Agent 安全最容易犯的错误，是把“你只能操作自己的数据”写进提示词，然后相信模型会一直遵守。模型输出只能表达意图，不能证明调用者是谁，也不能决定它有权操作哪个对象。 一个可靠的调用链 后端从已验证会话或访问令牌得到 actor，不接受模型提供的 user_id。 工具接口只接收业务对象和必要参数，站点、租户、所有者范围由后端补全。 策略层同时检查角色、对象所有权、动作风险和当前状态。 付款、删除、公开发布、改权限等动作需要明确确认，并把确认绑定到对象、内容和有效期。 写操作带幂等键，重复请求不会重复扣款、发送或删除。 审计记录保存是谁、何时、对什么对象、依据什么策略做了什么，不保存不必要的密钥和隐私。 不应交给模型决定的内容 当前用户身份、租户或站点。 对象是否属于当前用户。 是否为管理员、财务人员或审核员。 是否已经获得某次高风险操作的确认。 API 密钥、钱包签名、数据库直连和角色修改。 提示注入之所以危险，不只是模型可能说错话，而是被污染的内容可能诱导模型调用真实工具。OWASP 的生成式 AI 安全项目也把 Prompt Injection 作为核心风险；工程上的答案不是继续堆提示词，而是限制工具能力与后端授权范围。 参考： https://genai.owasp.org/llmrisk/llm01-prompt-injection/ https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence 编辑说明：2026-08-15，COHAO 编辑部根据公开安全资料与本项目“权限优先”原则整理；AI 协助起草，项目负责人复核。
  • C

    把 AI Agent 任务写成可复现运行记录：一份最小模板

    最佳实践 agent 可复现
    1
    0 赞同
    1 帖子
    26 浏览
    C
    很多 Agent 演示只留下一个成功截图。真正需要维护时，我们更需要知道：它在什么条件下运行、获得了什么权限、哪里失败、能否再次得到相近结果。 下面是一份可以直接复制的最小运行记录。 任务名称： 记录时间与时区： 执行者：人 / Agent / 人机协作 工具、模型与版本： 代码或提示词版本： 运行环境：操作系统、运行时、关键依赖 目标结果： 允许读取的输入： 允许调用的工具： 明确禁止的动作： 预算与最长运行时间： 停止条件： 实际步骤摘要： 关键工具调用及返回： 最终结果：成功 / 部分成功 / 失败 / 人工中止 可核验证据：日志、测试、提交、截图或输出文件 时间、Token、API 与人工成本： 失败现象： 已验证根因： 尚未验证的推测： 重试是否安全： 修复或补偿动作： 下次需要新增的检查： 为什么要把权限也写进去 同一段提示词，在只读文件系统和拥有生产管理员权限时，风险完全不同。可靠性不是只看回答质量，还要看 Agent 在失败、超时和歧义情况下会不会越过边界。 最小验收 另一个人能依据记录重跑主要步骤。 关键结果有机器可读或可截图的证据，不只是一句“看起来可以”。 失败后能判断应该重试、人工接管还是回滚。 记录没有包含密码、Token、Cookie、私密原文或未脱敏个人数据。 这份模板也是 COHAO《AI Agent 工具可靠性报告》的起点。欢迎回复你认为缺失但必须记录的字段。 编辑说明：2026-08-15，COHAO 编辑部基于本项目真实部署与 Agent 操作经验整理；AI 协助结构化，项目负责人复核。
  • C

    COHAO 内容与 Agent 披露规则 v0.1

    已固定 公开共建 社区规则 agent
    1
    0 赞同
    1 帖子
    24 浏览
    C
    这份规则适用于 COHAO 创世期，目标是让内容可信、关系真实、Agent 可控。规则会公开修订，但任何变更都必须保留日期和原因。 1. 内容的最低证据 实践帖标明日期、工具或模型版本、运行环境、输入条件和适用边界。 评测帖说明任务、样本、指标、失败样本和成本，不用单次演示代替结论。 进展解读优先引用官方公告、代码仓库、论文或标准原文，并区分事实与作者推断。 失败复盘不要求暴露隐私，但要区分已观察事实、推测根因和已验证修复。 2. AI 参与披露 允许 AI 帮助检索、整理、翻译、改写、生成代码草稿和检查格式。发布者必须说明 AI 的参与范围，并对最终事实、引用、运行结果和权限负责。 禁止用 AI 虚构用户经历、实验数据、回复、点赞、客户案例、社区共识或未经发生的成功。COHAO 编辑部发布的种子内容会明确标记为 AI 协助和人工复核。 3. Agent 权限 创世期 Agent 可以监控公开来源、整理草稿、检查引用和版本、发现重复问题、提示无人回复的主题。Agent 不得冒充成员、自动发布、自动处罚、修改角色、读取私信、接触资金或持有管理员凭据。 未来任何写操作都必须由后端认证上下文确定身份与对象范围，并具备权限校验、确认、幂等、审计和撤销路径。提示词不是权限系统。 4. 讨论边界 可以尖锐反驳观点，不攻击个人。 不发布密钥、个人隐私、未授权数据和可直接造成伤害的操作细节。 商业关系、赞助、返佣、雇佣和利益冲突需要披露。 举报进入人工队列；Agent 可以整理证据，但不能自动封禁。 5. 纠错与版本 发现错误时，优先给出可核验的纠正和来源。重要内容应在正文顶部记录更新时间和改动原因。被纠正不是失去信誉；拒绝修正已证实的错误才是。 版本：v0.1，2026-08-15。本文由 COHAO 编辑部使用 AI 协助起草并由项目负责人复核。后续修改将在主题中保留公开记录。