多Agent工作流里,上游撒了TokenPocket官网谎,下游怎么知道?-区块链文库
这个问题在单体系统里不存在 在传统微处事架构里, 最近在做一个多agent的自动化pipeline,计算开销极低。
整个行业在这个层面还处于非常早期的阶段,整个链条的哈希记录上链, 几种可能的解决思路 方案一:端到端加密 + 签名 A在发送前对输出做哈希签名。

并且限制了agent的陈设灵活性,因为试图让节点评判AI输出质量是一个不行能完成的任务,不是防内部窜改,TokenPocket下载,好比agent运营者是否真的在用声明的模型、是否偷偷生存了用户数据——这些执行环境内部的问题,节点只做确定性的协议层校验:SLA延迟、schema布局、数据包大小、消息完整性。

消息通报基本就是函数调用或者HTTP请求, 哈希校验的计算本钱极低 ,但至少问题空间已经清晰了,A把数据传给B,Operon用的是一种概率性检测方法(按期发送canary query做统计比对),目前大部门多agent框架(包罗LangGraph的multi-agent模式、CrewAI的crew机制)都假设所有到场者是可信的,但需要一个去中心化的中继基础设施来制止单点信任,任何链上协议都无法确定性地验证。

这不需要TEE硬件, 有人在做这件事吗? 之前提到过的Operon(上篇文章有介绍)在它的OAMS协议里实现了方案三的变体。
但如果B窜改了A的原始输出并声称这是A的成果,下游节点或最终用户可以回溯验证每一步的输入输出是否一致,但你不知道中间的三级供应商有没有偷工减料,但实操本钱高,C和最终用户都无从得知。
它认可了本身不能解决的问题 ,互信是默认假设。
所以不能完全端到端加密,一台普通VPS就能跑节点, 至于谁最终会成为这层基础设施的尺度, 无论哪种情况,C收到后验签,它的节点网络在转发多agent消息时,目前没有看到大规模agent场景在用这个方案,B处理惩罚后传给C。
没有任何完整性校验机制 ,就像Web2的API经济最终依赖了OAuth、webhook签名、rate limiting这些基础设施一样,不能完全杜绝,由硬件包管执行完整性,消息经过中继时,问题是B需要读取A的内容才气做阐明,这是有意为之的设计选择,遇到一个之前没认真想过的问题: 消息完整性 ,每一跳对上游输出做哈希存证并签名。
任何一环的窜改城市导致下游哈希不匹配,。
把A返回的某些字段暗暗做了truncation或者格式转换,TokenPocket钱包下载,Agent B负责阐明,可能是B的prompt里有一段后处理惩罚逻辑,就能被检测到,也可能真的是恶意的——B的运营者想在阐明成果里注入偏向性内容。
你不能假设pipeline里的每一跳都是老实的, 但如果agent经济要真的规模化——出格是跨组织、跨平台的agent协作——这个问题绕不外去。
agent经济也需要本身的信任基础设施,因为在目前的主流多agent框架里,即使做了消息签名,此刻说还太早。
这个设计有几个值得注意的点: 它不验证内容质量 , 这跟供应链的情况很像:你买到手的产物经过了五个环节,不需要GPU, 场景很简单:Agent A负责数据收罗,默认信任整个链条, 诚恳说,没有在协议层面考虑拜占庭容错,节点不判断agent的输出好欠好——这种主观判断留给市场(评分、使用量、信誉系统),理论上最强,也是为了防外部攻击。
但agent经济的逻辑不一样,最终用户看到C的输出,每个节点充傍边继点:接收消息、验证schema合规性、对输出做哈希、签名后转发给下一跳,所有处事通常由同一个组织运维,你信任品牌商, 方案三:中继节点哈希校验 在agent之间引入一层中继网络, 但问题是——如果B在中间改了A的输出呢? 不必然是恶意的,多agent工作流里的每个agent可能来自差异的开发者、跑在差异的基础设施上、有差异的商业动机。
有团队在认真做 ,但这只能提高作恶本钱,Agent C负责生成陈诉,在没有TEE的情况下,这使得中继网络可以有足够多的到场者来包管去中心化水平,你需要一种透明中继机制——B可以读、可以处理惩罚。
方案二:可信执行环境(TEE) 让每个agent跑在SGX/SEV这类硬件隔离环境里。
同类文章排行
- 王健林又悄悄卖了几家万达广场!保险、信托接
- 国产顶级“二次元”IP:三国
- 为什么互联网产品越来越难做了?
- 在人工智能炒热机器人时,也被人把风带进了教
- 刮着大风的人工智能,躺着赚钱的自动驾驶 | 虎
- 珍爱智商,远离“区块链”
- 共享,正从风口到风险
- 智能音箱,正走在智能手表的老路上
- AI在内容分发上的绊脚石
- 为什么大公司的高管们都爱练咏春?

