Micro-Agent
vllm.ai原文 ↗
vLLM blog 介绍一种在模型 API 内部进行协作的 micro-agent 方法。它关心的是 frontier model 调用内部如何组织多个微型角色,而不是在外部再堆一层复杂 orchestration。这个方向把 agent 架构拉近 inference/runtime 层,可能影响未来服务端如何暴露多角色推理能力。
–浏览
vllm.ai原文 ↗
评论 · Comments