Tokio Prompt Orchestrator

未认领

作者：Mattbusel

Tokio pipeline for serving LLM requests: bounded five-stage flow with dedup, circuit breakers, retries, rate limits and a dead-letter queue in front of Anthropic, OpenAI, llama.cpp or vLLM. REST, SSE, MCP, TUI.

agentanthropicasyncbackpressurecircuit-breakerllmllm-servingmcpmodel-context-protocolmulti-agentopenaiorchestrationrate-limitingrusttokio

设置此服务器

比较服务器我的工具栈

此服务器需要专门配置。目前没有可复用的公开启动命令，请遵循项目说明。

项目说明

更多AI & ML服务器

浏览完整目录

未认领列表

这个 MCP 服务器是你的吗？

此列表根据公开信息自动生成。认领后，你可以编辑页面、设置兼容性并解锁增长工具。全程不超两分钟。

认领此服务器

安全概况

已认领和已认证的服务器每周接受一次静态扫描，显示代码能触及的范围（外部服务、环境变量、shell 命令、代理配置目录）以及带有已知公告的依赖。认领此列表即可获得。安全概况的工作原理

工具变更历史

比较相同配置的完整检查。只列出工具，未调用工具。此处不测量输入结构的变化。

尚无完整工具检查。