Inferbench logo

Inferbench

未认领

作者：JoniMartin27

Benchmark local LLM inference speed (tokens/sec) on your own hardware — llama.cpp native + cloud APIs, 124-model catalog, optimal-quant picker, and an MCP serve mode.

benchmarkelectronfastapiggufinferencellama-cppllmlocal-llmpythonai

安装

$C:\ruta\a\inferbench-backend.exe --mcp

设置此服务器

比较服务器我的工具栈

此服务器需要专门配置。目前没有可复用的公开启动命令，请遵循项目说明。

项目说明

更多AI & ML服务器

浏览完整目录

未认领列表

这个 MCP 服务器是你的吗？

此列表根据公开信息自动生成。认领后，你可以编辑页面、设置兼容性并解锁增长工具。全程不超两分钟。

认领此服务器

安全概况

已认领和已认证的服务器每周接受一次静态扫描，显示代码能触及的范围（外部服务、环境变量、shell 命令、代理配置目录）以及带有已知公告的依赖。认领此列表即可获得。 安全概况的工作原理

工具变更历史

比较相同配置的完整检查。只列出工具，未调用工具。此处不测量输入结构的变化。

尚无完整工具检查。