INDEX // #INFERENCE

whichllm 是一款能自动检测本地硬件（GPU/CPU/RAM）并推荐最适合运行的开源大语言模型（LLM）的命令行工具。它不仅过滤能塞进显存的模型，还基于真实的基准测试、量化惩罚和预估运行速度进行智能综合评分。此外，它还支持指定显卡模拟、反向硬件规划、一键开启聊天对话以及生成可用的 Python 运行代码片段。