返回首页
本地 LLM
找到 6 篇关于此标签的文章
llama.cppllama-bench
llama.cpp 的 llama-bench 新增 -fitc 和 -fitt 基准测试标志
llama-bench 从 b8679 版本起新增 -fitc 和 -fitt 标志，使开发者能更精细地控制基准测试的时间输出格式。
Apr 61 分钟
MiniMaxMiniMax-M2.7
MiniMax-M2.7 开源发布推迟至本周末
MiniMax 因基础设施适配工作推迟 MiniMax-M2.7 开源发布，目标发布时间已调整为本周末。
Apr 61 分钟
llama.cppQwen
37 个大语言模型在 MacBook Air M5 32GB 上完成基准测试：完整速度结果
社区使用 llama-bench 在 M5 Air 32GB 上对 37 个本地 LLM 进行基准测试，结果显示 MoE 模型在速度与质量比方面表现最佳。
Apr 61 分钟
llama.cppOllama
当工具链成为枯燥的基础设施，本地 AI 走向主流
Reddit 热议指出：本地 LLM 普及的关键在于可靠的工具栈而非基准测试提升，正如 Docker 引发的容器革命。
Apr 61 分钟
Gemmallama.cpp
Gemma E2B 在 M3 Pro 上实现本地实时多模态 AI 运行
开发者利用 Parlor 项目，在 Apple M3 Pro 上本地运行 Gemma 4 E2B，实现实时音视频输入与语音输出，无需云端依赖。
Apr 51 分钟
TheLocalDrummerSkyfall-31B
TheLocalDrummer 发布 Skyfall-31B v4.2 无审查角色扮演模型
社区微调者 TheLocalDrummer 发布了 Skyfall-31B v4.2，这是一款专注于无审查角色扮演的本地 LLM 模型，支持本地部署且无 API 限制。
Apr 51 分钟