在线 AI 好用，但额度、排队、内容限制和素材上传，始终是绕不开的问题。LocModel 给出的思路很直接：把开源模型下载到自己的电脑，推理也在本机完成。

它不是又一个单独的聊天客户端，而是一套本地 AI 部署工具。硬件识别、模型推荐、推理引擎安装、模型下载和导入，都被收进了同一个图形界面。即使不熟悉命令行，也可以从零搭起一套本地模型环境。

LocModel 主界面：左侧切换功能，右侧是当前工作区。

一个软件，覆盖五类本地 AI 任务

LocModel 的核心价值，不是“能跑一个模型”，而是把几种常见的本地 AI 工作流放到了一起。

图片生成、图片编辑和视频生成不需要再跳转到其他工具，模型输出也会直接回到 LocModel 的工作区里。

为什么它比自己配环境省事

手动部署本地模型，通常会卡在几个地方：显卡型号对不上、推理框架装不好、模型格式不兼容、显存不够直接报错。LocModel 把这些环节做了整合：

• 自动识别硬件：启动后检测电脑配置，再给出适合的模型建议。
• 自动安装推理引擎：根据使用场景提示安装对应组件，不需要自己编译。
• 在线下载与本地导入并存：既能从软件内获取模型，也能导入已有的 GGUF 文件。
• 显存不足时自动分流：支持显存、内存和硬盘加载，用速度换可用性。
• 硬件兼容范围广：支持 NVIDIA、AMD、Intel 显卡，也能调用 CPU 运行。

这意味着同一套软件，可以在独显主机、核显笔记本，甚至没有独立显卡的电脑上，找到各自能跑的方案。

上手流程：下载、装引擎、选模型

第一步：下载 LocModel

前往 LocModel 官网下载安装包：

官方下载：https://locmodel.com

下载后按提示完成安装。软件本体免费，真正占用空间的是后面下载的模型文件。

第二步：安装两个推理引擎

首次进入软件时，LocModel 会提示安装推理引擎，一共需要安装两个：

1. llama.cpp：负责运行大语言模型，是本地 LLM 的核心推理框架。
2. 图片、视频生成引擎：负责图像和视频模型的推理。

按界面提示依次下载安装即可。两个引擎都装好后，模型才能真正开始运行。

第三步：获取模型

LocModel 提供两种模型来源：

• 直接在软件内浏览、下载推荐模型；
• 手动导入已经下载好的 GGUF 模型文件。

GGUF 是本地推理常用的模型格式。它的优势是把模型权重和运行所需信息打包在一起，适合在消费级硬件上按不同量化等级运行。LocModel 会根据硬件情况推荐版本，新手直接选标注为“流畅”的档位即可。

模型库会列出可选模型和适配信息，按推荐档位下载更稳妥。

本地大模型：聊天、写作和离线写代码

模型装好后，就可以在 LocModel 里直接对话。和在线服务相比，本地运行最大的区别是数据不出本机，提示词、代码和生成结果都留在自己的硬盘里。

对于需要长时间推理的任务，本地模型也不会受到在线额度限制。断网环境下，只要模型和引擎已经准备好，仍然可以继续工作。

让本地模型执行代码任务时，命令和推理过程可以在终端中查看。

在模型设置中调整参数，然后直接进入本地对话。

图片生成与编辑：从出图到修改都在本地

图片工作流分为两步。

第一步是生成。选择图片模型，输入提示词，设置尺寸和采样参数，生成的图片会保存在作品库中。整个过程中，图片不需要上传到第三方服务器。

在软件内调用本地图片模型出图，结果会进入作品库。

第二步是编辑。已有图片可以继续做局部修改、风格调整或重新生成，不必再切换到单独的图像编辑器。对于需要反复打磨素材的场景，这种一体化流程会省下不少来回导入导出的时间。

在对话中继续描述修改需求，对已有图片重新生成。

视频生成：开源视频模型也能本地跑

除了图片，LocModel 还接入了开源视频生成模型。输入画面描述后，模型会在本机完成视频推理。生成速度取决于显卡性能、模型规模和视频长度，显存越充足，能跑的分辨率和帧数越高。

在视频生成面板中设置模型、尺寸、时长和参考图。

Agent：让本地模型执行长任务

LocModel 的 Agent 功能可以直接调用本地模型。它适合把一项复杂任务拆成多个步骤，再持续执行，例如整理资料、批量处理文件、辅助完成代码任务等。

因为模型运行在本机，Agent 执行长任务时不受在线服务的调用次数限制。任务过程、上下文和中间结果也都留在本地。

在 Agent 界面交接任务，并指定 Huihui-Qwen3.8-27B-abliterated 作为执行模型。

Agent 按任务要求生成游戏场景素材。

任务完成后，Agent 会输出文件并汇总执行过程。

无审查模型：在线下载或手动导入

LocModel 支持运行社区里的开源无审查模型。获取方式有两种：直接在软件内下载，或者从 Hugging Face 下载 GGUF 文件后手动导入。

越狱模型下载：https://huggingface.co/JonathanColetti/Qwen3.8-27B-Uncensored-GGUF/tree/main

也可以在 LocModel 内搜索关键词：

Huihui-Qwen3.8-27B-abliterated

在模型库中搜索 Hugging Face 模型，并按显存选择对应的量化版本。

找到模型后，按软件的硬件推荐选择“流畅版”下载即可。模型越大，对显存和内存的要求越高；如果本机配置有限，优先选择量化等级更高、体积更小的版本。

需要说明的是，“无审查”描述的是模型训练和对齐策略，不代表输出一定符合预期。实际效果仍然取决于模型本身、提示词和采样参数；如果要公开分发生成内容，还需要单独确认模型许可证。

使用前需要知道的几点

1. 首次使用需要联网。 下载软件、推理引擎和模型都依赖网络，模型准备完成后才可以离线推理。
2. 模型体积不小。 本地模型通常以 GB 计算，下载前要预留足够的硬盘空间。
3. 显存不足仍能跑，但会变慢。 把部分计算分到内存或硬盘可以避免直接报错，代价是生成速度下降。
4. 性能取决于硬件。 原文没有给出统一的最低配置，最可靠的方式是看 LocModel 启动后的硬件检测和模型推荐。
5. 优先从推荐档位开始。 同一模型往往有多个量化版本，先跑流畅版，确认稳定后再尝试更高质量。

谁适合用 LocModel

• 想把开源大模型放到本地，但不想折腾 Python、CUDA 和命令行的人；
• 需要一个界面同时完成对话、绘图、图片编辑和视频生成的人；
• 对提示词、素材或生成结果的隐私比较敏感的人；
• 想用本地模型跑 Agent 长任务，又不想受在线额度限制的人；
• 手里有 NVIDIA、AMD、Intel 显卡，想快速判断“这台电脑能跑什么模型”的人。

最后

LocModel 真正解决的不是“下载一个模型”，而是把本地 AI 最麻烦的环境配置环节做成了可视化流程。硬件检测、模型推荐、引擎安装、GGUF 导入和多种生成工作流被放进同一个界面，门槛比传统本地部署低得多。

如果只是偶尔生成几张图，在线工具仍然更省事；但如果需要长期、离线、可控制地使用开源模型，LocModel 值得装上试试。