大家好,我是超哥。今天给大家分享 商汤 SenseNova-Loop-9B AI 大模型的本地部署教程!这款模型由商汤科技推出,拥有约 90 亿参数,采用全新的 Loop 循环计算架构,实现更强的推理能力,等效推理规模可达约 14.6B。模型还支持最长 512K 超长上下文,在代码编写、复杂推理以及 Agent 工具调用等任务上都有不错的表现。今天我们将使用 LocMod 在本地部署这款模型,下面我们开始教程!

博主电脑环境
显卡:NVIDIA RTX 4080 SUPER(16GB)
CPU:AMD R9 7900X 12-Core Processor(12核)
内存:64GB DDR5(3600 MHz)
一、LocMod 软件下载安装
LocMod 下载地址:https://locmod.com

二、专属环境部署
1. 在线自动部署(能快速访问Github)
直接点击软件里的"立即安装"按钮自动部署。
2. 手动下载部署
下载下面链接里的环境文件,软件里导入下载到的压缩包即可。
专属 llama.cpp 夸克网盘下载地址:https://pan.quark.cn/s/132444311da8?pwd=xuGg
专属 llama.cpp Github 下载地址:https://github.com/terasut-num/llama.cpp-SenseNova-loop/releases/tag/sensenova-loop-eb039c2

三、Qwen3.5 4B 模型部署
主模型 Hugging Face 地址:https://huggingface.co/guideboardlabs/SenseNova-Loop-9B-GGUF/tree/main
多模态 Hugging Face 地址:https://huggingface.co/AtomicChat/SenseNova-Loop-9B-GGUF/tree/main
电脑配置模型选择推荐:
| 模型版本 | 文件大小 | 适用显存 | 推荐说明 |
|---|---|---|---|
| Q3_K_M | 约 4.64 GB | 6GB 显存及以上 | 低精度量化版本,文件较小,适合显存有限的用户 |
| Q4_0 | 约 5.33 GB | 6GB 显存及以上 | 4-bit 量化版本,兼顾模型体积与运行效率 |
| Q4_K_M | 约 5.63 GB | 6GB 显存及以上 | 推荐日常使用,兼顾模型精度与显存占用 |
| Q8_0 | 约 9.54 GB | 12GB 显存及以上 | 8-bit 高精度量化版本,较好保留原始模型质量 |
| mmproj-F16 | 约 918 MB | -- | 多模态视觉投影模块,用于支持图片输入 |
1、在线自动部署(能够访问 Hugging Face)
点击"海外(HF)下载"按钮进行自动下载部署。
2. 手动下载部署
点击"网盘下载"获取模型文件,然后点击"导入模型"进行部署
夸克网盘模型下载地址:https://pan.quark.cn/s/7d9167a3133f?pwd=M7PD
四、接入 DeepSeek Harness
DeepSeek Harness 下载地址:https://www.deepseek.com/harness/
接入参数:
Provider ID: sensenova-loop-9B
显示名称: sensenova-loop-9B
API 地址:http://127.0.0.1:端口号/v1
API 协议: OpenAI Chat Completions
API Key: 随便填一个
添加模型:点击"获取可用模型"