大家好,我是超哥。今天给大家分享 DaisyRose 27B 多模态 AI 大模型的本地部署教程!这款模型基于 Qwen3.8-27B 打造,通过大规模强化学习训练,重点提升了编程、复杂推理和 Agent 工具调用能力。今天我们将使用 LocMod 在本地部署,并接入 DeepSeek Harness,下面我们开始教程!

博主电脑环境
显卡:NVIDIA RTX 4080 SUPER(16GB)
CPU:AMD R9 7900X 12-Core Processor(12核)
内存:64GB DDR5(3600 MHz)
一、LocMod 软件下载安装
LocMod 官方下载地址:https://locmod.com
LocMod 直达下载地址1:【立即下载】
LocMod 直达下载地址2:【立即下载】
LocMod 网盘下载地址:https://pan.quark.cn/s/8fb5340e2806?pwd=YPYc

二、环境部署
1. 在线自动部署(能快速访问Github)
直接点击软件里的"立即安装"按钮自动部署。
2. 手动下载部署
下载下面链接里的环境文件,软件里导入下载到的压缩包即可。
llama.cpp 夸克网盘下载地址:https://pan.quark.cn/s/814d913a0335?pwd=UZj4
Github 下载地址:https://github.com/ggml-org/llama.cpp/releases

三、DaisyRose 27B 模型部署
模型 Hugging Face 地址:https://huggingface.co/RadixArk/DaisyRose-27B-GGUF/tree/main
模型 魔搭社区 地址:https://www.modelscope.cn/models/RadixArk/DaisyRose-27B-GGUF/files
电脑配置模型选择推荐:
| 模型版本 | 文件大小 | 适用显存 | 推荐说明 |
|---|---|---|---|
| Q2_K_XL | 约 10 GB | 12GB 显存及以上 | 2-bit 量化版本,文件较小,适合显存有限的用户 |
| Q3_K_XL | 约 13.2 GB | 12GB 显存及以上 | 3-bit 量化版本,在模型体积与推理精度取得平衡 |
| Q4_K_M | 约 16.6 GB | 16GB 显存及以上 | 4-bit 中等量化版本,兼顾模型精度与运行资源 |
| Q4_K_XL | 约 17.7 GB | 16GB 显存及以上 | 4-bit 高质量量化版本,适合追求推理精度的用户 |
| Q5_K_M | 约 19.9 GB | 24GB 显存及以上 | 5-bit 量化版本,适合高显存设备 |
| Q6_K | 约 22.1 GB | 24GB 显存及以上 | 6-bit 量化版本,适合追求高质量输出的用户 |
| Q8_0 | 约 29 GB | 32GB 显存及以上 | 8-bit 高精度量化版本,硬件资源需求较高 |
| mmproj-BF16 | 约 931 MB | -- | BF16 多模态视觉投影模块,用于支持图片输入 |
1、在线自动部署
软件里“精选模型”里搜:DaisyRose 27B GGUF
海外网络:点击"海外(HF)下载"按钮进行自动下载部署。
中国网络:点击"中国(魔搭)下载"按钮进行自动下载部署。
2. 手动下载部署
点击"网盘下载"获取模型文件,然后点击"导入模型"进行部署
夸克网盘模型下载地址:https://pan.quark.cn/s/0a2abcda94de?pwd=UggC
四、接入 DeepSeek Harness
DeepSeek Harness 下载地址:https://www.deepseek.com/harness/
接入参数:
Provider ID: daisyrose-27b
显示名称: daisyrose-27b
API 地址:http://127.0.0.1:端口号/v1
API 协议: OpenAI Chat Completions
API Key: 随便填一个
添加模型:点击"获取可用模型"