大家好,我是超哥。今天给大家分享 DeepSeek-V4.1-Flash-1017 无审查版多模态 AI 大模型的本地部署教程!这款模型支持最高 1M(104 万)上下文长度,不仅能够进行长文本理解和复杂推理,还支持多模态图片识别和理解。通过 Strata 专用推理引擎,最低 12GB 显存的显卡就能运行!我还将带大家接入 DeepSeek Harness,实现 DeepSeek 免费使用,彻底告别 Token 费用!下面我们开始教程。

博主电脑环境
显卡:NVIDIA RTX 4080 SUPER(16GB)
CPU:AMD R9 7900X 12-Core Processor(12核)
内存:64GB DDR5(3600 MHz)
一、Strata 项目下载
夸克网盘下载地址:https://pan.quark.cn/s/dade0fd11215?pwd=ECwf
Github 下载地址:https://github.com/Niko1221/Strata/releases/tag/v0.2.9
1. 项目文件:下载 Source code (zip),项目文件夹命名成:Strata-DeepSeek
2. 推理引擎:
下载文件:strata-dsv41-0.1.55-windows-x86_64-cuda-cuda13.tar.gz
存放位置:\Strata-DeepSeek\engine-dsv41(Strata-DeepSeek 是你的项目路径,在里面创建 engine-dsv41 文件夹,下载到的压缩包解压文件放进去)
二、DeepSeek-V4.1-Flash-1017 下载模型文件
夸克网盘下载地址:https://pan.quark.cn/s/dc3c54957c8f?pwd=LyjB
Hugging Face1 下载地址:https://huggingface.co/Abiray/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF/tree/main
Hugging Face2下载地址:https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF/tree/main
注意:Hugging Face1 下载6个GGUF模型文件,Hugging Face2 下载 "mmproj-BF16.gguf" + "dspark-DeepSeek-V4.1-Flash-1017-Q8_0.gguf"
文件存放路径如下(也可能不是D盘,看你的项目文件存放哪个盘):
D:\Strata-data\
└── models\
├── deepseek-v4.1-flash-IST-DAS-2.00bpw\
│ ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00001-of-00006.gguf
│ ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00002-of-00006.gguf
│ ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00003-of-00006.gguf
│ ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00004-of-00006.gguf
│ ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00005-of-00006.gguf
│ └── mmproj-BF16.gguf
│
└── deepseek-v4.1-flash-shared\
├── DeepSeek-V4.1-Flash-Engram-IQ4_NL.gguf
└── dspark-DeepSeek-V4.1-Flash-1017-Q8_0.gguf
三、下载启动文件
夸克网盘下载地址:https://pan.quark.cn/s/9d93eb565505?pwd=ReeP
Github 下载地址:https://github.com/xchaoge/114-DeepSeek-V4.1-Flash-1017/blob/main/setup.py
存放位置:\Strata-DeepSeek(Strata-DeepSeek 是你的项目路径,覆盖项目根目录里的 setup.py)
四、运行 Strata 项目
点击项目 Strata 项目根目录的 START-HERE.bat
访问控制面板 URL:http://127.0.0.1:8080/
上下文长度修改
修改 Strata 项目根目录的 strata-deepseek-v4.1-flash-ist-das-2.00bpw.json 文件里面的 --max-context 参数,接入 DeepSeek Harness 最小上下文长度 65536,最大可设置的上下文长度 1048576(1M)。
五、接入 DeepSeek Harness
DeepSeek 官网地址:https://www.deepseek.com/
接入参数:
Provider ID: deepseek-strata
显示名称: deepseek-strata
API 地址:http://127.0.0.1:8080/v1
API 协议: OpenAI Chat Completions
API Key: 随便填一个
添加模型:点击"获取可用模型"