12GB 显卡就能跑!DeepSeek-V4.1-Flash-1017 无审查版 AI 大模型本地部署教程|图片识别、1M上下文

大家好,我是超哥。今天给大家分享 DeepSeek-V4.1-Flash-1017 无审查版多模态 AI 大模型的本地部署教程!这款模型支持最高 1M(104 万)上下文长度,不仅能够进行长文本理解和复杂推理,还支持多模态图片识别和理解。通过 Strata 专用推理引擎,最低 12GB 显存的显卡就能运行!我还将带大家接入 DeepSeek Harness,实现 DeepSeek 免费使用,彻底告别 Token 费用!下面我们开始教程。

博主电脑环境

显卡:NVIDIA RTX 4080 SUPER(16GB)

CPU:AMD R9 7900X 12-Core Processor(12核)

内存:64GB DDR5(3600 MHz)

一、Strata 项目下载

夸克网盘下载地址:https://pan.quark.cn/s/dade0fd11215?pwd=ECwf

Github 下载地址:https://github.com/Niko1221/Strata/releases/tag/v0.2.9

1. 项目文件:下载 Source code (zip),项目文件夹命名成:Strata-DeepSeek

2. 推理引擎:

下载文件:strata-dsv41-0.1.55-windows-x86_64-cuda-cuda13.tar.gz

存放位置:\Strata-DeepSeek\engine-dsv41(Strata-DeepSeek 是你的项目路径,在里面创建 engine-dsv41 文件夹,下载到的压缩包解压文件放进去)

二、DeepSeek-V4.1-Flash-1017 下载模型文件

夸克网盘下载地址:https://pan.quark.cn/s/dc3c54957c8f?pwd=LyjB

Hugging Face1 下载地址:https://huggingface.co/Abiray/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-IQ2_XXS-GGUF/tree/main

Hugging Face2下载地址:https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF/tree/main

注意:Hugging Face1 下载6个GGUF模型文件,Hugging Face2 下载 "mmproj-BF16.gguf" + "dspark-DeepSeek-V4.1-Flash-1017-Q8_0.gguf"

文件存放路径如下(也可能不是D盘,看你的项目文件存放哪个盘):

D:\Strata-data\
└── models\
    ├── deepseek-v4.1-flash-IST-DAS-2.00bpw\
    │   ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00001-of-00006.gguf
    │   ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00002-of-00006.gguf
    │   ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00003-of-00006.gguf
    │   ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00004-of-00006.gguf
    │   ├── DeepSeek-V4.1-Flash-1017-GSQ-RCO-IQ2_XXS-00005-of-00006.gguf
    │   └── mmproj-BF16.gguf
    │
    └── deepseek-v4.1-flash-shared\
        ├── DeepSeek-V4.1-Flash-Engram-IQ4_NL.gguf
        └── dspark-DeepSeek-V4.1-Flash-1017-Q8_0.gguf

三、下载启动文件

夸克网盘下载地址:https://pan.quark.cn/s/9d93eb565505?pwd=ReeP

Github 下载地址:https://github.com/xchaoge/114-DeepSeek-V4.1-Flash-1017/blob/main/setup.py

存放位置:\Strata-DeepSeek(Strata-DeepSeek 是你的项目路径,覆盖项目根目录里的 setup.py)

四、运行 Strata 项目

点击项目 Strata 项目根目录的 START-HERE.bat

访问控制面板 URL:http://127.0.0.1:8080/

上下文长度修改

修改 Strata 项目根目录的 strata-deepseek-v4.1-flash-ist-das-2.00bpw.json 文件里面的 --max-context 参数,接入 DeepSeek Harness 最小上下文长度 65536,最大可设置的上下文长度 1048576(1M)。

五、接入 DeepSeek Harness

DeepSeek 官网地址:https://www.deepseek.com/

接入参数:

Provider ID: deepseek-strata

显示名称: deepseek-strata

API 地址:http://127.0.0.1:8080/v1

API 协议: OpenAI Chat Completions

API Key: 随便填一个

添加模型:点击"获取可用模型"

感谢您的支持
支付宝
微信支付
感谢您的支持
支付宝收款二维码

打开支付宝扫描二维码(崔*杰)

感谢您的支持
微信支付收款二维码

打开微信扫描二维码(崔*杰)

上一篇扩散式 AI 模型来了!Clover 35B-A3B Preview 本地部署教程 + 实测|350亿参数、128K上下文 下一篇没有了
请我喝杯咖啡
如果喜欢本站的内容,欢迎请我喝杯咖啡
支付宝
微信支付
感谢你的支持
支付宝二维码
打开支付宝扫描二维码(崔*杰)
感谢你的支持
微信支付二维码
打开微信扫描二维码(崔*杰)