侧边栏壁纸
博主头像
Eoser's page! 博主等级

@学习@生活@自己

  • 累计撰写 118 篇文章
  • 累计创建 30 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

LmStudio运行deepseek windows vulkan调用GPU

eoser
2025-02-18 / 0 评论 / 0 点赞 / 6 阅读 / 0 字

官网下载安装包

LmStudio官网:https://lmstudio.ai/

然后点击安装包安装即可,推荐安装到所有用户,后面修改文件方便,否则进入安装路径麻烦

使用配置

打开窗口后,右下角设置按钮可以调节语言

桌边功能栏文件夹图标点击后左上方可以调整大模型存储位置

代理配置

lmstudio没有代理配置方法,只有修改文件方案

1.进入安装目录下:C:\Program Files\LM Studio\resources\app

2.Shift+右键 使用VSCode打开(其他编辑工具也行,我习惯了)

3.VSCode搜索 https://hugging.co 替换为 https://hf-mirror.com (修改失败,会需要管理员权限,根据弹出通知提示用管理员权限重试就行)

4.重启lmstudio

下载模型

打开搜索,选择适合的模型就行了

导入本地的模型

1.下载huggingface模型

git clone https://hf-mirror.com/prithivMLmods/Bellatrix-Tiny-0.5B

2.编译模型

cd /Bellatrix-Tiny-0.5B
make

3.导入模型

lmstudio的模型目录下创建存放本地模型的文件夹,名字随便,比如local-models

在local-models下创建模型名字文件夹:Bellatrix-Tiny-0.5B

拷贝gguf扩展名的Bellatrix-Tiny-0.5B.gguf到Bellatrix-Tiny-0.5B目录下

lmstudio选择使用就行了

开网络服务

左边点击终端图标,左上角配置即可

本地模型联网查询

浏览器安装Page Assist插件使用

Github:https://github.com/n4ze3m/page-assist

0

评论区