Monday, March 24, 2025

Matlab: 本地部署Deepseek,对话模式

一、下载Ollama,修改默认安装路径
二、本地部署模型
三、MATLAB安装LLMs
四、Matlab检测代码

一、下载Ollama,修改默认安装路径

Ollama 是一个可以让你使用并管理 AI 模型的工具,相当于 R1 的承载器具,因此我们在本地部署模型前必须先安装 Ollama。打开 「Ollama 官网:」https://ollama.com/,点击“Download”。
选择适合你电脑的版本,例如“「Windows」”点击“「Download for Windows」”。
安装到指定的路径
下载完成后,双击安装,默认会装到C盘。通过如下方式修改,举例:我想安装在D:\Ollama
  1. 把下载的安装包放在D:\Ollama下
  2. 在D:\Ollama下,打开cmd,输入此命令敲回车即可 OllamaSetup.exe /DIR="D:\Ollama"
  3. 此时就可以看到Ollama被安装到指定路径了。(如果你下载完直接点了安装,也不用担心,直接控制面板程序卸载,卸载了,重新安装即可)

二、本地部署模型

  1. 部署之前,增加环境变量
  2. 增加这个环境变量的话,下载的模型会存储在此,避免占用C盘内存。 注意:增加后,重启电脑以确保生效。
  3. 本地部署deepseek模型
  4. 在cmd下输入命令③代码,即可安装。

      三、MATLAB安装LLMs

      打开网页,添加此到当前Matlab。

      四、Matlab检测代码

      第一步,现在cmd里面运行部署的模型ollama run deepseek-r1:14b。
      第二步,matlab中运行:file

      References

No comments:

Post a Comment