
Ollama本地大模型
Ollama更改安装位置及简单教学
1.创建安装文件夹
-
创建文件夹
鼠标在D盘空白处右键,新建文件夹,输入文件夹名字。
注意:路径不能有中文,建议文件路径和我一样
D:\Ollama\
- 把
OllamaSetup.exe
复制到D盘。
打开CMD
回车确认,这个时候会自动拉起
OllamaSetup.exe
进行安装,就可以安装在你指定的路径了。如果卡住了就等一下
期间可能会安装C++的库文件,无脑确认就是了。
改变模型安装位置
名字随意,但是还是别有中文
配置环境变量
第一步:点击按键Win+R打开运行对话框。 输入“CMD”,然后点击“确定”按钮。 输入“control”,然后点击回车。 第四步:可以看到控制面板已经打开。
第二步:点击系统,然后点击 高级系统设置然后点击 环境变量 ,点击 新建。变量名写OLLAMA_MODELS
,变量值就是你刚刚新建的目录。
第三步:一路确认返回回去就完事了。
你以为结束了?错!如果你现在取下载模型,那还是得给你下到C盘.现在你直接原地
reboot(重启)
你的电脑.这样环境变量才会生效.
下载模型
模型可以在ollama
的官方网站进行下载,这个是链接。
这里有一堆模型,但是不是所有的模型你都可以运行。
选择合适自己的模型
选择模型有啥依据吗?我也没深入了解过。但我个人经验是选择一个大小和你显卡显存大小相近的模型就可以了。
CPU也可以推理,但是速度会非常非常非常慢!如果不是非要,建议不要那样搞。所以我这就不展示用CPU推理的方法了。
对于N卡(NVIDIA品牌显卡)用户,在CMD里面输入nvidia-smi
可以输出显卡的参数:
图示就是显存,比如我的就是12GB的显存,我就选择deepseek-r1:8b即可。
下载就直接在cmd里面输入如下命令
宿舍宽度速度感人,哭了!
安装完毕就是这个样子的
输入一个万能的你好试试看?
爽了!至此,ollama的安装就完毕了。
ollama常用命令详解
在cmd里输入ollama回车。
最常用的命令
ollama list
列出你本地安装了哪些模型ollama run <modelname>
(例:ollama run deepseek-r1:8b
)运行本地模型ollama rm <modelname>
(例:ollama rm deepseek-r1:8b
)删除模型
Ollama 命令中文解释
命令 | 英文解释 | 中文解释 |
---|---|---|
通用用法 | ||
ollama [flags] |
ollama with global options |
ollama 命令的基本用法,[flags] 是可选的全局参数。 |
ollama [command] |
ollama with a specific subcommand |
带特定子命令的用法,用于执行特定操作。 |
ollama [command] --help |
Get more information about a command | 获取关于某个命令的更多信息。 |
可用命令 | ||
serve |
Start ollama | 启动 ollama 服务,使其可以在后台运行并提供模型交互。 |
create |
Create a model from a Modelfile | 从 Modelfile 文件创建或定义一个语言模型。 |
show |
Show information for a model | 显示特定模型的详细信息,如大小、层数等。 |
run |
Run a model | 运行一个本地模型,可以与模型进行交互(如文本生成)。 |
stop |
Stop a running model | 停止一个当前正在运行的模型实例。 |
pull |
Pull a model from a registry | 从 ollama 模型注册表下载预训练的模型。 |
push |
Push a model to a registry | 将本地创建或修改的模型上传到注册表以便分享。 |
list |
List models | 列出所有已下载或创建的本地 ollama 模型。 |
ps |
List running models | 列出当前正在活跃运行的 ollama 模型实例。 |
cp |
Copy a model | 复制一个现有的模型文件。 |
rm |
Remove a model | 从系统中删除不再需要的模型文件。 |
help |
Help about any command | 获取关于任何 ollama 命令的详细帮助信息。 |
全局标志 (Flags) | ||
-h , --help |
Help for ollama | 显示 ollama 整体命令用法和可用选项的概览帮助。 |
-v , --version |
Show version information | 显示当前安装的 ollama 工具的版本号。 |
作者: Hanserwei
日期:2025年07月11日
博客:www.likeyy.love