‌Ollama‌是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。如何在服务器上使用宝塔面板部署ollama,使用DeepSeek-R1模型必备,相信大家都在服务器上执行过下面命令,最后不了了之,因为超时无法下载,手动下载也特别慢,手动下载地址 https://ollama.com/download/ollama-linux-amd64.tgz 。

今天主要分享在通过宝塔面板Docker安装ollama出一期教程供参照,后面还会通过实践出一期部署DeepSeek-R1模型教程。

20250210113836193

安装测试主机24核 64G内存,于大模型对硬件配置要求非常高,所以机器的配置越高越好,有独立显卡更佳,建议内存32G起步

20250210124733285

先进宝塔面板,点击左侧菜单栏中的Docker,进入Docker容器管理界面。在安装ollmam过程中可能会卡住没反应,可以配置镜像源

20250210114538315

首次使用Docker需要先安装Docker,点击安装,过程有些长,等待安装完成,状态变为运行中。

20250210114716630

上面提示端口:11434 先在安全设置里把端口放行下,如果是云服务器需要后台安全中心放行,再到面板后面设置

20250210114844556

找到Ollama容器,进入终端。

20250210120927539

在弹出shell类型选择bash,使用root权限选择上,点击确认。

20250210121056103

 

在终端界面中输入ollama run deepseek-r1:1.5b,回车运行DeepSeek-R1模型, DeepSeek-R1模型有多个版本,可以根据需要选择不同版本如

1
ollama run deepseek-r1:671b

(模型参数越大,需要配置越高):

20250210121305103

等待下载并运行DeepSeek-R1模型运行成功

 

服务声明: 本网站除正版商用版块可商用外,其他所有发布的源码、软件和资料均为作者提供或网友推荐收集各大资源网站整理而来,仅供功能验证和学习研究使用,您必须在下载后24小时内删除。不得使用于非法商业用途,不得违反国家法律,否则后果自负!一切关于该资源商业行为与本站无关。如果您喜欢该程序,请支持购买正版源码,得到更好的正版服务。如有侵犯你的版权合法权益,请邮件或QQ:3089659733与我们联系处理删除(邮箱:ynzsy@qq.com),本站将立即更正。