在ubuntu上使用docker部署deepseek,并确保其可以访问公网网址进行对话,可以按照以下步骤进行:
一、安装docker
更新ubuntu的软件包索引:
sudo apt-get update
安装必要的软件包,这些软件包允许apt通过https使用存储库:
sudo apt-get install \ apt-transport-https \ ca-certificates \ curl \ gnupg \ lsb-release
添加docker的官方gpg密钥:
curl -fssl https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
设置docker的稳定版存储库:
echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu \ $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
更新apt软件包索引,并安装docker engine:
sudo apt-get update sudo apt-get install docker-ce docker-ce-cli containerd.io docker-compose-plugin
二、安装ollama(deepseek的本地化部署工具)
访问ollama官网(https://ollama.com),根据操作系统选择相应的安装方法。对于ubuntu,可以在终端中运行以下命令进行安装:
curl -fssl https://ollama.com/install.sh | sh
安装完成后,验证ollama是否安装成功:
ollama -v
如果显示ollama的版本信息,则表示安装成功。
三、下载并部署deepseek模型
使用ollama下载deepseek模型。在ollama官网或相关文档中找到deepseek模型的下载链接或命令。例如,下载deepseek-r1模型:
ollama run deepseek-r1:[选择合适的版本,如7b或1.5b等]
下载完成后,可以通过命令行与deepseek模型进行交互。如果需要部署一个web界面来与模型进行对话,可以考虑使用open webui等工具。
四、配置docker容器以访问公网
运行docker容器时,需要将容器的端口映射到宿主机的端口上,以便外部用户可以访问。例如,如果deepseek的web界面运行在容器的8080端口上,可以使用以下命令运行容器:
docker run -d -p [宿主机端口]:8080 --name deepseek-container [deepseek docker镜像名称]
将[宿主机端口]替换为希望外部用户访问的端口号,[deepseek docker镜像名称]替换为deepseek的docker镜像名称。
确保ubuntu服务器的防火墙允许外部访问所映射的端口。可以使用ufw(uncomplicated firewall)等工具来配置防火墙规则。例如,允许外部访问8080端口:
sudo ufw allow 8080/tcp
如果需要,还可以配置域名解析,将域名指向ubuntu服务器的公网ip地址,以便用户可以通过域名访问deepseek的web界面。
五、访问deepseek的web界面
打开浏览器,输入ubuntu服务器的公网ip地址和所映射的端口号(如http://[公网ip]:[宿主机端口]),即可访问deepseek的web界面。
在web界面中,可以输入问题或指令与deepseek模型进行对话。
请注意,以上步骤可能因deepseek和ollama的更新而有所变化。在实际操作时,请参考deepseek和ollama的官方文档以获取最新的安装和配置指南。
到此这篇关于在ubuntu上使用docker部署deepseek的详细步骤的文章就介绍到这了,更多相关ubuntu docker部署deepseek内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论