1.概况
由于工作太忙,已经连续断更三年的我,今天实在忍不住给大家分享一些自己的学习笔记。大语言模型就是神仙打架,从gpt到deepseek再到manus,但是manus需要申请权限,而且很难申请下来,甚至一个账号售价达到了几万rmb,openmanus(github网站如下所示:mannaandpoem/openmanus: no fortress, purely open ground. openmanus is coming.)看不下去了,花了三天时间给搞出来了。今天这个文章我就带大家把openmanus如何本地部署给详细走一遍,后面准备录制一个视频,大家多多关注我的账号哦。
2.环境搭建
2.1安装miniconda或者anaconda
(1)进入anaconda网站下载
(2)检测安装是否成功
cmd进入输入conda,就会出现一系列的conda信息如下
表明conda安装成功。
(3)创建并激活虚拟环境
首先创建虚拟环境
conda create -n open_manus python=3.12
这就把虚拟环境创建成功了
激活虚拟环境
conda activate open_manus
这个虚拟环境就激活成功了
下载openmanus代码
有git的可以使用以下命令下载,没有的直接再github里面下载。
git clone https://github.com/mannaandpoem/openmanus.git
这就下载完成了openmanus的代码
下一步
(4)下载openmanus必要的组件
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
这里我们使用的清华镜像源进行安装,否则会非常的慢
这就把所有的组件都安装成功了。
2.2 llm编程接口配置
openmanus 需要对其使用的大语言模型(llm)的应用程序编程接口(apis)进行配置。按照以下步骤来设置你的配置。
(1)在配置目录中创建一个名为“config.toml”的文件。
官网给的是linux版本的,如下:
cp config/config.example.toml config/config.toml
我们需要改为windows版本,如下:
copy config\config.example.toml config\config.toml
(2)编辑“config/config.toml”这个文件,添加你的 api 密钥并自定义设置。
官网使用的openai的,但是openai是收费的,我们使用免费的,再本地使用ollama。
下载ollama
下载地址如下所示:
ollama
https://ollama.com/安装如下:
安装以后配置环境变量
查看是否安装成功
下载model
进入官网下载model,链接如下
mistral https://ollama.com/library/mistral
下载默认的7b 的mistral。如下:
这样,我们就安装好了。
修改配置文件
在openmanus安装目录下(即为:c:\users\18851\openmanus\config)有一个config.toml文件,
这个文件如下:
# global llm configuration [llm] model = "claude-3-5-sonnet" base_url = "https://api.openai.com/v1" api_key = "sk-..." max_tokens = 4096 temperature = 0.0 # [llm] #azure openai: # api_type= 'azure' # model = "your_model_name" #"gpt-4o-mini" # base_url = "{your_azure_endpoint.rstrip('/')}/openai/deployments/{azure_depolyment_id}" # api_key = "azure api key" # max_tokens = 8096 # temperature = 0.0 # api_version="azure api version" #"2024-08-01-preview" # optional configuration for specific llm models [llm.vision] model = "claude-3-5-sonnet" base_url = "https://api.openai.com/v1" api_key = "sk-..."
由于openai是收费的,对上面的文件首先需要修改为自己本地部署的model、base_url以及api_key(本地部署的只需要修改model和url就可以不需要api_key),但是用在线的就需要填写,本文用的是在线的,修改为:
修改这个文件:
这样我们就算设置完了。
2.3 测试
重新cmd,激活open_manus这个环境。然后cd 到openmanus这个根目录。如下:
调用主函数:
python main.py
如下:
发现,我们已经成功的跑起来了。
到此这篇关于openmanus本地部署实战亲测有效,完全免费的文章就介绍到这了,更多相关openmanus本地部署内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论