发布一下我之前做的一个本地大模型部署,不需要API key,但要有自己的账号
利用Docker 的Pandora做本地ChatGPT模型部署
先下载安装Docker,设置好运行如下
会要求升级核心,cmd运行如下命令就OK
安装Pandora
再管理员cmd中输入如下命令拉取Pandora镜像
docker pull pengzhile/pandora
创建容器
docker run -e PANDORA_CLOUD=cloud -e PANDORA_SERVER=0.0.0.0:8899 -p 8899:8899 -d pengzhile/pandora
运行访问
从DockerDesktop查看运行成功后,进入如下页面访问
http://127.0.0.1:8899
出现如下画面,访问成功
之后需要有自己又的 AccessToken,自己折腾一下网络…,就可以很长一段时间使用了.
