这是一个创建于 32 天前的主题，其中的信息可能已经有所发展或是发生改变。
ollama 默认绑定 127.0.0.1 。linux 下 docker 不支持 host.docker.internal. 当 ollama 绑定 0.0.0.0 后，ollama 可被其它人使用。
 |
1
bankroft 32 天前
反代+basic auth
|
 |
2
layxy 32 天前
如果是云服务，配置组策略，使用反代作为统一出入口
|
 |
3
l4ever 32 天前
既然是生产环境了, 就不要用 ollama 撒, 换成 vLLM
|
 |
4
TsubasaHanekaw 32 天前
套壳 openapi,就能有 apiKey 访问了
|
 |
5
npe 32 天前
1.安全组
2.vpn |
 |
6
zhengfan2016 32 天前
你 vps 没防火墙？ vps 提供商没有防火墙？说实话，即然你 dify 和 ollama 都在同一台 vps 上，干嘛需要暴露端口出来
|
 |
7
NSAgold 32 天前 via Android
ollama 绑 0.0.0.0 防火墙拒绝非本机访问端口不就好了...
|
 |
8
jasonkayzk 32 天前
跑 docker 里面不暴露端口、安全组也不开放。
dify 发布的 API 需要 token 才能调用。 |
 |
9
mmdsun 32 天前 via iPhone
3 楼的 vLLM 部署
|
Select Language