ollama 默认绑定 127.0.0.1 。linux 下 docker 不支持 host.docker.internal. 当 ollama 绑定 0.0.0.0 后，ollama 可被其它人使用。
 |
1
bankroft 13 小时 49 分钟前
反代+basic auth
|
 |
2
layxy 13 小时 45 分钟前
如果是云服务，配置组策略，使用反代作为统一出入口
|
 |
3
l4ever 13 小时 31 分钟前
既然是生产环境了, 就不要用 ollama 撒, 换成 vLLM
|
 |
4
TsubasaHanekaw 12 小时 42 分钟前
套壳 openapi,就能有 apiKey 访问了
|
 |
5
npe 12 小时 5 分钟前
1.安全组
2.vpn |
 |
6
zhengfan2016 12 小时 1 分钟前
你 vps 没防火墙？ vps 提供商没有防火墙？说实话，即然你 dify 和 ollama 都在同一台 vps 上，干嘛需要暴露端口出来
|
 |
7
NSAgold 10 小时 54 分钟前 via Android
ollama 绑 0.0.0.0 防火墙拒绝非本机访问端口不就好了...
|
 |
8
jasonkayzk 10 小时 54 分钟前
跑 docker 里面不暴露端口、安全组也不开放。
dify 发布的 API 需要 token 才能调用。 |
 |
9
mmdsun 2 小时 36 分钟前 via iPhone
3 楼的 vLLM 部署
|
Select Language