🖥️Ollama访问ip配置,防止”裸奔“!
00 分钟
2025-2-24
2025-2-25
type
status
date
slug
summary
tags
category
icon
password

写在前面

唠叨两句

近期,DeepSeek爆火之后,本地搭建大模型已经逐渐成为了趋势。这时Ollama,这款开源免费的软件,作为本地搭建大模型的平台,也逐渐被我等程序猿关注。我也本地安装了Ollama,运行了DeepSeek-r1,qwen等大模型。但是,应运而生的就是安全问题,Ollama提供了开放的api,访问11434的接口,就能访问到软件功能。这就导致,要是没有做防护,就跟“裸奔”一样了,在未授权情况下,某些心思不正常的人就能调用我们的私服大模型,甚至,会获取到我们上传到私服的数据,窃取知识库内的内容,再往里面投入点“粑粑”,甚至还可能通过我们没有发现的安全漏洞,最终控制整台服务器。
所以针对Ollama的安全配置,还是很重要的。(其实,据我研究,安装ollama的时候,默认设置的,就是本地访问,如你需要开外网访问,那就把下面的127.0.0.1改成0.0.0.0即可)

正文

方法一:系统防火墙级别

通过在服务器的防火墙上,增加ip白名单,限制访问的ip地址

方法二:系统配置环境参数

通过在系统中配置Ollama的参数,使系统只提供本地服务。

Windows

1.关闭ollama,如果还没启动,可跳过此步骤。先打开Windows进程,找到ollama的进程,结束进程
2.打开环境变量配置页面“右键我的(此)电脑-属性-高级系统设置-环境变量”
3.新增变量 “OLLAMA_HOST”,值为 “127.0.0.1:11434”,保存后重启ollama

Linux

如果你的ollama已经做成了服务,那么可以按照如下的方式进行处理
1.关闭ollama进行,如果还没启动,可跳过此步骤。执行一下命令即可。
2.编辑你的服务脚本(如果你的服务脚本不在此处,那换个地址)
在服务的配置文件([Service]下),增加一行

Mac

1.退出ollama
2.增加环境变量配置
3.重启ollama

建议方法

如需对外提供api服务,可以
建议1:修改config.yaml、settings.json配置文件限定可调用Ollama服务的IP地址(这俩配置文件,我在mac上是没有找到) 建议2:在防火墙等设备部署IP白名单,严格限定访问IP地址 建议3:通过反向代理实现身份验证和授权(如使用OAuth2.0协议),防止未经授权用户访问