为了在局域网内共享 Ollama 服务,我们需要完成以下两步:
1、设置 Ollama 的环境变量 OLLAMA_HOST
,使其监听局域网的 IP 地址。
(1) 配置 Ollama 服务的监听地址
Ollama 服务使用环境变量 OLLAMA_HOST
来指定监听的地址,默认情况下,它只监听 localhost
,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST
设为 0.0.0.0
。
(2)设置环境变量
在 Windows 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST:
1、打开系统属性:
右键点击 此电脑 或 计算机,选择 属性。
在左侧点击 高级系统设置。
2、环境变量:在弹出的窗口中,点击 环境变量。
3、新建用户环境变量:在 系统变量 部分,点击 新建。
在 变量名 输入框中,输入 OLLAMA_HOST。
在 变量值 输入框中,输入 0.0.0.0,然后点击 确定。
4、重启命令行窗口:
设置完成后,确保关闭并重新打开命令行窗口,使新的环境变量生效。完成后,Ollama 服务将在所有网络接口上监听,包括局域网。
2、在 Windows 防火墙中开放 Ollama 服务使用的端口(如 11434)。
为了使其他设备能够访问 Ollama 服务,我们需要在 Windows 防火墙中开放 Ollama 服务运行的端口(例如 11434)。你可以选择通过图形界面操作,或者更快捷地通过命令行操作来完成设置。
方法一:使用 Windows 防火墙图形界面
- 打开 控制面板,搜索并选择 Windows Defender 防火墙。
- 在左侧点击 高级设置,进入高级防火墙设置页面。
- 在左侧菜单中,点击 入站规则,然后在右侧点击 新建规则。
- 选择 端口 作为规则类型,然后点击 下一步。
- 选择 TCP,并在 特定本地端口 一栏中输入 11434,然后点击 下一步。
- 选择 允许连接,点击 下一步。
- 根据需求选择应用的网络类型(域、专用或公用),点击 下一步。
- 为这条规则命名(如 “Allow Ollama Port 11434”),然后点击 完成。
方法二:使用命令行快速开放端口
如果你更习惯使用命令行,可以通过以下步骤快速开放端口。
1、打开 命令提示符(以管理员身份运行),使用以下命令为 Ollama 服务开放 11434 端口(TCP 协议):
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434
如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP
改为 UDP
:
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434
2、你可以通过以下命令确认规则是否正确添加:
netsh advfirewall firewall show rule name="Allow Port 11434"
3、测试 Ollama 服务是否在局域网中可访问
完成上述设置后,Ollama 服务应该可以通过局域网中的其他设备访问。你可以通过局域网中的另一台设备,在浏览器中输入以下地址进行测试:
http://<你的本机IP地址>:11434
例如,如果你的本机 IP 地址是 192.168.1.100,则在局域网中其他设备的浏览器中输入:
http://192.168.1.100:11434
怎么查看本机ip地址,在cmd下输入ipconfig查看,我是用的WiFi,所以选择的是无线局域网适配器WLAN,你连接的宽带的话就看以太网的ip地址,如下所示。
如果服务成功启动,页面应显示 Ollama API 的相关信息,表明你的服务已经能够在局域网中正常访问。
5. 总结
通过以上步骤,你可以轻松地在 Windows 上配置 Ollama 服务并允许其他局域网设备访问该服务。具体操作包括:
- 配置环境变量 OLLAMA_HOST,使 Ollama 服务监听局域网中的请求。
- 在 Windows 防火墙中开放相应端口。
这一过程简单且高效,能够帮助你快速地将本地 AI 服务共享给局域网中的其他设备,实现更广泛的应用场景。
本文参考文章:在 Windows 上配置 Ollama 服务并开放局域网访问_windows_史不了-尧米AI