FastGPT使用Ollama的主机安装与监听配置方法

结论

本文提供非Docker方式的Ollama主机安装流程，以及适配FastGPT的监听配置方法。完成安装后可通过http://localhost:11434验证Ollama是否正常运行。

具体怎么做

主机安装步骤

1. MacOS：已安装Homebrew的前提下，执行brew install ollama，安装完成后运行ollama serve启动服务。
2. Linux（以Ubuntu为例）：执行curl https://ollama.com/install.sh | sh下载并执行官方安装脚本，完成后运行ollama serve启动服务。
3. Windows：从Ollama官方网站下载Windows安装程序，按向导完成安装，在命令提示符或PowerShell中运行ollama serve启动服务。

监听0.0.0.0配置

1. Linux：执行sudo systemctl edit ollama.service，在[Service]部分添加Environment="OLLAMA_HOST=0.0.0.0"，保存退出后执行sudo systemctl daemon-reload和sudo systemctl restart ollama生效配置。
2. MacOS：执行launchctl setenv ollama_host "0.0.0.0"，重启Ollama应用使配置生效。
3. Windows：打开“编辑系统环境变量”，在系统变量中新建OLLAMA_HOST变量，值设为0.0.0.0，保存后重启Ollama应用。

注意事项

仅使用主机安装Ollama时，必须配置监听0.0.0.0才能被FastGPT正常访问。不同操作系统的配置方式存在差异，需严格按照对应系统的步骤操作。

来源：FastGPT 官方文档