笔记本显存或统一内存刚够塞一个小模型,又不想先开云账号,很多人会落到本机推理这条线。Ollama 官网把自己写成在本地或云端跑开放模型的入口。文档站 Quickstart 和 Linux 安装页 把最短路径写得很短。下面按打开的官方页对齐安装命令、默认端口和 ollama run 心智,不写破解付费权重,也不写绕过许可证。
安装命令以官网为准
GitHub README 与 Linux 文档给出的安装入口一致:
- macOS / Linux:
curl -fsSL https://ollama.com/install.sh | sh - Windows:
irm https://ollama.com/install.ps1 | iex(也可下安装包)
Linux 装完若服务没起来,Quickstart 写明可用 ollama serve。也可用文档里的 systemd 单元做成开机服务。更新在 Linux 上通常是再跑一遍同一条 install 脚本。装之前确认你信任该脚本源——这是官方安装路径,不是第三方镜像。Docker 镜像名在 README 里指向官方 ollama/ollama,细节以 Docker 专页为准,本文不展开编排。
默认端口与本地 API
FAQ 写得很清楚:默认绑定 127.0.0.1:11434。本机聊天或 HTTP 调用落在这条环回地址上。要改监听地址用环境变量 OLLAMA_HOST(文档举例 0.0.0.0:11434),按平台用 launchctl / systemctl edit / Windows 用户环境变量设置。
Quickstart 里本地请求示例是:
curl http://localhost:11434/api/chat \
-H "Content-Type: application/json" \
-d '{"model":"gemma4:e2b","messages":[{"role":"user","content":"Say hello in one sentence."}],"stream":false}'
同一主机上也提供 OpenAI / Anthropic 兼容路径形态(仍是 localhost:11434 前缀)。云端调用走 https://ollama.com/... 且需要 API key,和本机无密钥路径是两回事——密钥放服务端,别塞进前端仓库。ollama ps 可看当前加载到 GPU / CPU 的比例。模型文件默认目录 FAQ 按系统分别列出(macOS ~/.ollama/models 等),换盘用 OLLAMA_MODELS。
ollama run 在干什么
Quickstart「Run a model locally」一节:装好后执行例如 ollama run gemma4:e2b,会下载模型并在本机开对话。输入 /bye 离开。模型名以 模型库 当时列出的为准,正文不写死「永远该用某一个」。也可先 ollama pull … 再对本机 API 发请求。硬件侧:小模型也有体积与显存建议(官方对示例模型写了下载体积和推荐可用显存)。显存不够时可能落到系统内存,只是更慢——看你机器和模型页说明。对话里改上下文长度等参数,FAQ 指向 /set parameter 与环境变量 OLLAMA_CONTEXT_LENGTH,需要时再查,不必第一次安装就调满。
许可证、密钥与数据边界
每个模型的许可证和商用条款只看该模型页,不要从「开源」二字直接推到「可商用」。Ollama 本体能跑,不代表某个权重允许你怎么分发或嵌入产品。
数据边界:FAQ 写明,纯本地跑时他们看不到你的提示词和数据。走云托管模型时会处理请求以提供服务,但声明不存储、不拿来训练。也可在配置里关掉云能力(disable_ollama_cloud / OLLAMA_NO_CLOUD),细节看 FAQ。密钥(OLLAMA_API_KEY)与把内网机密默认灌进任意外部模型,是另一层治理问题——站内 外部模型进业务仓库的边界讨论 可作一句对照,这里不复述审批清单。默认只听本机环回。若改成监听全网卡,等于把推理口暴露给能连上的人,防火墙和鉴权要另做。
第一次跑通时别急着「全开」
装好、能 run、能打到 11434,就算完成入门目标。接着很容易想一口气接桌面助手、改 OLLAMA_HOST 对外、再塞进公司仓库——这三步各自都有权限与合规成本。本机先固定一个小模型做延迟和显存摸底,确认许可证读过模型页,再决定要不要开云特性或改监听地址。FAQ 里「会不会回传提示词」和「如何关云」两节,第一次对接业务数据前再打开核对一遍更稳妥。
你们第一台试用机,是先 ollama run 聊通,还是直接打 11434 的 API?