Ollama

一条命令在本地拉起大模型,数据留在自己的机器上。

简介

面向本地推理的模型运行器,提供简洁的命令行和本地 API,适合离线试验、隐私敏感内容以及不依赖云端服务的 AI 工作流。

适用场景

  • 在没有稳定网络时试用开源模型
  • 为内部工具提供本地模型接口
  • 在不外传数据的前提下做文本实验

特点

  • 命令行拉取和运行模型的路径很直接
  • 提供兼容常见接口约定的本地服务
  • 模型与数据都留在自己控制的环境