Ollama

简介

一个简明易用的本地大模型运行框架，Ollama官网：https://ollama.com/ 可在官网下载对应系统的ollama。

img

ollama命令

ollama有类似docker的命令。下面是一些模型(large language models)的操作命令:

  • ollama list：显示模型列表
  • ollama show：显示模型的信息
  • ollama pull：拉取模型
  • ollama push：推送模型
  • ollama cp：拷贝一个模型
  • ollama rm：删除一个模型
  • ollama run：运行一个模型

web-ui安装

可以部署下面open-webui，具有最接近 ChatGPT 的界面和最丰富的功能特性。

https://github.com/open-webui/open-webui