47 Ollama + LangChain 实现本地运行 Llama 2.

47 Ollama + LangChain 实现本地运行 Llama 2.

学习与实践
12 影片觀看·2023年11月5日

LLama 2 是由Meta 开发的一款的AI语言模型,利用了庞大的参数配置。它的运行对计算资源的需求也是很高的,特别是GPU。

Ollama 是一个提供了在本地运行Llama 2等大语言模型解决方案的开源项目。它支持的模型包括:
- Llama2
- Llama2 13B
- Llama2 70B
- Llama2 Uncensored
- Orca Mini
- Vicuna
- Nous-Hermes
- Wizard Vicuna Uncensored

LangChain则提供了对Ollama的集成。通过一个Ollama包装类,轻松地基于Ollama的API实现 Llama 2 的集成。