47 Ollama + LangChain 實現本地運行 Llama 2.

学习与实践
13 次觀看·2023年11月5日

LLama 2 是由Meta 開發的一款的AI語言模型,利用了龐大的參數配置。它的運行對計算資源的需求也是很高的,特別是GPU。

Ollama 是一個提供了在本地運行Llama 2等大語言模型解決方案的開源項目。它支持的模型包括:
- Llama2
- Llama2 13B
- Llama2 70B
- Llama2 Uncensored
- Orca Mini
- Vicuna
- Nous-Hermes
- Wizard Vicuna Uncensored

LangChain則提供了對Ollama的集成。通過一個Ollama包裝類,輕鬆地基於Ollama的API實現 Llama 2 的集成。