
13 创建基于OpenAI的PDF聊天机器人要花多少钱?- OpenAI开销与账单数据解析
1 影片觀看·2023年11月5日
*LangChain*是大语言模型(LLM)接口框架,它允许用户围绕大型语言模型快速构建应用程序。 它直接与OpenAI的GPT模型集成。
以文档作为知识库开发聊天机器人是当前非常火热的AI应用。当我们使用OpenAI的API,基于LangChain框架开发PDF聊天机器人,Token开销情况如何?开发与运营中的账单会怎样?本期视频我将通过Python脚本分享OpenAI的API调用的成本构成。
总结如下,
文档(PDF等)的语义化检索中,OpenAI的Token开销主要产生于以下阶段:
1. 文档数据的Embedding生成(Ada - $0.0004 / 1K tokens)
2. 基于Embedding的摘要生成(模型可以指定)
代码
https://github.com/sugarforever/LangChain-Tutorials/blob/main/LangChain_PDF_Chatbot.ipynb
参考文档
如何统计Token开销
https://python.langchain.com/docs/modules/model_io/models/llms/token_usage_tracking?highlight=token%20usage
OpenAI的价格表
https://openai.com/pricing
LangChain对OpenAI Embedding的支持问题
https://github.com/langchain-ai/langchain/issues/945
