企業(yè)級大模型部署

課程介紹

本套教程是真正的企業(yè)級大模型部署方案，涉及的工具或平臺皆為主流應用，采用原始直觀的方式，帶你一步步搭建企業(yè)級大模型應用環(huán)境，在Docker中部署Dify，訪問AutoDL服務器的Ollama、Xinference平臺的大語言模型、嵌入模型和重排序模型。

教程內容涵蓋：基于騰訊云和AutoDL服務器部署，匯集大模型最熱門的Ollama和Xinference平臺，整合了Qwen、Deepseek、GPT、Embedding和Rerank等業(yè)內主流的多個大模型；所有模型都通過部署在Docker中的Dify平臺進行統(tǒng)一調用；講解了3個實戰(zhàn)級的大模型應用案例（聊天助手、旅游顧問、法律知識庫），涉及當下大模型熱門的Agent開發(fā)、企業(yè)級私有知識庫相關的RAG開發(fā)等。
?