“大模型”
MCP协议介绍
基本理解 MCP 是一个开放协议,它规范了应用程序向 LLM 提供上下文的方式。当LLM想从应用程序获取信息,或者是使用应用程序,就需要应用程序提供一个规范,便于大模型进行使用和调用。 工具 L...
RAG的认识与构建
概念解析 RAG(Retrieval-Augmented Generation,检索增强生成)是一种结合信息检索(Retrieval)和文本生成(Generation)的技术,常用于大模型(如G...
本地部署大模型Qwen-math-7b
本次部署为简单概述流程,本地配置为4060Ti-16G,采用7b模型部署。 下载模型 注:模型实际上可以直接在线使用,此处只为便于离线使用。 模型通常开源于 huggingface,一个大模型开...