Mai Icy

“大模型”

MCP协议介绍

基本理解 MCP 是一个开放协议,它规范了应用程序向 LLM 提供上下文的方式。当LLM想从应用程序获取信息,或者是使用应用程序,就需要应用程序提供一个规范,便于大模型进行使用和调用。 工具 L...

RAG的认识与构建

概念解析 RAG(Retrieval-Augmented Generation,检索增强生成)是一种结合信息检索(Retrieval)和文本生成(Generation)的技术,常用于大模型(如G...

本地部署大模型Qwen-math-7b

本次部署为简单概述流程,本地配置为4060Ti-16G,采用7b模型部署。 下载模型 注:模型实际上可以直接在线使用,此处只为便于离线使用。 模型通常开源于 huggingface,一个大模型开...