VLLM部署


进入python虚拟环境 source venv/bin/activate vllm部署 # (Recommended) Create a new conda environment. #(推荐)创建一个新的 conda 环境。 ​ conda create -n myenv python=3.10

MaxKB服务部署


RAG平台,知识库管理 1 部署要求 1.1 服务器配置 部署服务器要求: 操作系统:

大模型


大模型使用与训练 SFT 模型预训练 -----transformer RLHF 针对输出偏好 ----如符合人类价值观的的训练、纠正 大模型特点

DBGPT本地部署流程


🤖**️** DB-GPT是一个开源的AI原生数据应用开发框架(AI Native Data App Development framework with AWEL(Agentic Workflow Expression Language) and Agents)。