lazyllm-skill

name

lazyllm-skill

description

LazyLLM framework for building multi-agent AI applications. Use when task mentioned LazyLLM or AI program for: (1) Flow orchestration - linear, branching, parallel, loop workflows for complex data pipelines, (2) Model fine-tuning and acceleration - finetuning LLMs with LLaMA-Factory/Alpaca-LoRA/Collie and acceleration with vLLM/LMDeploy/LightLLM. Includes comprehensive code examples for all components, (3) RAG systems - knowledge-based QA with document retrieval, vectorization, and generation, (4) Agent development - single/multi-agent systems with tools, memory, planning, and web interfaces.

LazyLLM 框架

LazyLLM 是构建和优化多 Agent 应用的一站式开发工具，为应用开发、数据准备、模型部署、模型微调、评测和可视化提供了大量工具。
基础能力参考: references/basic.md

---

安装与环境

• 安装核心包: pip install lazyllm
• 按需安装功能组件: lazyllm install embedding chat finetune（分别对应嵌入、对话、微调相关依赖，详见 CLI 使用）
• 使用在线模型前: 需配置对应平台的 API Key（见 在线模型 API Key 配置）
• 更多环境与依赖说明见 环境依赖

---

模型调用概览（本地 vs 线上）

LazyLLM 中所有模型能力统一通过 AutoModel、OnlineModule、TrainableModule 三类入口使用，优先推荐 AutoModel 以便自动选择在线或本地。

使用场景	推荐方式	说明
线上模型	lazyllm.OnlineModule(source=..., model=...) 或 lazyllm.AutoModel(source=..., model=...)	调用厂商 API，需配置对应 API Key。source 可为 qwen / openai / / / / / 等。