Skip to main content
ModelTC
ملف منشئ GitHub

ModelTC

عرض على مستوى المستودعات لـ ٣٣ skills مجمعة عبر ٣ مستودعات GitHub.

skills مجمعة
٣٣
مستودعات
٣
محدث
١ سبتمبر ٢٠٢٦
مستكشف المستودعات

المستودعات و skills الممثلة

support-model-compile
غير مصنف

为 LightX2V 新模型或新推理路径实现、审查、调试和评测 `use_compile`/`torch.compile`。适用于普通推理以及模型原本已支持的 CPU offload model、block、phase 和 lazy-load;指导确认支持矩阵,选择 block/phase 编译边界与缓存键,处理层号、staging buffer、动态 guider、第三方算子、Dynamo 重编译,并用可信 warmup 区分首次编译成本、正式请求延迟和稳态收益。

١ سبتمبر ٢٠٢٦
adapt-lightx2v-warmup
مطوّرو البرمجيات

为尚无 warmup 的 LightX2V 模型或新任务设计、实现、审查和验证 `--warmup`。先核对普通推理、CPU offload model/block/phase 和 lazy-load block/phase 的原生与 warmup 支持范围,再复用 Wan/Qwen-Image/LTX2/Lingbot-Video 经验覆盖 compile、MoE、多阶段或并行路径,检查 Encoder、DiT、scheduler 和 VAE decode 是否真正预热,并排查正式 Step 1…

٣١ أغسطس ٢٠٢٦
remove-ai-code-smell
غير مصنف

审查并简化 AI 生成感较重的代码,重点移除内部配置路径中的过度防御、输入格式穷举、无依据的能力拦截、冗余异常和模板化注释,同时保留防止静默错误的算法与领域边界。用于用户要求“去 AI 味”、简化代码、删除过度防御、按项目约定而非不可信输入编程,或逐处审查可疑 guard、validation 和 comment 时。

٢٠ أغسطس ٢٠٢٦
lightx2v-native-model-porting
مطوّرو البرمجيات

Use this skill when adding native LightX2V support for a new model or task: understand an upstream inference repo, map it onto LightX2V runner/model/weight/infer/scheduler/input-encoder/VAE conventions, convert or load weights, add configs and Wan-style…

١٥ يونيو ٢٠٢٦
sycl-esimd-to-python-wheel
مطوّرو البرمجيات

Full pipeline for turning a SYCL/ESIMD GPU kernel into a Python-importable wheel package on Windows with Intel oneAPI 2025.x and conda. Covers every layer of the stack: ESIMD kernel (.cpp/.h) → Windows DLL (icpx) → PyTorch C++ extension (.pyd, CMake) → Python…

١٧ أبريل ٢٠٢٦
esimd-lsc-2d-gather-scatter
مطوّرو البرمجيات

LSC 2D block load/store, 1D block load/store, and gather/scatter operations in Intel ESIMD. Use this skill when working with lsc_load_2d, lsc_store_2d, lsc_prefetch_2d, config_2d_mem_access, block_load, block_store, gather, or scatter in ESIMD kernels. Covers…

١٧ أبريل ٢٠٢٦
esimd-lsc-slm
مطوّرو البرمجيات

LSC Shared Local Memory (SLM) operations in Intel ESIMD. Use this skill when working with slm_init, slm_block_load, slm_block_store, lsc_slm_gather, lsc_slm_scatter, SLM layout design, barrier synchronization, named barriers, cooperative SLM loading, or any…

١٧ أبريل ٢٠٢٦
intel-esimd-base
مطوّرو البرمجيات

Foundational Intel ESIMD GPU programming skill. Use this skill proactively whenever the user is writing, optimizing, or debugging any SYCL/ESIMD kernel for Intel GPUs — including Intel Arc, Iris Xe, or Data Center GPU Max. Covers kernel design, memory access…

١٧ أبريل ٢٠٢٦
عرض 8 من أصل ١٩ skills مجمعة.
test-model-qwen3-8b-gsm8k-scenarios
مطوّرو البرمجيات

LightLLM Qwen3-8B GSM8K multi-scenario regression: seven isolated api_server configs (baseline, fp8w8a8 quant, tpsp mix, tpsp with dp2 and dp prefill balance, cpu cache, int8kv on top of cpu cache, disk cache with LIGHTLLM_DISK_CACHE_PROMPT_LIMIT_LENGTH).…

٣٠ يوليو ٢٠٢٦
test-model-common
مطوّرو البرمجيات

Common override guidance for all skills/test_model sub-skills. Applies to LightLLM model accuracy/speed tests that use lm_eval or lmms_eval, especially local-completions GSM8K runs.

٣٠ يوليو ٢٠٢٦
test-model-qwen3-5-0-8b-pd-nixl
مطوّرو البرمجيات

LightLLM Qwen3.5-0.8B PD disaggregation over NIXL gsm8k: pd_master on 8089, prefill on 8001, decode on 8002. Supports TP1 and TP2 runs by setting TP / PREFILL_CUDA_DEVICES / DECODE_CUDA_DEVICES. Qwen3.5 has linear-attention state transfer; use…

٣٠ يوليو ٢٠٢٦
test-model-qwen3-8b-pd-nixl
مطوّرو البرمجيات

LightLLM Qwen3-8b PD disaggregation gsm8k: pd_master on 8089, prefill on 8001, decode on 8002, tp 2 each. Assign four GPUs via nvidia-smi then export PREFILL_CUDA_DEVICES / DECODE_CUDA_DEVICES (no fixed card IDs; no complex shell automation). UCX_NET_DEVICES…

٣٠ يوليو ٢٠٢٦
lightllm-profiler-control
مطوّرو البرمجيات

LightLLM profiler 使用说明。用于需要启动或停止 LightLLM 的 torch_profiler / nvtx profiling 功能时,尤其是查看 --enable_profiling、/profiler_start、/profiler_stop 的使用方法。

١٥ يونيو ٢٠٢٦
test-model-deepseekv32-ep
مطوّرو البرمجيات

Runs LightLLM DeepSeek-V3.2 EP MoE gsm8k: api_server with --tp 8 --dp 8 --enable_ep_moe, tool_call_parser deepseekv32, reasoning_parser deepseek-v3, graph_max_batch_size 32, mem_fraction 0.8, LOADWORKER 14, port 8000 aligned with lm_eval base_url. Requires a…

٥ يونيو ٢٠٢٦
test-model-deepseekr1-mtp-tp
مطوّرو البرمجيات

DeepSeek-R1 MTP-TP test: LightLLM api_server with MTP (EAGLE) draft, tensor parallel only (--tp 8, no --dp, no EP MoE), plus GSM8K lm_eval on localhost. Distinct from the MTP-EP-TPDP skill which uses --tp 8 --dp 8 and EP MoE. Requires a dedicated log…

٢٢ مايو ٢٠٢٦
test-model-deepseekr1-base-tp
مطوّرو البرمجيات

Runs LightLLM DeepSeek-R1 baseline TP gsm8k: single api_server with --tp 8 and --batch_max_tokens only, no MTP draft, no --dp, no EP MoE (distinct from deepseekr1-mtp-tp which adds MTP). GSM8K lm_eval on localhost port 8089. Requires a dedicated log…

١٣ مايو ٢٠٢٦
عرض 8 من أصل ١٣ skills مجمعة.
عرض ٣ من أصل ٣ مستودعات
تم تحميل كل المستودعات