Skip to main content

tenstorrent/tt-inference-server

SkillsMP 已收集 tenstorrent/tt-inference-server 中的 4 个 Skill。打开任一 Skill 可查看来源和详情。

最近记录的来源活动
SkillsMP 收录数据更新
已收集 skills
4
GitHub 星标
71
GitHub Forks
34

这个仓库中的 skills

1 个职业分类 · 已分类 100%

已展示 4 / 4 个已收集 Skill。

职业分类
软件开发工程师
描述

Checklist for adding or modifying code in the workflow engine (run_workflows.py plus the llm_module/report_module/test_module/workflow_module packages) — new models, workflows, media runners, spec tests, report kinds, or CLI flags — and wiring it back to the…

原文语言:英语

更新
职业分类
软件开发工程师
描述

Checklist for onboarding a new LLM to the cpp_server inference backend so it serves through Dynamo — registering the model type, fetching tokenizer files, tokenizer static data (eos/stop/think tokens), and Dynamo discovery (reasoning + tool-call parsers,…

原文语言:英语

更新
职业分类
软件开发工程师
描述

Capture on-CPU and off-CPU flamegraphs of the running tt_media_server_cpp main (Drogon) and worker processes using Linux perf + Brendan Gregg's FlameGraph. Use when the user asks to profile the C++ server, find a performance bottleneck, identify slow code…

原文语言:英语

更新
职业分类
软件开发工程师
描述

Trigger Tenstorrent Blaze media server and tt-metal upstream Docker image builds with gh. Use when the user asks to build Blaze and Metal Docker images, run the tt-shield media server image workflow, or build tt-metal images from the tt-llm-engine submodule…

原文语言:英语

更新
已展示 4 / 4 个已收集 Skill。