職業分類
ソフトウェア開発者
説明
Benchmarks a deployed llm-d well-lit path guide stack on GKE using llm-d-benchmark cli with inference-perf as the harness, the user a will select the appropriate workload profiles from llm-d-benchmark.
原文の言語: 英語
更新
メニュー
SkillsMP は GoogleCloudPlatform/accelerated-platforms から 4 件の skill を収集しています。skill を開くとソースと詳細を確認できます。
収集済み skill 4 件中 4 件を表示しています。
Benchmarks a deployed llm-d well-lit path guide stack on GKE using llm-d-benchmark cli with inference-perf as the harness, the user a will select the appropriate workload profiles from llm-d-benchmark.
原文の言語: 英語
This is an experimental Skill. It automatically tunes GKE vLLM inference server parameters and resources based on workload profiles specified in the benchmark configs.
原文の言語: 英語
Deploys the GKE base platform and inference-specific terra-services (GPU/TPU) for accelerated workloads.
原文の言語: 英語
Deploys the llm-d stack on GKE using well-lit paths specification.
原文の言語: 英語