Skip to main content

google-ai-edge/litert-samples

Última atividade de origem registrada
Catálogo do SkillsMP atualizado
skills coletadas
9
Estrelas no GitHub
458
Forks no GitHub
122

Carregando o README do repositório…

Skills neste repositório

1 categorias ocupacionais · 11% classificado

Mostrando 9 de 9 skills coletadas.

ocupação
sem classificação
descrição

Build a new Android app (Kotlin, Compose) around a verified LiteRT model using the CompiledModel API - the app architecture, the inference-layer lifecycle rules, model delivery, and the UI traps that masquerade as model bugs. Use when turning a converted and…

Idioma do texto original: inglês

atualizado
ocupação
Desenvolvedores de software
descrição

Convert a PyTorch or Hugging Face model into a LiteRT model that runs fully on the GPU via the CompiledModel API with verified-correct output, and lay it out as a model recipe. Use when converting a new model, or when a converted model is rejected by the GPU,…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Rapidly migrate an Android application from legacy TensorFlow Lite (TFLite) to the modern LiteRT CompiledModel API (2.x) in Open Source GitHub repositories. Covers buffer reuse, NPU JIT compilation, a reference implementation, and a two-stage verification…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Creates an Android app that runs a .tflite model on the CPU or the GPU with the LiteRT CompiledModel API in Kotlin. Use this skill to build a new app around a vision, audio or embedding model, or to add on-device inference to an existing app - the dependency,…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Shrink a converted LiteRT model with ai-edge-quantizer (fp16 / int8 / int4) without losing accuracy, verifying parity against the float source after every step. Use when choosing a quantization recipe for a new model, when a quantized model fails to load,…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Convert a Hugging Face LLM or vision-language model checkpoint into a .litertlm bundle that runs on the LiteRT-LM runtime with verified quality - classify the architecture against known runtime walls, pick the recipe family (dense, reasoning, hybrid SSM,…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Measure a LiteRT .tflite model with `benchmark_model` on Developer Device Platform (DDP) lab phones through `litert benchmark --ddp`, or on the Mac you run it from, and turn the session into rows of the performance leaderboard under benchmark/leaderboard -…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Prove a converted or quantized LiteRT model on the actual device via the CompiledModel API - confirm GPU residency, compare device output against the source model, and diagnose device-only failures such as silent CPU fallback, whole-graph compile ceilings,…

Idioma do texto original: inglês

atualizado
ocupação
sem classificação
descrição

Creates an Android app that runs an open text LLM on the device, on the CPU or the GPU, with the LiteRT-LM Kotlin API. Use this skill to build a new chat, summarization or extraction app with a .litertlm model from Hugging Face litert-community (Gemma, Qwen,…

Idioma do texto original: inglês

atualizado
Mostrando 9 de 9 skills coletadas.

Instalar com um assistente de IA

Copie este prompt para o assistente de IA que você usa.