Skip to main content

google-ai-edge/litert-samples

Última actividad de origen registrada
Catálogo de SkillsMP actualizado
skills recopiladas
9
Estrellas en GitHub
458
Forks en GitHub
122

Cargando el README del repositorio…

Skills en este repositorio

1 categorías ocupacionales · 11% clasificado

Mostrando 9 de 9 skills recopiladas.

ocupación
sin clasificar
descripción

Build a new Android app (Kotlin, Compose) around a verified LiteRT model using the CompiledModel API - the app architecture, the inference-layer lifecycle rules, model delivery, and the UI traps that masquerade as model bugs. Use when turning a converted and…

Idioma del texto original: inglés

actualizado
ocupación
Desarrolladores de software
descripción

Convert a PyTorch or Hugging Face model into a LiteRT model that runs fully on the GPU via the CompiledModel API with verified-correct output, and lay it out as a model recipe. Use when converting a new model, or when a converted model is rejected by the GPU,…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Rapidly migrate an Android application from legacy TensorFlow Lite (TFLite) to the modern LiteRT CompiledModel API (2.x) in Open Source GitHub repositories. Covers buffer reuse, NPU JIT compilation, a reference implementation, and a two-stage verification…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Creates an Android app that runs a .tflite model on the CPU or the GPU with the LiteRT CompiledModel API in Kotlin. Use this skill to build a new app around a vision, audio or embedding model, or to add on-device inference to an existing app - the dependency,…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Shrink a converted LiteRT model with ai-edge-quantizer (fp16 / int8 / int4) without losing accuracy, verifying parity against the float source after every step. Use when choosing a quantization recipe for a new model, when a quantized model fails to load,…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Convert a Hugging Face LLM or vision-language model checkpoint into a .litertlm bundle that runs on the LiteRT-LM runtime with verified quality - classify the architecture against known runtime walls, pick the recipe family (dense, reasoning, hybrid SSM,…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Measure a LiteRT .tflite model with `benchmark_model` on Developer Device Platform (DDP) lab phones through `litert benchmark --ddp`, or on the Mac you run it from, and turn the session into rows of the performance leaderboard under benchmark/leaderboard -…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Prove a converted or quantized LiteRT model on the actual device via the CompiledModel API - confirm GPU residency, compare device output against the source model, and diagnose device-only failures such as silent CPU fallback, whole-graph compile ceilings,…

Idioma del texto original: inglés

actualizado
ocupación
sin clasificar
descripción

Creates an Android app that runs an open text LLM on the device, on the CPU or the GPU, with the LiteRT-LM Kotlin API. Use this skill to build a new chat, summarization or extraction app with a .litertlm model from Hugging Face litert-community (Gemma, Qwen,…

Idioma del texto original: inglés

actualizado
Mostrando 9 de 9 skills recopiladas.

Instalar con un asistente de IA

Copia este prompt en el asistente de IA que estés usando.