IA qui ne quitte pas l'appareil. Confidentialité, capacité offline, latence — et pourquoi c'est parfois catégoriquement important.
Catégorie · IA & Agents
Une IA qui ne quitte pas l'appareil.
On-Device AI signifie : le modèle tourne sur le terminal — smartphone, tablette, ordinateur portable, appareil embarqué — et non dans le cloud. Les données sont traitées localement, les réponses générées localement. L'avantage est triple : protection des données, fonctionnement hors ligne, latence.
Quand c'est pertinent.
Dès que les données vues par le modèle sont sensibles (santé, finances, données personnelles) ou que le fonctionnement hors ligne est une promesse produit. Réalisé via des runtimes optimisés comme Core ML (Apple), TensorFlow Lite, ONNX Runtime ou llama.cpp.
Le coût : modèles plus petits, moins de performance, plus d'ingénierie à l'interface. Cela n'en vaut pas toujours la peine — mais quand cela vaut le coup, la différence avec une approche cloud est catégorielle.
