TinyML – Maschinelles Lernen auf Mikrocontrollern
TinyML bezeichnet die Ausführung von Inferenz für maschinelles Lernen auf extrem stromsparenden Mikrocontrollern – Geräten mit nur 64 KB RAM und einer Leistungsaufnahme im Milliwattbereich. Im Gegensatz zu Cloud-KI oder Edge AI auf leistungsstarken Prozessoren bringt TinyML Intelligenz direkt auf die kleinsten, kostengünstigsten und am stärksten auf die Batterielaufzeit angewiesenen Geräte im IoT-Ökosystem.
Warum TinyML
| Vorteil | Beschreibung |
|---|---|
| Datenschutz | Rohdaten von Sensoren verlassen niemals das Gerät – die Verarbeitung erfolgt lokal |
| Latenz | Echtzeit-Inferenz in Mikrosekunden, keine Netzwerk-Umlaufzeit |
| Leistungsaufnahme | Läuft jahrelang mit Knopfzellenbatterien |
| Kosten | Keine Kosten für Cloud-Computing, keine Datenabonnements |
| Zuverlässigkeit | Funktioniert ohne Internetverbindung |
| Bandbreite | Sendet nur Ergebnisse (Anomalie erkannt: ja/nein), keine Rohdaten |
Der TinyML-Markt wurde 2024 auf etwa 1,1 Milliarden US-Dollar geschätzt und wird voraussichtlich bis 2029 mit einer jährlichen Wachstumsrate (CAGR) von 34 % wachsen. Dies wird durch die Verbreitung des IoT und die Nachfrage nach datenschutzfreundlicher Edge-Intelligenz vorangetrieben (Technavio, ResearchAndMarkets, 2024).
Gängige TinyML-Anwendungen
- Vorausschauende Wartung – Erkennung von Vibrationsanomalien an Industriemotoren (Beschleunigungssensor + MCU)
- Schlüsselworterkennung (Keyword Spotting) – „Hey Google“ / „Alexa“ Aktivierungsworterkennung auf dem Gerät
- Gestenerkennung – Klassifizierung von Bewegungen bei Wearables mittels IMU-Daten
- Geräuschklassifizierung – Glasbrucherkennung, Geräusche von Maschinenfehlern, Identifizierung von Vogelarten
- Visuelle Inspektion – Einfache Fehlererkennung mit niedrigauflösenden Kameras auf einem MCU
- Umgebungssensorik – Gasleckerkennung, Klassifizierung der Luftqualität
Frameworks für die TinyML-Bereitstellung
| Framework | Entwickler | Hauptmerkmal | Hardware-Unterstützung |
|---|---|---|---|
| TensorFlow Lite Micro | Am etabliertesten, breites Ökosystem | ARM Cortex-M, ESP32, RISC-V | |
| Edge Impulse | Edge Impulse | No-Code-Webplattform, schnelles Prototyping | Nordic nRF, STM32, ESP32, Arduino |
| CMSIS-NN | ARM | Handoptimierte Kernel für Cortex-M | Nur ARM Cortex-M |
| MicroTVM | Apache TVM | Compiler-basiertes Autotuning | STM32, ESP32, RISC-V |
| ExecuTorch | Meta | PyTorch-basierte Inferenz | ARM, Apple, Qualcomm |
| MCUXpresso ML SDK | NXP | Integriert in das NXP-Ökosystem | NXP i.MX RT, LPC |
Hardwareanforderungen für TinyML
| Ressource | Schlüsselworterkennung | Vibrationsanomalie | Visuelle Inspektion |
|---|---|---|---|
| Flash | 64–128 KB | 32–64 KB | 256–512 KB |
| RAM | 16–32 KB | 8–16 KB | 64–128 KB |
| Inferenzzeit | <100 ms | <10 ms | <500 ms |
| Leistungsaufnahme | 1–5 mW | 0,5–2 mW | 10–50 mW |
| Typischer MCU | Cortex-M4F | Cortex-M4F | Cortex-M7 oder M55+Ethos-U55 |
Entwicklungsworkflow für TinyML
- Datenerfassung – Sensordaten aus realen Bedingungen (nicht simuliert)
- Modelltraining – TensorFlow / PyTorch auf Desktop-/Cloud-GPU
- Quantisierung – Float32 → INT8 (reduziert die Modellgröße um ca. das 4-fache bei <1 % Genauigkeitsverlust)
- Konvertierung – Export in TFLite Micro FlatBuffer oder ONNX
- Bereitstellung – Flashen des Modells auf den MCU, Integration in die Task-Schleife des RTOS
- Validierung – Genauigkeitstests auf dem Gerät im Vergleich zum Trainingsdatensatz
- Kontinuierliche Verbesserung – Rückkopplungsschleife mit Daten aus dem Feldeinsatz
Verwandte Begriffe
- Edge AI – Die übergeordnete Kategorie; TinyML ist speziell für Geräte der MCU-Klasse (mW-Leistungsaufnahme, KB-Speicher).
- RTOS – Die TinyML-Inferenz läuft typischerweise als Task innerhalb eines RTOS-Schedulers.
- IoT – TinyML ermöglicht intelligente IoT-Geräte, die Daten direkt an der Quelle verarbeiten.
Wir setzen TinyML-Modelle auf Cortex-M- und ESP32-Plattformen für Anomalieerkennung, Klassifizierung und vorausschauende Wartung ein. Informieren Sie sich über unsere Dienstleistungen in den Bereichen Edge AI und Entwicklung eingebetteter Systeme.
Offizielle Referenzen
- LiteRT for Microcontrollers (TFLite Micro) – Google AI Edge
- tflite-micro GitHub repository – TensorFlow Open Source
- CMSIS-NN Documentation (latest) – ARM Software (Open Source)
- CMSIS-NN GitHub repository – ARM Software
- Apache TVM — Compiler for deep learning systems – Apache Software Foundation
- TinyML and the Future of Embedded ML – Pete Warden – TinyML Book Released (Co-Autor, O’Reilly)