Edge Impulse ile Gömülü Sistemlerde TinyML (Miniature AI) Uygulamaları

TinyML ile Mikrodenetleyicilerde Yapay Zeka

Özellik ne işe yarar?

Geleneksel yapay zeka modelleri devasa GPU sunucularında veya bulut altyapılarında çalışır. Ancak İnternete bağlı olmayan dağlık alanlardaki sensörler, giyilebilir tıbbi cihazlar veya pille çalışan akıllı ev aletleri için buluta veri göndermek yüksek enerji tüketimi, gecikme ve bant genişliği maliyeti yaratır. TinyML (Miniature Machine Learning), makine öğrenmesi derin sinir ağlarının sadece birkaç tensör kilobaytlık (KB) RAM ve Megabaytlık Flash hafızaya sahip mikrodenetleyiciler (ARM Cortex-M, ESP32, STM32) üzerinde yerel olarak çalıştırılmasını sağlayan bir disiplindir. TinyML sayesinde pilli bir sensör, yıllarca şarj edilmeden ivmeölçer verilerinden bir makinenin arızalanacağını kestirebilir (kestirimci bakım), mikrofonu üzerinden belirli ses kalıplarını (öksürük, cam kırılması, tetikleyici kelimeler) tespit edebilir veya düşük çözünürlüklü bir kamerayla nesne sayımı yapabilir.

Nasıl uygulanır?

TinyML projesi geliştirmek için en yaygın kullanılan platform Edge Impulse veya TensorFlow Lite for Microcontrollers (TFLite Micro) araçlarıdır. Süreç şu şekilde işler: İlk olarak mikrodenetleyicinize bağlı sensörlerden (ivmeölçer, mikrofon vb.) ham veri toplanır. Edge Impulse platformunda bir \’Impulse\’ (işleme hattı) oluşturulur; burada ham sensör verileri Hızlı Fourier Dönüşümü (FFT) veya Spektrogram algoritmalarıyla özniteliklere (features) dönüştürülür. Ardından hafif bir Yapay Sinir Ağı (ANN) eğitilir. Model eğitildikten sonra \’Quantization\’ (Niceleme) adımıyla float32 ağırlıkları int8 (8-bit tamsayı) formatına dönüştürülerek model boyutu 10-20 kat küçültülür. Son olarak platform, bu modeli donanıma doğrudan yüklenebilecek optimize edilmiş C++ kaynak kod kütüphanesi olarak dışa aktarır.

İyi sonuç için ipuçları

Mikrodenetleyicilerde matematiksel işlem birimi (FPU) kısıtlı olabileceğinden tam sayı nicelemesi (Full Integer Quantization) yapmayı ihmal etmeyin; bu sayede çıkarım (inference) süresi saniyelerden millisaniyelere düşecektir. Sensör verilerini işlerken örnekleme frekansını (Sampling Rate) gereksiz yüksek tutmayarak bellek taşmalarını (buffer overflow) engelleyin. Donanım seçiminde CMSIS-NN (ARM mikrodenetleyiciler için yapay zeka kütüphanesi) desteği olan çipleri tercih edin.

Dikkat edilmesi gerekenler

TinyML modelleri cihaz üzerinde yeniden eğitilemez (on-device training kısıtlıdır); sadece çıkarım yaparlar. Cihazın sahadaki performans kaybını önlemek için modelinizi eğitirken arka plan gürültülerini ve gerçek dünya bozunumlarını (data augmentation) veri setine mutlaka ekleyin. Görsellerde deneysel maketler yerine Edge Impulse geliştirici panelindeki model boyut ve bellek kullanım grafiklerini sunun.