Katmera ile Edge AI: NPU Kullanarak Gömülü Sistemlerde Yapay Zeka Uygulamaları
Katmera kartlarındaki güçlü NPU (Neural Processing Unit) birimi ile buluta ihtiyaç duymadan yapay zeka modellerini doğrudan cihazınızda çalıştırın. Düşük gecikme, yüksek verimlilik ve enerji tasarrufu bir arada.
Katmera ile Edge AI: NPU Kullanarak Gömülü Sistemlerde Yapay Zeka Uygulamaları
Yapay zeka artık yalnızca veri merkezleri ve bulut sunucularına özgü değil. Katmera kartlarındaki entegre NPU (Neural Processing Unit) sayesinde derin öğrenme modellerini doğrudan uç noktada çalıştırmak mümkün — daha düşük gecikme, daha az bant genişliği ve tam veri gizliliği ile.
NPU Nedir ve Neden Önemlidir?
Geleneksel CPU/GPU Yaklaşımının Sınırları
NPU'nun Avantajları
RKNN Toolkit ile Model Geliştirme
Kurulum
# Python ortamı oluştur
python3 -m venv rknn-env
source rknn-env/bin/activate# RKNN Toolkit2 kur
pip install rknn-toolkit2
PyTorch Modelini RKNN Formatına Dönüştürme
from rknn.api import RKNNrknn = RKNN(verbose=True)
rknn.config(
mean_values=[[123.675, 116.28, 103.53]],
std_values=[[58.395, 57.12, 57.375]],
target_platform='rk3576'
)
rknn.load_onnx(model='yolov8n.onnx')
rknn.build(do_quantization=True, dataset='dataset.txt')
rknn.export_rknn('./yolov8n.rknn')
rknn.release()
print("Model başarıyla dönüştürüldü!")
Katmera'da Gerçek Zamanlı Nesne Tespiti
import cv2
import numpy as np
from rknnlite.api import RKNNLiterknn_lite = RKNNLite()
rknn_lite.load_rknn('./yolov8n.rknn')
rknn_lite.init_runtime(core_mask=RKNNLite.NPU_CORE_AUTO)
cap = cv2.VideoCapture(0)
while True:
ret, frame = cap.read()
if not ret:
break
img = cv2.resize(frame, (640, 640))
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
img = np.expand_dims(img, axis=0)
outputs = rknn_lite.inference(inputs=[img])
cv2.imshow("Edge AI - Nesne Tespiti", frame)
if cv2.waitKey(1) & 0xFF == ord('q'):
break
cap.release()
rknn_lite.release()
Desteklenen Modeller ve Kullanım Alanları
| Model | Görev | FPS (RK3576 NPU) |
|-------|-------|-----------------|
| YOLOv8n | Nesne tespiti | ~45 FPS |
| MobileNetV3 | Görüntü sınıflandırma | ~120 FPS |
| DeepLab v3+ | Semantik segmentasyon | ~25 FPS |
| PaddleOCR | Metin tanıma | ~30 FPS |
| InsightFace | Yüz tanıma | ~50 FPS |
Uygulama Senaryoları
1. Akıllı Kamera Sistemleri
2. Sesli Asistan (Offline)
3. Anomali Tespiti
Üretim hatlarında sensör verilerini analiz ederek makine arızalarını önceden tespit edin. LSTM veya Autoencoder modelleri NPU üzerinde düşük güçle çalışır.
Performans İpuçları
Model Küçültme ve Kuantizasyon
Çoklu NPU Çekirdeği Kullanımı
# RK3576 üç NPU çekirdeğine sahiptir
rknn_lite.init_runtime(
core_mask=RKNNLite.NPU_CORE_0 | RKNNLite.NPU_CORE_1 | RKNNLite.NPU_CORE_2
)
Sonuç
Katmera kartları, Edge AI uygulamaları için güçlü bir platform sunar. NPU birimi sayesinde gerçek zamanlı nesne tespiti, ses tanıma ve anomali tespiti gibi uygulamaları bulut bağlantısı olmadan güvenli ve düşük gecikmeli şekilde çalıştırabilirsiniz.