AWS (26/10) memperkenalkan pola referensi terbaru untuk mengelola siklus hidup model computer vision di lingkungan edge secara massal, dibangun di atas Amazon SageMaker Python SDK v3. Pembaruan ini menggantikan Amazon SageMaker Edge Manager yang sudah tidak didukung lagi dengan Amazon SageMaker Neo sebagai mesin kompilasi model untuk perangkat edge. Pola ini dirancang untuk menjawab tantangan yang muncul begitu sebuah proyek computer vision lolos dari tahap percobaan: ketika satu kamera dan satu model bekerja baik, tetapi pabrik meminta hasil yang sama di puluhan lini produksi dengan puluhan kamera yang masing-masing melihat dunia secara berbeda karena sudut, pantulan cahaya, dan kondisi pencahayaan yang bervariasi.

Inti dari referensi arsitektur ini adalah satu SageMaker Pipeline yang dijalankan untuk setiap kamera, dengan total tiga belas langkah per eksekusi. Tiga langkah awal berjalan paralel untuk melakukan praproses data serta mengambil model deteksi anomali dan model klasifikasi cacat versi terbaru milik kamera tersebut. Setelah itu, dua model dilatih: sebuah convolutional autoencoder kecil yang mempelajari tampilan produk normal dan menandai anomali berdasarkan kesalahan rekonstruksi, serta sebuah ResNet18 yang di-fine-tune untuk mengonfirmasi jenis cacat. Setiap cabang mengekspor model ke format ONNX, mengevaluasi hasil ekspor terhadap data uji, dan melewati quality gate sebelum dikompilasi dengan SageMaker Neo untuk target edge yang dikonfigurasi. Hanya setelah melewati tahap ini model didaftarkan ke SageMaker Model Registry, sehingga setiap paket yang lolos sudah membawa artefak yang siap dijalankan di perangkat.

Agar ribuan kamera dapat dilatih ulang tanpa melampaui kuota akun AWS, lapisan orkestrasi menggunakan Amazon SQS FIFO sebagai antrean permintaan, AWS Lambda untuk memulai eksekusi AWS Step Functions, dan DynamoDB sebagai semaphore yang membatasi pelatihan berjalan bersamaan, secara bawaan maksimal lima eksekusi pipeline sekaligus. Penyelesaian pipeline dipublikasikan lewat Amazon SNS, sementara kegagalan operasional diteruskan ke topik yang sama melalui aturan Amazon EventBridge dengan pesan kesalahan asli yang tetap terjaga. Hasil akhirnya adalah artefak model per kamera yang telah melewati quality gate dan diberi versi: ONNX portabel tersimpan di Model Registry, sedangkan versi yang sudah dikompilasi SageMaker Neo tersimpan di Amazon S3 sebagai pustaka bersama yang dimuat oleh runtime DLR di perangkat edge.

Seluruh pola ini dipasang menggunakan AWS CDK, dan AWS menyebutkan satu kali menjalankan pipeline penuh dengan data sintetis memakan biaya komputasi sekitar 0,07 dolar AS. Contoh kode tersedia di repositori aws-samples di GitHub. Untuk menjalankan, pengguna membutuhkan akun AWS dengan izin membuat peran IAM, sebuah bucket Amazon S3, repositori Amazon ECR, AWS CDK CLI versi 2.1131.0 atau lebih baru, serta akses ke layanan SageMaker AI, Step Functions, Lambda, SQS, SNS, EventBridge, dan DynamoDB. AWS juga mengingatkan agar variabel AWS_REGION, AWS_DEFAULT_REGION, dan CDK_DEFAULT_REGION dipasang langsung pada perintah deploy ketika region target berbeda dari default CLI, karena ketiga alat tersebut membaca variabel region dari kumpulan yang tidak sepenuhnya sama.

Secara umum, computer vision di lantai pabrik sering menghadapi situasi di mana satu model yang dilatih dari kumpulan rekaman semua kamera tidak cukup akurat untuk masing-masing kamera, sehingga setiap kamera pada akhirnya membutuhkan model yang di-fine-tune sendiri. SageMaker Neo adalah layanan AWS yang menerjemahkan model terlatih menjadi pustaka yang dioptimalkan untuk perangkat keras tertentu, sementara DLR (Deep Learning Runtime) adalah runtime ringan yang memuat pustaka hasil kompilasi tersebut di perangkat edge seperti kamera pintar atau gateway industri.