AWS (27/10) menjelaskan bagaimana Exowatt menggunakan Amazon SageMaker AI serverless model customization untuk membangun pipeline AI berulang yang menghasilkan model fine-tuning bagi edge dan cloud, dengan akurasi lebih tinggi dari frontier model dan biaya hingga 49 kali lebih rendah.
AWS (27/10) menjelaskan bagaimana Exowatt menggunakan Amazon SageMaker AI serverless model customization untuk membangun pipeline AI berulang yang menghasilkan model fine-tuning bagi edge dan cloud, dengan akurasi lebih tinggi dari frontier model dan biaya hingga 49 kali lebih rendah.
NVIDIA (27/10) memperkenalkan dataset Nemotron-Personas untuk Prancis dan Belgia, berisi profil penduduk sintetis yang dirancang untuk membantu model AI memahami bahasa, budaya, dan prosedur administrasi setempat.
NVIDIA (27/10) mengumumkan kolaborasi dengan konsorsium C-BRAIN yang memakai GPU, BioNeMo, dan MONAI untuk membuka data Alzheimer yang selama ini tidak tersentuh. Konsorsium ini juga merilis dua alat sumber terbuka, OpenScientist dan InsightEngine, untuk membantu peneliti menyusun hipotesis dan menguji klaim secara lebih cepat.
Pada DGX Spark, kernel MoE Humming, kuantisasi FP8, dan prediksi multi-token meningkatkan throughput inferensi Ling-3.0-flash 42,5% serta menurunkan latensi rata-rata 24,5% menurut pengujian NVIDIA.
Retell AI mengandalkan model OpenAI, termasuk GPT-6 Astra dan Codex, untuk menjalankan agen suara yang menangani sekitar 100 juta panggilan setiap bulan. Perusahaan rintisan ini melaporkan tingkat pendapatan tahunan sekitar 1,6 juta dolar AS per karyawan.
Salesforce (27/10) memperluas Agent Fabric dengan Agent Evals, fitur yang menilai kinerja dan biaya agen AI secara berkelanjutan agar perusahaan bisa menghentikan pembengkakan biaya dan kegagalan agen sebelum berdampak ke pelanggan.
AWS (26/10) merilis referensi arsitektur baru untuk mengelola siklus hidup model computer vision di banyak kamera secara bersamaan menggunakan SageMaker Python SDK v3, menggantikan Edge Manager yang sudah tidak didukung dengan SageMaker Neo untuk kompilasi model di edge.
AWS menjelaskan prompt caching untuk model OpenAI di Amazon Bedrock. Mekanisme ini memakai kembali konteks prompt yang identik agar agen AI dapat mengurangi biaya input dan latensi.
AWS (26/10) mempublikasikan panduan membangun sistem agentic retrieval di atas Managed Amazon Bedrock Knowledge Base menggunakan AWS CDK. Agen dapat memilih basis pengetahuan, mengambil jawaban berulang, dan menyajikan jawaban dengan kutipan, lengkap dengan tujuh lapisan observabilitas dan evaluasi otomatis.