Berdasarkan rilis resmi Meta (07/10), Head of Infrastructure perusahaan Santosh Janardhan menjelaskan mengapa pusat data menjadi bagian penting dari pendekatan Meta dalam membangun infrastruktur AI. Wawancara yang dipandu kreator dan developer Tom Shaw ini membahas bagaimana Meta merancang, memilih chip, dan membangun fasilitasnya sendiri untuk menopang pengembangan kecerdasan buatan.

Santosh menyebut Meta bukan perusahaan perangkat lunak semata. Ia menjelaskan bahwa AI berbeda dari teknologi lain karena proses pelatihannya menuntut daya komputasi yang jauh lebih besar. Melatih model AI berskala besar membutuhkan ribuan chip yang bekerja secara paralel selama berminggu-minggu, sehingga kapasitas pusat data menjadi faktor penentu. Karena itulah, menurut Santosh, membangun dan mengelola pusat data sendiri memberi Meta kendali lebih besar atas performa, biaya, dan kecepatan pengembangan.

Salah satu topik yang dibahas adalah pemilihan chip. Meta memadukan GPU (Graphics Processing Unit, chip yang umum dipakai untuk komputasi paralel berat) dari berbagai vendor dengan chip khusus yang dirancang untuk beban kerja AI. Pendekatan ini memungkinkan perusahaan menyesuaikan jenis chip dengan tugas tertentu, mulai dari melatih model bahasa besar hingga menjalankan inferensi, yaitu tahap di mana model yang sudah jadi dipakai untuk menjawab permintaan pengguna secara langsung.

Wawancara ini juga menyoroti manfaat membangun pusat data secara mandiri. Dengan memiliki fasilitas sendiri, Meta bisa menyesuaikan desain fisik, sistem pendinginan, dan jaringan listrik sesuai kebutuhan workload AI. Santosh menambahkan bahwa keputusan ini juga berkaitan dengan lokasi dan sumber energi, karena pusat data modern membutuhkan pasokan listrik yang stabil dan berkelanjutan.

Secara umum, pusat data adalah gedung berisi ribuan server yang bekerja bersama untuk menyimpan data dan menjalankan komputasi. Dalam konteks AI, fasilitas ini berperan sebagai tempat model dilatih dan dijalankan. Karena itulah perusahaan teknologi besar berlomba memperluas kapasitas pusat data mereka, seiring makin banyak layanan AI yang digunakan masyarakat sehari-hari.