Evolusi teknologi kecerdasan buatan turut mengubah peta kebutuhan infrastruktur penyimpanan digital dan pemrosesan data.
Selain fasilitas berkapasitas masif untuk pelatihan model, penggunaan harian juga menuntut sistem dengan waktu tanggap optimal.
CEO Bitera Data Center Tedy Harjanto menjelaskan bahwa kebutuhan infrastruktur modern tidak hanya bertumpu pada skala besar.
Fasilitas yang berdiri lebih dekat dengan titik pengguna sangat diperlukan untuk menunjang aktivitas pemrosesan inferensi.
Kebutuhan Latensi Rendah di Wilayah Perkotaan
Aktivitas inferensi kecerdasan buatan membutuhkan tingkat latensi yang jauh lebih baik daripada proses pelatihan.
Oleh karena itu, infrastruktur penunjang harus diletakkan pada lokasi strategis seperti kawasan network edge.
Permintaan tersebut diprediksi bakal terus meningkat seiring kematangan aplikasi yang dipakai oleh masyarakat luas.
Bitera sendiri mengoperasikan fasilitas berkapasitas lebih dari 30 MW di kawasan Kuningan, Jakarta Selatan.
Lokasi pusat kota tersebut dirancang khusus guna mendukung sistem kritis serta inferensi berbasis GPU pelanggan.
