- Torus meluncurkan sistem komputasi modular Foundry, yang dirancang untuk meningkatkan kemampuan inferensi di lokasi yang sudah ada.
- Sistem ini dapat mendukung kapasitas komputasi dari 1 hingga 20 megawatt, dan dapat beroperasi dalam waktu singkat.
- Foundry dirancang untuk penyebaran terdistribusi, meningkatkan kontrol perusahaan terhadap pengolahan data.
- Pendanaan sebesar 500 juta dolar AS ini akan mendukung perluasan sistem penyimpanan energi dan komputasi mereka.
Torus telah merilis sistem komputasi modular yang dirancang untuk meningkatkan kemampuan inferensi di lokasi komersial dan industri yang sudah ada, memanfaatkan koneksi jaringan listrik yang tersedia, tanpa perlu menunggu infrastruktur pusat data baru. Perusahaan yang berbasis di Salt Lake City ini meluncurkan Foundry pada 11 November, bersamaan dengan pengumuman pendanaan sebesar 500 juta dolar AS yang dipimpin oleh Magnetar. Dana ini akan mendukung perluasan dan penyebaran sistem penyimpanan energi dan komputasi mereka di Amerika Serikat. Langkah ini diambil di tengah meningkatnya permintaan untuk komputasi inferensi. Berbeda dengan pelatihan model, yang melibatkan pengembangan dan penyempurnaan model, inferensi menjalankan model tersebut untuk menghasilkan respons dan melaksanakan tugas.
McKinsey memprediksi bahwa permintaan pusat data untuk inferensi akan tumbuh dengan laju pertumbuhan tahunan sebesar 35% sebelum tahun 2030, sementara pelatihan akan tumbuh sebesar 22%. Mengintegrasikan komputasi ke dalam Foundry menggabungkan perangkat keras komputasi, sistem kelistrikan, penyimpanan energi, pendinginan, dan jaringan dalam satu unit modul prefabrikasi. Torus menyatakan bahwa setiap lokasi dapat mendukung kapasitas komputasi dari 1 hingga 20 megawatt, dan dapat beralih dari kontrak ke beban kerja operasional dalam waktu 12 hingga 16 minggu.
Fitur Sistem Komputasi Modular
Sistem ini dirancang untuk beroperasi di lokasi komersial dan industri yang sudah ada, memanfaatkan kapasitas listrik yang tersedia. Torus berupaya memanfaatkan interkoneksi yang ada dan mengelola permintaan listrik melalui sistem penyimpanan energi Torus Reserve, tanpa perlu menunggu koneksi jaringan baru atau peningkatan infrastruktur skala besar. Reserve menggabungkan penyimpanan baterai dan teknologi inersia untuk mengelola permintaan puncak, menyediakan daya cadangan, dan menyesuaikan konsumsi listrik. Perusahaan menyatakan bahwa kontrol manajemen beban mereka dapat membantu memenuhi permintaan daya yang berfluktuasi dari perangkat keras komputasi, sambil mendukung stabilitas jaringan listrik.
Foundry juga dirancang untuk penyebaran terdistribusi, menempatkan sumber daya komputasi lebih dekat dengan perusahaan dan beban kerja yang dilayaninya. Torus percaya bahwa ini dapat menarik bagi perusahaan yang mencari kontrol lebih besar, terutama dalam hal pengolahan data, keamanan, dan perlindungan kekayaan intelektual.
Pilihan Mode Penyebaran yang Beragam
Torus menawarkan Foundry melalui tiga mode penyebaran. Opsi strategis menyediakan shell daya tanpa GPU, sementara konfigurasi mitra mencakup perangkat keras komputasi. Model langsung menawarkan kemampuan inferensi satu penyewa khusus untuk pelanggan perusahaan. Perusahaan telah menunjuk penyedia infrastruktur AI Hydra Host sebagai salah satu pelanggan pertama Foundry, bersama dengan penyedia layanan cloud lainnya yang tidak disebutkan namanya. Torus menyatakan bahwa ribuan GPU telah diterapkan di unit Foundry, dan berencana untuk meningkatkan angka ini menjadi lebih dari 47.000 sebelum akhir 2027.
Sistem-sistem ini diproduksi di GigaOne yang terletak di Salt Lake City, Utah, dengan fasilitas seluas 545.000 kaki persegi. Perusahaan menyatakan bahwa lini produksi Foundry dirancang untuk mendukung beban IT sebesar 500 megawatt, dan berencana untuk memperluas kapasitas hingga 1.000 megawatt.
Torus juga menyatakan bahwa Foundry menggunakan sistem pendinginan tertutup yang tidak menggunakan air, dengan konsumsi air yang 95% lebih sedikit dibandingkan sistem pendinginan evaporatif. Data lingkungan dan kinerja ini merupakan klaim yang dilaporkan oleh perusahaan. Putaran pendanaan sebesar 500 juta dolar AS ini dipimpin oleh Magnetar, dengan partisipasi dari ICONIQ, Origin Ventures, Ridgeline Partners, dan Trinity Capital. Peluncuran ini mencerminkan upaya yang semakin meningkat untuk mengatasi batasan daya pusat data dengan mendistribusikan kemampuan komputasi ke lokasi yang sudah ada.
Namun, jadwal penyebaran Foundry, kapasitas jaringan yang tersedia, dan rencana perluasan GPU tetap bergantung pada kondisi di masing-masing lokasi dan pelaksanaan di masa depan.
Item Spesifikasi Kapasitas Komputasi 1 hingga 20 megawatt Dukungan Beban IT 500 megawatt, direncanakan untuk diperluas hingga 1.000 megawatt Luas Fasilitas Produksi 545.000 kaki persegi
Dampak Sistem Komputasi Modular terhadap Pusat Data
Sistem Foundry dari Torus, melalui desain modular, mampu dengan cepat menerapkan kemampuan komputasi di lokasi komersial dan industri yang sudah ada, yang memiliki signifikansi penting dalam menghadapi permintaan komputasi inferensi yang terus meningkat. Seiring dengan meningkatnya permintaan pengolahan data, kebutuhan perusahaan akan kontrol yang lebih tinggi dan fleksibilitas juga meningkat. Sistem ini tidak hanya dapat mengurangi ketergantungan pada infrastruktur jaringan baru, tetapi juga dapat mengelola permintaan listrik secara efektif, meningkatkan stabilitas jaringan. Di masa depan, model ini dapat menjadi tren baru dalam operasi pusat data, terutama dalam konteks yang semakin pentingnya pertimbangan lingkungan dan pengelolaan sumber daya.

