Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut
Ketika kecerdasan buatan mendorong permintaan yang belum pernah terjadi sebelumnya untuk pemrosesan data, Data Startup Voltron Mountain View menawarkan solusi ke salah satu tantangan AI yang paling sedikit dibahas tetapi paling kritis: memindahkan dan mengubah kumpulan data besar yang cukup cepat untuk mengimbangi.
Voltron Data, yang mengumumkan kemitraan strategis dengan Accenture Today, telah mengembangkan mesin analitik yang dipercepat GPU yang dapat membantu perusahaan mengatasi bottleneck persiapan data menghambat inisiatif AI. Produk inti perusahaan, Theseus, memungkinkan organisasi untuk memproses data skala petabyte menggunakan grafis pemrosesan unit (GPU) alih-alih prosesor komputer tradisional (CPU).
“Semua orang fokus pada hal -hal baru yang mencolok yang dapat Anda sentuh dan rasakan, tetapi fondasi dataset di bawahnya akan menjadi kunci,” kata Michael Abbott, yang memimpin latihan perbankan dan pasar modal Accenture, dalam wawancara eksklusif dengan VentureBeat. “Untuk membuat AI berfungsi, Anda harus memindahkan data dengan kecepatan dan kecepatan yang belum pernah Anda lakukan sebelumnya.”
Bangunan untuk tsunami AI: mengapa pemrosesan data tradisional tidak akan memotongnya
Kemitraan ini datang ketika perusahaan yang terburu -buru untuk mengadopsi AI generatif menemukan infrastruktur data yang ada tidak dilengkapi untuk menangani volume dan kecepatan data yang diperlukan. Tantangan ini diperkirakan akan meningkat karena agen AI menjadi lebih umum dalam operasi perusahaan.
“Agen mungkin akan menulis lebih banyak pertanyaan SQL daripada yang dilakukan manusia dalam cakrawala waktu yang sangat singkat,” kata Rodrigo Aramburu, CTO dan pendiri Voltron Data. “Jika CIO dan CTO sudah mengatakan mereka menghabiskan terlalu banyak pada analisis data dan infrastruktur cloud, dan permintaan akan akan melangkah lebih tinggi, maka kita membutuhkan fungsi langkah turun dalam biaya menjalankan kueri -kueri itu.”
Tidak seperti vendor basis data tradisional yang telah dipasang kembali dukungan GPU ke sistem yang ada, data Voltron membangun mesinnya dari bawah ke atas untuk akselerasi GPU. “Apa yang telah dilakukan sebagian besar perusahaan ketika mereka mencoba melakukan akselerasi GPU adalah mereka akan menyentuh GPU ke sistem yang ada,” kata Aramburu kepada VentureBeat. “Dengan membangun dari bawah ke atas … kami bisa mendapatkan 10x, 20x, 100x tergantung pada profil kinerja beban kerja tertentu.”
Dari 1.400 server hingga 14: Pengadopsi awal melihat hasil yang dramatis
Perusahaan memposisikan TheseUS sebagai pelengkap platform yang sudah mapan seperti Snowflake dan Databricks, memanfaatkan kerangka kerja panah Apache untuk pergerakan data yang efisien. “Ini benar -benar akselerator untuk semua basis data itu, bukan kompetisi,” kata Abbott. “Masih menggunakan SQL yang sama yang ditulis untuk mendapatkan jawaban yang sama, tetapi sampai di sana jauh lebih cepat dan lebih cepat dengan cara paralel.”
Adopsi awal telah berfokus pada industri intensif data seperti jasa keuangan, di mana kasus penggunaan termasuk deteksi penipuan, pemodelan risiko dan kepatuhan peraturan. Satu pengecer besar mengurangi jumlah servernya dari 1.400 mesin CPU menjadi hanya 14 server GPU setelah menerapkan Theseus, menurut Aramburu.
Sejak diluncurkan di konferensi GTC NVIDIA Maret lalu, Voltron Data telah mendapatkan sekitar 14 pelanggan perusahaan, termasuk dua lembaga pemerintah besar. Perusahaan berencana untuk merilis versi “test drive” yang akan memungkinkan pelanggan potensial untuk bereksperimen dengan kueri yang dipercepat GPU pada dataset skala terabyte.
Mengubah kekurangan GPU menjadi kesempatan
Kekurangan GPU saat ini yang dipicu oleh permintaan AI telah menantang dan bermanfaat bagi data Voltron. Sementara penyebaran baru menghadapi kendala perangkat keras, banyak perusahaan memiliki infrastruktur GPU yang kurang dimanfaatkan yang awalnya dibeli untuk beban kerja AI, aset yang dapat digunakan kembali untuk pemrosesan data selama periode idle.
“Kami benar -benar melihatnya sebagai anugerah karena ada begitu banyak GPU di pasar yang sebelumnya tidak ada di sana,” kata Aramburu, menambahkan bahwa Theseus dapat berjalan secara efektif pada generasi GPU yang lebih tua yang mungkin sudah tidak digunakan lagi.
Teknologi ini bisa sangat berharga bagi bank yang berurusan dengan apa yang disebut Abbott “data terjebak” – informasi yang terkunci dalam format seperti PDF dan dokumen yang bisa berharga untuk pelatihan AI tetapi sulit untuk diakses dan diproses pada skala. “Anda telah melihat beberapa data yang akan ditunjukkan Voltron kepada Anda berpotensi 90% lebih efektif dan efisien untuk memindahkan data menggunakan teknologi ini daripada CPU standar,” kata Abbott. “Itulah kekuatannya.”
Ketika perusahaan bergulat dengan tuntutan data AI, solusi yang dapat mempercepat pemrosesan data dan mengurangi biaya infrastruktur cenderung menjadi semakin kritis. Kemitraan dengan Accenture dapat membantu data Voltron menjangkau lebih banyak organisasi yang menghadapi tantangan ini, sambil memberikan klien Accenture akses ke teknologi yang secara signifikan dapat meningkatkan kinerja dan efisiensi inisiatif AI mereka.
