
Artikel ini adalah bagian dari edisi khusus VentureBeat, “AI dalam Skala Besar: Dari Visi hingga Viabilitas.” Baca lebih lanjut dari edisi khusus ini di sini.
Artikel ini adalah bagian dari edisi khusus VentureBeat, “AI dalam Skala Besar: Dari Visi hingga Viabilitas.” Baca lebih lanjut dari masalah ini di sini.
Meningkatkan adopsi alat generatif selalu menjadi tantangan dalam menyeimbangkan ambisi dan kepraktisan, dan pada tahun 2025, taruhannya akan lebih besar dari sebelumnya. Perusahaan-perusahaan yang berlomba untuk mengadopsi model bahasa besar (LLM) menghadapi kenyataan baru: Penskalaan bukan hanya tentang menerapkan model yang lebih besar atau berinvestasi pada alat-alat mutakhir — ini tentang mengintegrasikan AI dengan cara yang mentransformasikan operasi, memberdayakan tim, dan mengoptimalkan biaya. Kesuksesan bergantung pada lebih dari sekedar teknologi; hal ini memerlukan perubahan budaya dan operasional yang menyelaraskan kemampuan AI dengan tujuan bisnis.
Pentingnya penskalaan: Mengapa tahun 2025 berbeda
Ketika AI generatif berevolusi dari eksperimen ke penerapan skala perusahaan, dunia usaha menghadapi titik perubahan. Kegembiraan dalam adopsi awal telah digantikan oleh tantangan praktis dalam menjaga efisiensi, mengelola biaya, dan memastikan relevansi dalam pasar yang kompetitif. Penskalaan AI pada tahun 2025 adalah tentang menjawab pertanyaan-pertanyaan sulit: Bagaimana bisnis dapat membuat alat generatif berdampak pada seluruh departemen? Infrastruktur apa yang akan mendukung pertumbuhan AI tanpa menghambat sumber daya? Dan mungkin yang paling penting, bagaimana tim beradaptasi dengan alur kerja berbasis AI?
Keberhasilan bergantung pada tiga prinsip penting: mengidentifikasi kasus penggunaan yang jelas dan bernilai tinggi; menjaga fleksibilitas teknologi; dan membina tenaga kerja yang siap beradaptasi. Perusahaan-perusahaan yang berhasil tidak hanya mengadopsi gen AI – mereka merancang strategi yang menyelaraskan teknologi dengan kebutuhan bisnis, terus mengevaluasi kembali biaya, kinerja, dan perubahan budaya yang diperlukan agar dapat memberikan dampak yang berkelanjutan. Pendekatan ini bukan hanya tentang penerapan alat-alat mutakhir; ini tentang membangun ketahanan operasional dan skalabilitas dalam lingkungan di mana teknologi dan pasar berkembang dengan sangat cepat.
Perusahaan seperti Wayfair dan Expedia mewujudkan pembelajaran ini, menunjukkan bagaimana pendekatan hibrida dalam penerapan LLM dapat mengubah operasi. Dengan memadukan platform eksternal dengan solusi khusus, bisnis-bisnis ini menggambarkan kekuatan dalam menyeimbangkan kelincahan dan presisi, serta memberikan teladan bagi pihak lain.
Menggabungkan penyesuaian dengan fleksibilitas
Keputusan untuk membuat atau membeli alat gen AI sering kali digambarkan sebagai keputusan biner, namun Wayfair dan Expedia menggambarkan keuntungan dari strategi yang berbeda-beda. Fiona Tan, CTO Wayfair, menggarisbawahi nilai keseimbangan fleksibilitas dengan kekhususan. Wayfair menggunakan Vertex AI Google untuk aplikasi umum sambil mengembangkan alat berpemilik untuk kebutuhan khusus. Tan berbagi pendekatan berulang yang dilakukan perusahaan tersebut, dan menceritakan bagaimana model yang lebih kecil dan hemat biaya sering kali mengungguli pilihan yang lebih besar dan lebih mahal dalam menandai atribut produk seperti warna kain dan furnitur.
Demikian pula, Expedia menggunakan lapisan proksi LLM multi-vendor yang memungkinkan integrasi berbagai model dengan lancar. Rajesh Naidu, wakil presiden senior Expedia, menjelaskan strategi mereka sebagai cara untuk tetap gesit sekaligus mengoptimalkan biaya. “Kami selalu oportunis, mencari yang terbaik [models] hal ini masuk akal, namun kami juga bersedia membangunnya untuk domain kami sendiri,” jelas Naidu. Fleksibilitas ini memastikan tim dapat beradaptasi dengan kebutuhan bisnis yang terus berkembang tanpa terpaku pada satu vendor saja.
Pendekatan hibrid seperti ini mengingatkan kita pada evolusi perencanaan sumber daya perusahaan (ERP) pada tahun 1990an, ketika perusahaan harus memutuskan antara mengadopsi solusi yang kaku dan out-of-the-box atau menyesuaikan sistem agar sesuai dengan alur kerja mereka. Saat itu, seperti sekarang, perusahaan-perusahaan yang berhasil menyadari pentingnya memadukan alat-alat eksternal dengan pengembangan yang disesuaikan untuk mengatasi tantangan operasional tertentu.
Efisiensi operasional untuk fungsi bisnis inti
Wayfair dan Expedia menunjukkan bahwa kekuatan LLM yang sebenarnya terletak pada aplikasi yang ditargetkan dan memberikan dampak yang terukur. Wayfair menggunakan AI generatif untuk memperkaya katalog produknya, meningkatkan metadata dengan akurasi otonom. Hal ini tidak hanya menyederhanakan alur kerja tetapi juga meningkatkan pencarian dan rekomendasi pelanggan. Tan menyoroti aplikasi transformatif lainnya: memanfaatkan LLM untuk menganalisis struktur database yang sudah ketinggalan zaman. Dengan tidak adanya lagi perancang sistem asli, gen AI memungkinkan Wayfair mengurangi utang teknis dan mengungkap efisiensi baru dalam sistem lama.
Expedia telah meraih kesuksesan dalam mengintegrasikan gen AI di seluruh layanan pelanggan dan alur kerja pengembang. Naidu menyampaikan bahwa alat AI generasi khusus yang dirancang untuk meringkas panggilan memastikan bahwa “90% wisatawan dapat menghubungi agen dalam waktu 30 detik,” berkontribusi terhadap peningkatan signifikan dalam kepuasan pelanggan. Selain itu, GitHub Copilot telah diterapkan di seluruh perusahaan, mempercepat pembuatan kode dan proses debug. Keuntungan operasional ini menggarisbawahi pentingnya menyelaraskan kemampuan generasi AI dengan kasus penggunaan bisnis yang jelas dan bernilai tinggi.
Peran perangkat keras dalam gen AI
Pertimbangan perangkat keras dalam penskalaan LLM sering kali diabaikan, padahal mereka memainkan peran penting dalam keberlanjutan jangka panjang. Wayfair dan Expedia saat ini mengandalkan infrastruktur cloud untuk mengelola beban kerja gen AI mereka. Tan mencatat bahwa Wayfair terus menilai skalabilitas penyedia cloud seperti Google, sambil tetap memperhatikan potensi kebutuhan infrastruktur lokal untuk menangani aplikasi real-time dengan lebih efisien.
Pendekatan Expedia juga menekankan fleksibilitas. Dihosting terutama di AWS, perusahaan menggunakan lapisan proksi untuk merutekan tugas secara dinamis ke lingkungan komputasi yang paling sesuai. Sistem ini menyeimbangkan kinerja dengan efisiensi biaya, memastikan bahwa biaya inferensi tidak lepas kendali. Naidu menyoroti pentingnya kemampuan beradaptasi ini seiring dengan semakin kompleksnya aplikasi AI generasi enterprise dan menuntut kekuatan pemrosesan yang lebih tinggi.
Fokus pada infrastruktur ini mencerminkan tren yang lebih luas dalam komputasi perusahaan, yang mengingatkan pada peralihan dari pusat data monolitik ke arsitektur layanan mikro. Ketika perusahaan seperti Wayfair dan Expedia meningkatkan kemampuan LLM mereka, mereka menunjukkan pentingnya menyeimbangkan skalabilitas cloud dengan opsi yang muncul seperti edge computing dan chip khusus.
Pelatihan, tata kelola dan manajemen perubahan
Menyebarkan LLM bukan hanya tantangan teknologi — ini adalah tantangan budaya. Wayfair dan Expedia menekankan pentingnya mendorong kesiapan organisasi untuk mengadopsi dan mengintegrasikan alat gen AI. Di Wayfair, pelatihan komprehensif memastikan karyawan di seluruh departemen dapat beradaptasi dengan alur kerja baru, terutama di bidang seperti layanan pelanggan, di mana respons yang dihasilkan AI memerlukan pengawasan manusia agar sesuai dengan suara dan nada perusahaan.
Expedia telah mengambil langkah lebih jauh dalam tata kelola dengan membentuk Dewan AI yang Bertanggung Jawab untuk mengawasi semua keputusan besar terkait AI. Dewan ini memastikan bahwa penerapan selaras dengan pedoman etika dan tujuan bisnis, sehingga menumbuhkan kepercayaan di seluruh organisasi. Naidu menggarisbawahi pentingnya memikirkan kembali metrik untuk mengukur efektivitas gen AI. KPI tradisional sering kali gagal sehingga mendorong Expedia untuk mengadopsi metrik presisi dan perolehan yang lebih selaras dengan tujuan bisnis.
Adaptasi budaya ini sangat penting bagi keberhasilan jangka panjang gen AI di lingkungan perusahaan. Teknologi saja tidak bisa mendorong transformasi; Transformasi memerlukan tenaga kerja yang mampu memanfaatkan kemampuan generasi AI dan struktur tata kelola yang memastikan penerapan yang bertanggung jawab.
Pelajaran untuk meningkatkan kesuksesan
Pengalaman Wayfair dan Expedia menawarkan pelajaran berharga bagi organisasi mana pun yang ingin meningkatkan skala LLM secara efektif. Kedua perusahaan menunjukkan bahwa kesuksesan bergantung pada identifikasi kasus penggunaan bisnis yang jelas, menjaga fleksibilitas dalam pilihan teknologi, dan menumbuhkan budaya adaptasi. Pendekatan hibrida mereka memberikan model untuk menyeimbangkan inovasi dengan efisiensi, memastikan bahwa investasi gen AI memberikan hasil yang nyata.
Hal yang membuat penskalaan AI pada tahun 2025 menjadi tantangan yang belum pernah terjadi sebelumnya adalah laju perubahan teknologi dan budaya. Strategi hybrid, infrastruktur fleksibel, dan budaya data yang kuat yang menentukan keberhasilan penerapan AI saat ini akan menjadi landasan bagi gelombang inovasi berikutnya. Perusahaan yang membangun fondasi ini kini tidak hanya akan meningkatkan skala AI; mereka akan meningkatkan ketahanan, kemampuan beradaptasi, dan keunggulan kompetitif.
Ke depan, tantangan biaya inferensi, kemampuan real-time, dan kebutuhan infrastruktur yang terus berkembang akan terus membentuk lanskap AI generasi enterprise. Seperti yang dikatakan Naidu dengan tepat, “Gen AI dan LLM akan menjadi investasi jangka panjang bagi kami dan hal ini telah membedakan kami dalam bidang perjalanan. Kita harus menyadari bahwa hal ini memerlukan prioritas investasi yang sadar dan pemahaman tentang kasus penggunaan.”