Artikel ini adalah bagian dari edisi khusus VentureBeat, “Biaya Nyata AI: Kinerja, Efisiensi, dan ROI pada skala.” Baca lebih lanjut dari edisi khusus ini.
Selama dua dekade terakhir, perusahaan telah memiliki pilihan antara teknologi open-source dan tertutup.
Pilihan asli untuk perusahaan terutama berpusat pada sistem operasi, dengan Linux menawarkan alternatif open-source untuk Microsoft Windows. Di ranah pengembang, bahasa open-source seperti Python dan JavaScript mendominasi, karena teknologi open-source, termasuk Kubernetes, adalah standar di cloud.
Jenis pilihan yang sama antara terbuka dan tertutup sekarang menghadapi perusahaan untuk AI, dengan beberapa opsi untuk kedua jenis model. Di bagian depan model tertutup berpemilik adalah beberapa model terbesar, yang paling banyak digunakan di planet ini, termasuk yang dari Openai dan Anthropic. Di sisi open-source adalah model seperti Meta's Llama, IBM Granite, Alibaba's Qwen dan Deepseek.
Memahami kapan harus menggunakan model yang terbuka atau tertutup adalah pilihan penting bagi pembuat keputusan AI perusahaan pada tahun 2025 dan seterusnya. Pilihan memiliki implikasi keuangan dan kustomisasi untuk salah satu opsi yang perlu dipahami dan dipertimbangkan perusahaan.
Memahami perbedaan antara lisensi terbuka dan tertutup
Tidak ada kekurangan hiperbola di sekitar persaingan yang telah berlangsung selama beberapa dekade antara lisensi terbuka dan tertutup. Tapi apa arti semua itu untuk pengguna perusahaan?
Teknologi kepemilikan sumber tertutup, seperti Openai's GPT 4O misalnya, tidak memiliki kode model, data pelatihan, atau bobot model yang terbuka atau tersedia untuk dilihat siapa saja. Model ini tidak mudah tersedia untuk disesuaikan dan secara umum, hanya tersedia untuk penggunaan perusahaan nyata dengan biaya (tentu saja, chatgpt memiliki tingkat gratis, Tapi itu tidak akan memotongnya untuk beban kerja perusahaan yang nyata).
Teknologi terbuka, seperti meta llama, granit IBM, atau Deepseek, memiliki kode yang tersedia secara terbuka. Perusahaan dapat menggunakan model secara bebas, umumnya tanpa batasan, termasuk penyesuaian dan penyesuaian.
Rohan Gupta, kepala sekolah dengan Deloitte, mengatakan kepada VentureBeat bahwa debat sumber terbuka vs tertutup tidak unik atau asli AI, juga tidak akan diselesaikan dalam waktu dekat.
Gupta menjelaskan bahwa penyedia sumber tertutup biasanya menawarkan beberapa pembungkus di sekitar model mereka yang memungkinkan kemudahan penggunaan, penskalaan yang disederhanakan, peningkatan dan penurunan peringkat yang lebih mulus dan aliran peningkatan yang stabil. Mereka juga memberikan dukungan pengembang yang signifikan. Itu termasuk dokumentasi serta saran langsung dan sering memberikan integrasi yang lebih ketat dengan infrastruktur dan aplikasi. Sebagai gantinya, perusahaan membayar premi untuk layanan ini.
“Model open-source, di sisi lain, dapat memberikan kontrol, fleksibilitas dan opsi kustomisasi yang lebih besar, dan didukung oleh ekosistem pengembang yang bersemangat dan antusias,” kata Gupta. “Model -model ini semakin mudah diakses melalui API yang dikelola sepenuhnya di seluruh vendor cloud, memperluas distribusinya.”
Membuat pilihan antara model terbuka dan tertutup untuk perusahaan AI
Pertanyaan yang mungkin ditanyakan banyak pengguna perusahaan adalah apa yang lebih baik: model terbuka atau tertutup? Namun jawabannya belum tentu satu atau yang lain.
“Kami tidak memandang ini sebagai pilihan biner,” David Guarrera, pemimpin AI generatif di Ey Americas, mengatakan kepada VentureBeat. “Open vs ditutup semakin menjadi ruang desain yang cairan, di mana model dipilih, atau bahkan secara otomatis diatur, berdasarkan pengorbanan antara akurasi, latensi, biaya, interpretabilitas dan keamanan pada titik yang berbeda dalam alur kerja.”
Guarrera mencatat bahwa model tertutup membatasi seberapa dalam organisasi dapat mengoptimalkan atau mengadaptasi perilaku. Vendor model berpemilik sering membatasi penyesuaian, menagih tarif premium, atau menyembunyikan proses dalam kotak hitam. Sementara alat berbasis API menyederhanakan integrasi, mereka mengabstraksi banyak kontrol, membuatnya lebih sulit untuk membangun sistem yang sangat spesifik atau dapat ditafsirkan.
Sebaliknya, model open-source memungkinkan untuk menyempurnakan target, desain pagar pembatas dan optimasi untuk kasus penggunaan tertentu. Ini lebih penting di masa depan agen, di mana model tidak lagi merupakan alat serba guna monolitik, tetapi komponen yang dapat dipertukarkan dalam alur kerja yang dinamis. Kemampuan untuk membentuk perilaku model yang halus, dengan biaya rendah dan dengan transparansi penuh, menjadi keunggulan kompetitif utama ketika menggunakan agen spesifik tugas atau solusi yang diatur dengan ketat.
“Dalam praktiknya, kami memperkirakan masa depan agen di mana pemilihan model disarikan,” kata Guarrera.
Misalnya, pengguna dapat menyusun email dengan satu alat AI, merangkum dokumen hukum dengan yang lain, pencarian dokumen perusahaan dengan model sumber terbuka yang disetel dan berinteraksi dengan AI secara lokal melalui LLM di perangkat, semuanya tanpa pernah mengetahui model mana yang melakukan apa.
“Pertanyaan sebenarnya menjadi: campuran model apa yang paling sesuai dengan tuntutan spesifik alur kerja Anda?” Kata Guarrera.
Mempertimbangkan total biaya kepemilikan
Dengan model terbuka, ide dasarnya adalah bahwa model ini tersedia secara bebas untuk digunakan. Sementara sebaliknya, perusahaan selalu membayar model tertutup.
Kenyataan ketika harus mempertimbangkan total biaya kepemilikan (TCO) lebih bernuansa.
Praveen Akkiraju, direktur pelaksana di Insight Partners menjelaskan kepada VentureBeat bahwa TCO memiliki banyak lapisan yang berbeda. Beberapa pertimbangan utama termasuk biaya hosting infrastruktur dan rekayasa: Apakah model open-source yang diselenggarakan sendiri oleh perusahaan atau penyedia cloud? Berapa banyak rekayasa, termasuk penyesuaian, pagar penjaga dan pengujian keamanan, diperlukan untuk mengoperasionalkan model dengan aman?
Akkiraju mencatat hal itu Menyempurnakan model bobot terbuka juga kadang-kadang bisa menjadi tugas yang sangat kompleks. Perusahaan model Frontier tertutup menghabiskan upaya rekayasa yang sangat besar untuk memastikan kinerja di berbagai tugas. Dalam pandangannya, kecuali perusahaan menggunakan keahlian teknik yang serupa, mereka akan menghadapi tindakan penyeimbangan yang kompleks ketika menyempurnakan model sumber terbuka. Ini menciptakan implikasi biaya ketika organisasi memilih strategi penyebaran model mereka. Misalnya, perusahaan dapat menyempurnakan beberapa versi model untuk tugas yang berbeda atau menggunakan satu API untuk beberapa tugas.
Ryan Gross, Kepala Data & Aplikasi di Penyedia Layanan Native Cloud Caylent mengatakan kepada VentureBeat bahwa dari perspektifnya, persyaratan lisensi tidak masalah, kecuali untuk skenario kasus Edge. Pembatasan terbesar seringkali berkaitan dengan ketersediaan model ketika persyaratan residensi data ada. Dalam hal ini, menggunakan model terbuka pada infrastruktur seperti Amazon Sagemaker mungkin menjadi satu-satunya cara untuk mendapatkan model canggih yang masih sesuai. Ketika datang ke TCO, Gross mencatat bahwa pengorbanan itu terletak di antara biaya per token dan biaya hosting dan pemeliharaan.
“Ada titik impas yang jelas di mana ekonomi beralih dari model tertutup ke terbuka menjadi lebih murah,” kata Gross.
Dalam pandangannya, bagi sebagian besar organisasi, model tertutup, dengan hosting dan penskalaan diselesaikan atas nama organisasi, akan memiliki TCO yang lebih rendah. Namun, untuk perusahaan besar, perusahaan SaaS dengan permintaan yang sangat tinggi pada LLM mereka, tetapi kasus penggunaan yang lebih sederhana yang membutuhkan kinerja perbatasan, atau perusahaan produk AI-sentris, hosting model terbuka suling dapat lebih hemat biaya.
Bagaimana Seorang Pengembang Perangkat Lunak Perusahaan Mengevaluasi Model Terbuka Vs Tertutup
Josh Bosquez, CTO di sistem depan kedua adalah di antara banyak perusahaan yang harus mempertimbangkan dan mengevaluasi model terbuka vs tertutup.
“Kami menggunakan model AI terbuka dan tertutup, tergantung pada kasus penggunaan spesifik, persyaratan keamanan dan tujuan strategis,” kata Bosquez kepada VentureBeat.
Bosquez menjelaskan bahwa model terbuka memungkinkan perusahaannya untuk mengintegrasikan kemampuan mutakhir tanpa waktu atau biaya model pelatihan dari awal. Untuk eksperimen internal atau prototipe cepat, model terbuka membantu perusahaannya untuk mengulangi dengan cepat dan mendapat manfaat dari kemajuan yang digerakkan oleh masyarakat.
“Model tertutup, di sisi lain, adalah pilihan kami ketika kedaulatan data, dukungan tingkat perusahaan dan jaminan keamanan sangat penting, terutama untuk aplikasi yang menghadap pelanggan atau penyebaran yang melibatkan lingkungan yang sensitif atau diatur,” katanya. “Model-model ini sering berasal dari vendor tepercaya, yang menawarkan kinerja yang kuat, dukungan kepatuhan, dan opsi hosting sendiri.”
Bosquez mengatakan bahwa proses seleksi model adalah lintas fungsi dan informasi risiko, mengevaluasi tidak hanya kecocokan teknis tetapi juga kebijakan penanganan data, persyaratan integrasi dan skalabilitas jangka panjang.
Melihat TCO, ia mengatakan bahwa itu bervariasi secara signifikan antara model terbuka dan tertutup dan tidak ada pendekatan yang secara universal lebih murah.
“Itu tergantung pada ruang lingkup penyebaran dan kedewasaan organisasi,” kata Bosquez. “Pada akhirnya, kami mengevaluasi TCO tidak hanya pada dolar yang dihabiskan, tetapi pada kecepatan pengiriman, risiko kepatuhan dan kemampuan untuk skala dengan aman.”
Apa artinya ini untuk strategi AI perusahaan
Untuk pembuat keputusan teknologi pintar yang mengevaluasi investasi AI pada tahun 2025, debat terbuka vs tertutup bukan tentang mengambil pihak. Ini tentang membangun pendekatan portofolio strategis yang mengoptimalkan untuk berbagai kasus penggunaan dalam organisasi Anda.
Item tindakan langsung langsung. Pertama, mengaudit beban kerja AI Anda saat ini dan memetakannya terhadap kerangka keputusan yang diuraikan oleh para ahli, mempertimbangkan persyaratan akurasi, kebutuhan latensi, kendala biaya, permintaan keamanan dan kewajiban kepatuhan untuk setiap kasus penggunaan. Kedua, dengan jujur menilai kemampuan teknik organisasi Anda untuk menyempurnakan model, hosting, dan pemeliharaan, karena ini secara langsung memengaruhi total biaya kepemilikan Anda yang sebenarnya.
Ketiga, mulailah bereksperimen dengan platform orkestrasi model yang secara otomatis dapat mengarahkan tugas ke model yang paling tepat, baik terbuka atau tertutup. Ini memposisikan organisasi Anda untuk masa depan agen yang para pemimpin industri, seperti Ey's Guarrera, memprediksi, di mana pemilihan model menjadi tidak terlihat oleh pengguna akhir.
About the Author
