Bergabunglah dengan acara yang dipercaya oleh para pemimpin perusahaan selama hampir dua dekade. VB Transform menyatukan orang -orang yang membangun strategi AI perusahaan nyata. Pelajari lebih lanjut
Di VentureBeat's Transform 2025 Conference, Olivier Godement, kepala produk untuk platform API Openai, memberikan pandangan di belakang layar bagaimana tim perusahaan mengadopsi dan menggunakan agen AI pada skala.
Dalam diskusi panel 20 menit, saya menjadi tuan rumah secara eksklusif dengan tuhan, mantan peneliti Stripe dan bos Openai API saat ini membongkar alat pengembang terbaru Openai-respons API dan agen SDK-sambil menyoroti pola dunia nyata, pertimbangan keamanan, dan contoh pengembalian biaya dari pengadopsi awal seperti stripe dan kotak.
Untuk pemimpin perusahaan yang tidak dapat menghadiri sesi langsung, berikut adalah 8 takeaways terpenting:
Agen dengan cepat bergerak dari prototipe ke produksi
Menurut Godement, 2025 menandai perubahan nyata dalam bagaimana AI digunakan dalam skala. Dengan lebih dari satu juta pengembang aktif bulanan sekarang menggunakan platform API Openai secara global, dan penggunaan token naik 700% dari tahun ke tahun, AI bergerak melampaui eksperimen.
“Sudah lima tahun sejak kami meluncurkan GPT-3 … dan man, lima tahun terakhir telah sangat liar.”
Godement menekankan bahwa permintaan saat ini bukan hanya tentang chatbots lagi. “Kasing penggunaan AI bergerak dari tanya jawab sederhana untuk benar -benar menggunakan kasus di mana aplikasi, agen, dapat melakukan hal -hal untuk Anda.”
Pergeseran ini mendorong OpenAi untuk meluncurkan dua alat yang menghadapi pengembang besar di bulan Maret: The Responses API dan Agen SDK.
Kapan menggunakan agen tunggal vs arsitektur sub-agen
Tema utama adalah pilihan arsitektur. Godement mencatat bahwa loop agen tunggal, yang merangkum akses alat dan konteks penuh dalam satu model, secara konseptual elegan tetapi sering tidak praktis dalam skala.
“Membangun agen tunggal yang akurat dan andal itu sulit. Seperti, ini sangat sulit.”
Ketika kompleksitas meningkat-lebih banyak alat, input pengguna yang lebih mungkin, lebih banyak logika-tim sering bergerak menuju arsitektur modular dengan sub-agen khusus.
“Praktik yang telah muncul adalah untuk memecah agen menjadi beberapa sub-agen … Anda akan melakukan pemisahan kekhawatiran seperti dalam perangkat lunak.”
Sub-agen ini berfungsi seperti peran dalam tim kecil: agen triase mengklasifikasikan niat, agen tingkat satu menangani masalah rutin, dan yang lain meningkatkan atau menyelesaikan kasus tepi.
Mengapa Responses API adalah perubahan langkah
Godement memposisikan respons API sebagai evolusi dasar dalam alat pengembang. Sebelumnya, pengembang secara manual mengatur urutan panggilan model. Sekarang, orkestrasi itu ditangani secara internal.
“Responses API mungkin merupakan lapisan baru abstraksi terbesar yang kami perkenalkan karena cukup banyak GPT-3.”
Ini memungkinkan pengembang untuk mengekspresikan niat, tidak hanya mengkonfigurasi aliran model. “Anda peduli untuk mengembalikan tanggapan yang sangat baik kepada pelanggan … API respons pada dasarnya menangani loop itu.”
Ini juga mencakup kemampuan bawaan untuk pengambilan pengetahuan, pencarian web, dan panggilan fungsi-memberi tahu yang dibutuhkan perusahaan untuk alur kerja agen dunia nyata.
Observabilitas dan keamanan dibangun
Keamanan dan kepatuhan adalah yang terbaik. Godement mengutip pagar pembatas yang membuat tumpukan Openai layak untuk sektor yang diatur seperti keuangan dan perawatan kesehatan:
- Penolakan berbasis kebijakan
- SOC-2 LOGGING
- Dukungan Residensi Data
Evaluasi adalah tempat Tuhan melihat kesenjangan terbesar antara demo dan produksi.
“Pengambilan panas saya adalah bahwa evaluasi model mungkin merupakan hambatan terbesar untuk adopsi AI besar -besaran.”
Openai sekarang termasuk alat penelusuran dan evaluasi dengan tumpukan API untuk membantu tim menentukan seperti apa kesuksesan itu dan melacak bagaimana kinerja agen dari waktu ke waktu.
“Kecuali jika Anda berinvestasi dalam evaluasi … sangat sulit untuk membangun kepercayaan itu, keyakinan bahwa model itu akurat, dapat diandalkan.”
ROI awal terlihat dalam fungsi tertentu
Beberapa kasus penggunaan perusahaan sudah memberikan keuntungan yang terukur. Godement berbagi contoh dari:
- Garisyang menggunakan agen untuk mempercepat penanganan faktur, pelaporan “35% Resolusi Faktur Lebih Cepat”
- Kotakyang meluncurkan asisten pengetahuan yang memungkinkan “Triage Tiket Nol-Touch”
Kasus penggunaan bernilai tinggi lainnya termasuk dukungan pelanggan (termasuk suara), tata kelola internal, dan asisten pengetahuan untuk menavigasi dokumentasi padat.
Apa yang diperlukan untuk diluncurkan dalam produksi
Godement menekankan faktor manusia dalam penyebaran yang sukses.
“Ada sebagian kecil dari orang-orang kelas atas yang, setiap kali mereka melihat masalah dan melihat teknologi, mereka menjalankannya.”
Juara internal ini tidak selalu berasal dari teknik. Yang menyatukan mereka adalah kegigihan.
“Reaksi pertama mereka adalah, oke, bagaimana saya bisa membuatnya bekerja?”
Openai melihat banyak penyebaran awal yang didorong oleh grup ini – orang -orang yang mendorong penggunaan chatgpt awal di perusahaan dan sekarang bereksperimen dengan sistem agen penuh.
Dia juga menunjukkan kesenjangan yang banyak diabaikan: keahlian domain. “Pengetahuan di perusahaan … tidak terletak pada insinyur. Itu terletak pada tim OPS.”
Membuat alat pembangunan agen yang dapat diakses oleh non-pengembang adalah tantangan yang ingin ditangani Openai.
Apa selanjutnya untuk agen perusahaan
Godement menawarkan sekilas ke peta jalan. Openai sedang bekerja secara aktif:
- Agen multimodal yang dapat berinteraksi melalui teks, suara, gambar, dan data terstruktur
- Memori jangka panjang untuk mempertahankan pengetahuan lintas sesi
- Orkestrasi Cross-Cloud untuk mendukung lingkungan TI yang kompleks dan terdistribusi
Ini bukan perubahan radikal, tetapi lapisan berulang yang memperluas apa yang sudah mungkin terjadi. “Begitu kita memiliki model yang dapat berpikir tidak hanya selama beberapa detik tetapi juga selama beberapa menit, selama berjam-jam … itu akan memungkinkan beberapa kasus penggunaan yang menakjubkan.”
Kata terakhir: Model penalaran tidak dikerjakan
Godement menutup sesi dengan menegaskan kembali keyakinannya bahwa model yang mampu bernalar-mereka yang dapat mencerminkan sebelum merespons-akan menjadi pendukung sebenarnya dari transformasi jangka panjang.
“Saya masih memiliki keyakinan bahwa kami cukup banyak di tingkat kematangan GPT-2 atau GPT-3 dari model-model itu …. kami masih menggaruk permukaan pada apa yang dapat dilakukan oleh model penalaran.”
Untuk pembuat keputusan perusahaan, pesannya jelas: infrastruktur untuk otomatisasi agen ada di sini. Yang penting sekarang adalah membangun kasus penggunaan yang terfokus, memberdayakan tim lintas fungsi, dan siap untuk mengulangi. Fase selanjutnya dari penciptaan nilai tidak terletak pada demo baru-tetapi dalam sistem yang tahan lama, dibentuk oleh kebutuhan dunia nyata dan disiplin operasional untuk membuatnya dapat diandalkan.
About the Author
