Bergabunglah dengan acara yang dipercaya oleh para pemimpin perusahaan selama hampir dua dekade. VB Transform menyatukan orang -orang yang membangun strategi AI perusahaan nyata. Pelajari lebih lanjut
Catatan Editor: Emilia akan memimpin Roundtable Editorial tentang topik ini di VB Transform minggu depan. Daftar hari ini.
Agen AI tampak seperti tak terhindarkan akhir -akhir ini. Sebagian besar perusahaan sudah menggunakan aplikasi AI dan mungkin telah digunakan setidaknya satu sistem agen tunggal, dengan rencana untuk mengujicobakan alur kerja dengan banyak agen.
Mengelola semua sprawl itu, terutama ketika mencoba membangun interoperabilitas dalam jangka panjang, bisa menjadi luar biasa. Mencapai masa depan agen itu berarti menciptakan kerangka kerja orkestrasi yang dapat diterapkan yang mengarahkan berbagai agen.
Permintaan untuk aplikasi AI dan orkestrasi telah memunculkan medan pertempuran yang muncul, dengan perusahaan yang berfokus pada penyediaan kerangka kerja dan alat yang mendapatkan pelanggan. Sekarang, perusahaan dapat memilih antara penyedia kerangka kerja orkestrasi seperti Langchain, Llamaindex, AI Crew, Microsoft's Autogen dan Openai's Swarm.
Perusahaan juga perlu mempertimbangkan jenis kerangka kerja orkestrasi yang ingin mereka terapkan. Mereka dapat memilih antara kerangka kerja berbasis prompt, mesin alur kerja yang berorientasi agen, pengambilan dan kerangka kerja yang diindeks, atau bahkan orkestrasi ujung ke ujung.
Karena banyak organisasi baru mulai bereksperimen dengan beberapa sistem agen AI atau ingin membangun ekosistem AI yang lebih besar, kriteria spesifik berada di puncak pikiran mereka ketika memilih kerangka kerja orkestrasi yang paling sesuai dengan kebutuhan mereka.
Kumpulan opsi yang lebih besar dalam orkestrasi ini mendorong ruang lebih jauh, mendorong perusahaan untuk mengeksplorasi semua pilihan potensial untuk mengatur sistem AI mereka alih -alih memaksa mereka untuk masuk ke dalam sesuatu yang lain. Meskipun terasa luar biasa, ada cara bagi organisasi untuk melihat praktik terbaik dalam memilih kerangka kerja orkestrasi dan mencari tahu apa yang bekerja dengan baik untuk mereka.
Platform Orkestrasi ORQ mencatat dalam posting blog bahwa sistem manajemen AI mencakup empat komponen utama: manajemen cepat untuk interaksi model yang konsisten, alat integrasi, manajemen negara dan alat pemantauan untuk melacak kinerja.
Praktik terbaik untuk dipertimbangkan
Untuk perusahaan yang berencana memulai perjalanan orkestrasi mereka atau meningkatkan yang mereka saat ini, beberapa ahli dari perusahaan seperti Teneo dan ORQ mencatat setidaknya lima praktik terbaik untuk memulai.
- Tentukan Tujuan Bisnis Anda
- Pilih Alat dan Model Bahasa Besar (LLM) yang selaras dengan tujuan Anda
- Letakkan apa yang Anda butuhkan dari lapisan orkestrasi dan memprioritaskan ini, yaitu, integrasi, desain alur kerja, pemantauan dan pengamatan, skalabilitas, keamanan dan kepatuhan
- Ketahui sistem Anda yang ada dan bagaimana mengintegrasikannya ke dalam lapisan baru
- Pahami pipa data Anda
Seperti halnya proyek AI apa pun, organisasi harus mengambil isyarat dari kebutuhan bisnis mereka. Apa yang mereka butuhkan aplikasi atau agen AI, dan bagaimana ini direncanakan untuk mendukung pekerjaan mereka? Dimulai dengan langkah kunci ini akan membantu menginformasikan kebutuhan orkestrasi mereka dengan lebih baik dan jenis alat yang mereka butuhkan.
Teneo mengatakan dalam posting blog bahwa begitu jelas, tim harus tahu apa yang mereka butuhkan dari sistem orkestrasi mereka dan memastikan ini adalah fitur pertama yang mereka cari. Beberapa perusahaan mungkin ingin lebih fokus pada pemantauan dan pengamatan, daripada desain alur kerja. Secara umum, sebagian besar kerangka kerja orkestrasi menawarkan berbagai fitur, dan komponen seperti integrasi, alur kerja, pemantauan, skalabilitas, dan keamanan seringkali merupakan prioritas utama bagi bisnis. Memahami apa yang paling penting bagi organisasi akan lebih baik memandu bagaimana mereka ingin membangun lapisan orkestrasi mereka.
Dalam sebuah posting blog, Langchain menyatakan bahwa bisnis harus mengetahui informasi atau pekerjaan apa yang diteruskan ke model.
“Saat menggunakan kerangka kerja, Anda perlu memiliki kendali penuh atas apa yang diteruskan ke LLM, dan kontrol penuh atas langkah-langkah apa yang dijalankan dan dalam urutan apa (untuk menghasilkan konteks yang diteruskan ke LLM). Kami memprioritaskan hal ini dengan langgraph, yang merupakan perusahaan yang sesuai.
Karena sebagian besar perusahaan berencana untuk menambahkan agen AI ke dalam alur kerja yang ada, praktik terbaik untuk mengetahui sistem mana yang perlu menjadi bagian dari tumpukan orkestrasi dan menemukan platform yang terintegrasi terbaik.
Seperti biasa, perusahaan perlu mengetahui pipa data mereka sehingga mereka dapat membandingkan kinerja agen yang mereka pantau.
About the Author
