Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut
Agen AI dapat mengotomatiskan banyak tugas yang ingin dilakukan oleh perusahaan. Satu kelemahan, bagaimanapun, adalah bahwa mereka cenderung pelupa. Tanpa memori jangka panjang, agen harus menyelesaikan tugas dalam satu sesi atau terus-menerus dipromosikan kembali.
Jadi, ketika perusahaan terus mengeksplorasi kasus penggunaan untuk agen AI dan bagaimana mengimplementasikannya dengan aman, perusahaan yang memungkinkan pengembangan agen harus mempertimbangkan bagaimana membuatnya kurang pelupa. Memori jangka panjang akan membuat agen jauh lebih berharga dalam alur kerja, dapat mengingat instruksi bahkan untuk tugas-tugas kompleks yang membutuhkan beberapa belokan untuk diselesaikan.
Manvinder Singh, Wakil Presiden Manajemen Produk AI di Redis, mengatakan kepada VentureBeat bahwa memori membuat agen lebih kuat.
“Memori agen sangat penting untuk meningkatkan [agents’] Efisiensi dan kemampuan karena LLMS secara inheren tanpa kewarganegaraan – mereka tidak mengingat hal -hal seperti petunjuk, tanggapan atau sejarah obrolan, ”kata Singh dalam email. “Memori memungkinkan agen AI untuk mengingat interaksi masa lalu, menyimpan informasi dan memelihara konteks untuk memberikan respons yang lebih koheren dan dipersonalisasi, dan otonomi yang lebih berdampak.”
Perusahaan seperti Langchain telah mulai menawarkan opsi untuk memperluas memori agen. Langmem SDK Langchain membantu pengembang membangun agen dengan alat “untuk mengekstrak informasi dari percakapan, mengoptimalkan perilaku agen melalui pembaruan yang cepat, dan mempertahankan memori jangka panjang tentang perilaku, fakta, dan acara.”
Opsi lain termasuk Memobase, alat open-source yang diluncurkan pada bulan Januari untuk memberikan agen “memori pengguna-sentris” sehingga aplikasi ingat dan beradaptasi. Crewai juga memiliki perkakas di sekitar memori agen jangka panjang, sementara Swarm Openai mengharuskan pengguna untuk membawa model memori mereka.
Mike Mason, kepala petugas AI di Tech Consultancy ThinkWorks, mengatakan kepada VentureBeat dalam email bahwa memori agen yang lebih baik mengubah cara perusahaan menggunakan agen.
“Memori mengubah agen AI dari alat sederhana dan reaktif menjadi asisten yang dinamis dan adaptif,” kata Mason. “Tanpanya, agen harus sepenuhnya mengandalkan apa yang disediakan dalam satu sesi, membatasi kemampuan mereka untuk meningkatkan interaksi dari waktu ke waktu.”
Memori yang lebih baik
Memori yang lebih tahan lama pada agen bisa datang dalam rasa yang berbeda.
Langchain bekerja dengan tipe memori yang paling umum: semantik dan prosedural. Semantik mengacu pada fakta, sementara prosedural mengacu pada proses atau bagaimana melakukan tugas. Perusahaan mengatakan agen sudah memiliki memori jangka pendek yang baik dan dapat merespons di utas percakapan saat ini. LangMem menyimpan memori prosedural sebagai instruksi yang diperbarui di prompt. Perbankan pada pekerjaannya pada optimasi yang cepat, LangMem mengidentifikasi pola interaksi dan memperbarui “Prompt sistem untuk memperkuat perilaku yang efektif. Ini menciptakan loop umpan balik di mana instruksi inti agen berkembang berdasarkan kinerja yang diamati. “
Para peneliti yang bekerja pada cara-cara untuk memperluas ingatan model AI dan, akibatnya, agen AI telah menemukan bahwa agen dengan memori jangka panjang dapat belajar dari kesalahan dan meningkatkan. Sebuah makalah dari Oktober 2024 mengeksplorasi konsep evolusi diri AI melalui memori jangka panjang, menunjukkan bahwa model dan agen benar-benar meningkatkan semakin banyak yang mereka ingat. Model dan agen mulai beradaptasi dengan lebih banyak kebutuhan individu karena mereka mengingat lebih banyak instruksi khusus lebih lama.
Dalam makalah lain, para peneliti dari Rutgers University, Grup Ant dan Salesforce memperkenalkan sistem memori baru yang disebut A-MEM, berdasarkan metode pencatatan Zettelkasten. Dalam sistem ini, agen membuat jaringan pengetahuan yang memungkinkan “manajemen memori yang lebih adaptif dan sadar konteks.”
Redis's Singh mengatakan bahwa agen dengan fungsi memori jangka panjang seperti hard drive, “memegang banyak informasi yang berlanjut di berbagai tugas berjalan atau percakapan, membiarkan agen belajar dari umpan balik dan beradaptasi dengan preferensi pengguna.” Ketika agen diintegrasikan ke dalam alur kerja, adaptasi dan pembelajaran mandiri semacam itu memungkinkan organisasi untuk menjaga set agen yang sama bekerja pada tugas yang cukup lama untuk menyelesaikannya tanpa perlu mempromosikan kembali mereka.
Pertimbangan Memori
Tetapi tidak cukup untuk membuat agen lebih mengingat; Singh mengatakan organisasi juga harus membuat keputusan tentang apa yang perlu dilupakan oleh agen.
“Ada empat keputusan tingkat tinggi yang harus Anda buat saat Anda merancang arsitektur manajemen memori: jenis kenangan apa yang Anda simpan? Bagaimana Anda menyimpan dan memperbarui kenangan? Bagaimana Anda mengambil kenangan yang relevan? Bagaimana Anda membusuk kenangan? ” Singh berkata.
Dia menekankan bahwa perusahaan harus menjawab pertanyaan -pertanyaan itu karena memastikan “sistem agen mempertahankan kecepatan, skalabilitas, dan fleksibilitas adalah kunci untuk menciptakan pengalaman pengguna yang cepat, efisien, dan akurat.”
Langchain juga mengatakan organisasi harus jelas tentang perilaku mana yang ditetapkan manusia dan mana yang harus dipelajari melalui ingatan; Jenis agen pengetahuan apa yang harus terus dilacak; dan apa yang memicu ingatan memori.
“Di Langchain, kami merasa berguna terlebih dahulu untuk mengidentifikasi kemampuan agen Anda untuk dapat belajar, memetakan ini ke jenis atau pendekatan memori tertentu, dan hanya kemudian mengimplementasikannya di agen Anda,” kata perusahaan itu dalam posting blog.
Penelitian terbaru dan penawaran baru ini mewakili awal dari pengembangan peralatan untuk memberi agen memori yang lebih tahan lama. Dan ketika perusahaan berencana untuk menggunakan agen pada skala yang lebih besar, memori menghadirkan peluang bagi perusahaan untuk membedakan produk mereka.
