Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut
Thomas Wolf, salah satu pendiri perusahaan AI Hugging Face, telah mengeluarkan tantangan nyata terhadap visi industri teknologi yang paling optimis tentang kecerdasan buatan, dengan alasan bahwa sistem AI saat ini pada dasarnya tidak mampu memberikan revolusi ilmiah yang dijanjikan oleh pencipta mereka.
Dalam posting blog provokatif yang diterbitkan di situs web pribadinya pagi ini, Wolf secara langsung menghadapi visi yang beredar luas tentang CEO antropik Dario Amodei, yang meramalkan bahwa AI canggih akan memberikan “abad ke -21 terkompresi” di mana kemajuan ilmiah selama beberapa dekade dapat terungkap hanya dalam beberapa tahun.
“Saya khawatir AI tidak akan memberi kita 'abad ke-21 terkompresi,'” tulis Wolf di posnya, dengan alasan bahwa sistem AI saat ini lebih cenderung menghasilkan “negara dari Yes-Men pada server” daripada “negara jenius” yang dibayangkan Amodei.
Pertukaran ini menyoroti kesenjangan yang berkembang dalam bagaimana para pemimpin AI berpikir tentang potensi teknologi untuk mengubah penemuan ilmiah dan pemecahan masalah, dengan implikasi besar untuk strategi bisnis, prioritas penelitian dan keputusan kebijakan.
Dari siswa lurus ke 'peneliti biasa-biasa saja': mengapa keunggulan akademik tidak sama dengan jenius ilmiah
Serigala menempatkan kritiknya dalam pengalaman pribadi. Meskipun menjadi siswa yang lurus-A yang menghadiri MIT, ia menggambarkan menemukan bahwa ia adalah “peneliti yang rata-rata, underwhelming, dan biasa-biasa saja” ketika ia memulai pekerjaan PhD-nya. Pengalaman ini membentuk pandangannya bahwa keberhasilan akademis dan kejeniusan ilmiah membutuhkan pendekatan mental yang berbeda secara fundamental – yang sebelumnya menguntungkan kesesuaian, yang terakhir menuntut pemberontakan terhadap pemikiran yang mapan.
“Kesalahan utama yang biasanya dilakukan orang adalah berpikir bahwa Newton atau Einstein hanyalah ditingkatkan siswa yang baik,” Wolf menjelaskan. “Terobosan sains yang nyata adalah yang diusulkan Copernicus, terhadap semua pengetahuan tentang hari -harinya – dalam istilah ML kita akan mengatakan 'terlepas dari semua dataset pelatihannya' – bahwa Bumi dapat mengorbit matahari daripada sebaliknya.”
Visi Amodei, yang diterbitkan Oktober lalu dalam esai “Mesin Loving Grace” -nya, menyajikan perspektif yang sangat berbeda. Dia menggambarkan masa depan di mana AI, yang beroperasi pada “kecepatan manusia 10x-100x” dan dengan kecerdasan melebihi pemenang Hadiah Nobel, dapat memberikan kemajuan selama satu abad dalam biologi, ilmu saraf dan bidang lainnya dalam lima hingga 10 tahun.
Amodei membayangkan “pencegahan dan pengobatan yang dapat diandalkan dari hampir semua penyakit menular alami,” “Penghapusan sebagian besar kanker,” obat yang efektif untuk penyakit genetik, dan berpotensi menggandakan umur manusia, semuanya dipercepat oleh AI. “Saya pikir pengembalian ke kecerdasan tinggi untuk penemuan ini, dan bahwa segala sesuatu dalam biologi dan kedokteran sebagian besar mengikuti dari mereka,” tulisnya.
Apakah kita menguji AI untuk kesesuaian alih -alih kreativitas? Masalah benchmark menahan penemuan ilmiah
Ketegangan mendasar dalam kritik Wolf ini mengungkapkan kenyataan yang sering diabaikan dalam pengembangan AI: tolok ukur kami terutama dirancang untuk mengukur pemikiran konvergen daripada pemikiran yang berbeda. Sistem AI saat ini unggul dalam menghasilkan jawaban yang selaras dengan konsensus pengetahuan yang ada, tetapi berjuang dengan jenis wawasan yang menantang paradigma yang mendorong revolusi ilmiah.
Industri ini telah banyak berinvestasi dalam mengukur seberapa baik sistem AI dapat menjawab pertanyaan dengan jawaban yang sudah ada, memecahkan masalah dengan solusi yang diketahui, dan sesuai dengan kerangka pemahaman yang ada. Ini menciptakan bias sistemik terhadap sistem yang sesuai daripada menantang.
Wolf secara khusus mengkritik tolok ukur evaluasi AI saat ini seperti “ujian terakhir umat manusia” dan “matematika perbatasan,” yang menguji sistem AI pada pertanyaan sulit dengan jawaban yang diketahui daripada kemampuan mereka untuk menghasilkan hipotesis inovatif atau menantang paradigma yang ada.
“Tes ini menguji jika model AI dapat menemukan jawaban yang tepat untuk serangkaian pertanyaan yang sudah kita ketahui jawabannya,” tulis Wolf. “Namun, terobosan ilmiah yang nyata tidak akan datang dari menjawab pertanyaan yang diketahui, tetapi dari mengajukan pertanyaan baru yang menantang dan mempertanyakan konsepsi umum dan ide -ide sebelumnya.”
Kritik ini menunjuk pada masalah yang lebih dalam tentang bagaimana kita mengkonseptualisasikan kecerdasan buatan. Fokus saat ini pada jumlah parameter, volume data pelatihan, dan kinerja benchmark mungkin menciptakan AI yang setara dengan siswa yang sangat baik daripada pemikir revolusioner.
Miliaran yang Diadakan: Bagaimana Debat 'Siswa yang Taat vs Revolusioner' akan membentuk strategi investasi AI
Kesenjangan intelektual ini memiliki implikasi substansial untuk industri AI dan ekosistem bisnis yang lebih luas.
Perusahaan yang selaras dengan visi Amodei dapat memprioritaskan penskalaan sistem AI ke ukuran yang belum pernah terjadi sebelumnya, mengharapkan inovasi terputus -putus untuk muncul dari peningkatan kekuatan komputasi dan integrasi pengetahuan yang lebih luas. Pendekatan ini menopang strategi perusahaan seperti Anthropic, Openai dan Laboratorium AI Perbatasan lainnya yang secara kolektif telah mengumpulkan puluhan miliar dolar dalam beberapa tahun terakhir.
Sebaliknya, perspektif Wolf menunjukkan bahwa pengembalian yang lebih besar mungkin berasal dari pengembangan sistem AI yang dirancang khusus untuk menantang pengetahuan yang ada, mengeksplorasi kontrafaktual dan menghasilkan hipotesis baru – kemampuan yang tidak harus muncul dari metodologi pelatihan saat ini.
“Kami sedang membangun siswa yang sangat patuh, bukan revolusioner,” Wolf menjelaskan. “Ini sempurna untuk tujuan utama hari ini di bidang menciptakan asisten hebat dan pembantu yang terlalu patuh. Tetapi sampai kita menemukan cara untuk memberi insentif kepada mereka untuk mempertanyakan pengetahuan mereka dan mengusulkan ide -ide yang berpotensi bertentangan dengan data pelatihan masa lalu, mereka belum akan memberi kita revolusi ilmiah. ”
Bagi para pemimpin perusahaan yang bertaruh pada AI untuk mendorong inovasi, debat ini menimbulkan pertanyaan strategis penting. Jika Wolf benar, organisasi yang berinvestasi dalam sistem AI saat ini dengan harapan terobosan ilmiah revolusioner mungkin perlu mengurangi harapan mereka. Nilai sebenarnya mungkin dalam peningkatan yang lebih bertahap untuk proses yang ada, atau dalam menyebarkan pendekatan kolaboratif manusia-AI di mana manusia memberikan intuisi yang menantang paradigma sementara sistem AI menangani pengangkatan berat komputasi.
Pertanyaan $ 184 miliar: Apakah AI siap memenuhi janji ilmiahnya?
Pertukaran ini datang pada saat yang sangat penting dalam evolusi industri AI. Setelah bertahun -tahun pertumbuhan eksplosif dalam kemampuan dan investasi AI, pemangku kepentingan publik maupun swasta semakin fokus pada pengembalian praktis dari teknologi ini.
Data terbaru dari perusahaan analisis modal ventura Pitchbook menunjukkan pendanaan AI mencapai $ 130 miliar secara global pada tahun 2024, dengan aplikasi perawatan kesehatan dan penemuan ilmiah yang menarik minat khusus. Namun pertanyaan tentang terobosan ilmiah yang berwujud dari investasi ini telah tumbuh lebih mendesak.
Debat Wolf-Amodei mewakili kesenjangan filosofis yang lebih dalam dalam pengembangan AI yang telah mendidih di bawah permukaan diskusi industri. Di satu sisi berdiri para optimis penskalaan, yang percaya bahwa peningkatan berkelanjutan dalam ukuran model, volume data dan teknik pelatihan pada akhirnya akan menghasilkan sistem yang mampu melakukan wawasan revolusioner. Di sisi lain adalah skeptis arsitektur, yang berpendapat bahwa keterbatasan mendasar dalam bagaimana sistem saat ini dirancang dapat mencegah mereka membuat jenis lompatan kognitif yang menjadi ciri revolusi ilmiah.
Apa yang membuat perdebatan ini sangat signifikan adalah bahwa hal itu terjadi antara dua pemimpin yang dihormati yang keduanya berada di garis depan pengembangan AI. Tidak ada yang bisa diabaikan hanya sebagai tidak mendapat informasi atau resisten terhadap kemajuan teknologi.
Beyond Scaling: Bagaimana AI besok mungkin perlu berpikir lebih seperti pemberontak ilmiah
Ketegangan antara perspektif ini menunjukkan potensi evolusi dalam bagaimana sistem AI dirancang dan dievaluasi. Kritik Wolf tidak menyarankan meninggalkan pendekatan saat ini, tetapi lebih menambah mereka dengan teknik dan metrik baru yang secara khusus bertujuan untuk mendorong pemikiran pelawan.
Dalam postingnya, Wolf menyarankan bahwa tolok ukur baru harus dikembangkan untuk menguji apakah model AI ilmiah dapat “menantang pengetahuan data pelatihan mereka sendiri” dan “mengambil pendekatan kontrafaktual yang berani.” Ini merupakan panggilan bukan untuk investasi AI yang lebih sedikit, tetapi untuk investasi yang lebih bijaksana yang mempertimbangkan spektrum penuh kemampuan kognitif yang diperlukan untuk kemajuan ilmiah.
Pandangan yang bernuansa ini mengakui potensi AI yang luar biasa sambil mengakui bahwa sistem saat ini dapat unggul pada jenis kecerdasan tertentu sambil berjuang dengan orang lain. Jalur ke depan kemungkinan melibatkan pengembangan pendekatan pelengkap yang memanfaatkan kekuatan sistem saat ini sambil menemukan cara untuk mengatasi keterbatasan mereka.
Untuk bisnis dan lembaga penelitian yang menavigasi strategi AI, implikasinya substansial. Organisasi mungkin perlu mengembangkan kerangka kerja evaluasi yang menilai tidak hanya seberapa baik sistem AI menjawab pertanyaan yang ada, tetapi seberapa efektif mereka menghasilkan yang baru. Mereka mungkin perlu merancang model kolaborasi manusia-AI yang memasangkan kemampuan pencocokan pola dan komputasi AI dengan intuisi para ahli manusia yang menantang paradigma.
Menemukan Jalan Tengah: Bagaimana AI Dapat Menggabungkan Kekuatan Komputasi dengan Pemikiran Revolusioner
Mungkin hasil yang paling berharga dari pertukaran ini adalah bahwa ia mendorong industri menuju pemahaman yang lebih seimbang tentang potensi AI dan keterbatasannya. Visi Amodei menawarkan pengingat yang meyakinkan tentang dampak transformatif yang dapat dimiliki AI di berbagai domain secara bersamaan. Kritik Wolf memberikan penyeimbang yang diperlukan, menyoroti jenis -jenis spesifik kemampuan kognitif yang diperlukan untuk kemajuan yang benar -benar revolusioner.
Ketika industri bergerak maju, ketegangan antara optimisme dan skeptisisme ini, antara meningkatkan pendekatan yang ada dan mengembangkan yang baru, kemungkinan akan mendorong gelombang inovasi berikutnya dalam pengembangan AI. Dengan memahami kedua perspektif, organisasi dapat mengembangkan strategi yang lebih bernuansa yang memaksimalkan potensi sistem saat ini sementara juga berinvestasi dalam pendekatan yang mengatasi keterbatasan mereka.
Untuk saat ini, pertanyaannya bukanlah apakah Wolf atau Amodei benar, melainkan bagaimana visi mereka yang kontras dapat menginformasikan pendekatan yang lebih komprehensif untuk mengembangkan kecerdasan buatan yang tidak hanya unggul dalam menjawab pertanyaan yang sudah kami miliki, tetapi membantu kami menemukan pertanyaan yang belum kami ajukan.
