Antara Utopia dan Runtuh: Menavigasi Masa Depan Pertengahan Murky AI

Di posting blog Singularitas yang lembutCEO OpenAI Sam Altman melukis visi tentang waktu dekat di mana AI dengan tenang dan baik hati mengubah kehidupan manusia. Tidak akan ada istirahat yang tajam, dia menyarankan, hanya pendakian yang mantap, hampir tidak terlihat terhadap kelimpahan. Kecerdasan akan menjadi dapat diakses seperti listrik. Robot akan melakukan tugas-tugas dunia nyata yang berguna pada tahun 2027. Penemuan ilmiah akan meningkat. Dan, kemanusiaan, jika dipandu dengan benar oleh tata kelola yang cermat dan niat baik, akan berkembang.

Ini adalah visi yang menarik: tenang, teknokratis dan diliputi dengan optimisme. Tapi itu juga menimbulkan pertanyaan yang lebih dalam. Dunia macam apa yang harus kita lewati untuk sampai ke sana? Siapa yang menguntungkan dan kapan? Dan apa yang tidak terucapkan dalam busur kemajuan yang halus ini?

Penulis fiksi ilmiah William Gibson menawarkan skenario yang lebih gelap. Dalam novelnya Periferalteknologi yang berkilauan di masa depan didahului oleh sesuatu yang disebut “jackpot”-kaskade gerak lambat dari bencana iklim, pandemi, keruntuhan ekonomi dan kematian massal. Kemajuan teknologi, tetapi hanya setelah patah masyarakat. Pertanyaan yang dia ajukan bukanlah apakah terjadi kemajuan, tetapi apakah peradaban berkembang dalam prosesnya.

Ada argumen bahwa AI dapat membantu mencegah jenis bencana yang dibayangkan Periferal. Namun, apakah AI akan membantu kita menghindari bencana atau hanya menemani kita melalui mereka tetap tidak pasti. Kepercayaan pada kekuatan masa depan AI bukanlah jaminan kinerja, dan kemampuan teknologi yang memajukan bukanlah takdir.

Antara singularitas Altman yang lembut dan jackpot Gibson terletak jalan tengah yang lebih suram: masa depan di mana AI menghasilkan keuntungan nyata, tetapi juga dislokasi nyata. Masa depan di mana beberapa komunitas berkembang sementara yang lain berjumbai, dan di mana kemampuan kita untuk beradaptasi secara kolektif – tidak hanya secara individu atau kelembagaan – menjadi variabel yang menentukan.

Tengah keruh

Visi lain membantu membuat sketsa kontur medan tengah ini. Di film thriller yang dekat Terbakarmasyarakat dibanjiri otomatisasi sebelum lembaganya siap. Pekerjaan menghilang lebih cepat daripada orang yang dapat berketerampilan kembali, memicu kerusuhan dan penindasan. Dalam hal ini, seorang pengacara yang sukses kehilangan posisinya untuk agen AI, dan dia dengan senang hati menjadi petugas online, panggilan orang kaya.

Para peneliti di AI Lab Anthropic baru -baru ini menggemakan tema ini: “Kita harus berharap untuk melihat [white collar jobs] otomatis dalam lima tahun ke depan. ” Meskipun penyebabnya rumit, ada tanda -tanda ini dimulai dan bahwa pasar kerja memasuki fase struktural baru yang kurang stabil, kurang dapat diprediksi dan mungkin kurang penting pada bagaimana masyarakat mendistribusikan makna dan keamanan.

Filmnya Elysium Menawarkan metafora tumpul tentang orang kaya yang melarikan diri ke tempat perlindungan orbital dengan teknologi canggih, sementara bumi yang terdegradasi di bawah berjuang dengan hak dan akses yang tidak setara. Beberapa tahun yang lalu, seorang mitra di sebuah perusahaan modal ventura Silicon Valley mengatakan kepada saya bahwa dia khawatir kami sedang menuju skenario semacam ini kecuali kami secara adil mendistribusikan manfaat yang dihasilkan oleh AI. Dunia spekulatif ini mengingatkan kita bahwa bahkan teknologi yang menguntungkan dapat berubah secara sosial, terutama ketika keuntungan mereka didistribusikan secara tidak merata.

Kita mungkin, pada akhirnya, mencapai sesuatu seperti visi Altman tentang kelimpahan. Tapi rute di sana tidak mungkin halus. Untuk semua kefasihan dan jaminan yang tenang, esainya juga merupakan semacam nada, sebanyak persuasi seperti prediksi. Narasi “singularitas lembut” itu menghibur, bahkan memikat, justru karena itu melewati gesekan. Ini menawarkan manfaat transformasi yang belum pernah terjadi sebelumnya tanpa sepenuhnya bergulat dengan pergolakan yang biasanya dibawa oleh transformasi seperti itu. Seperti yang diingatkan oleh klise abadi kita: Jika kedengarannya terlalu bagus untuk menjadi kenyataan, mungkin itu.

Ini bukan untuk mengatakan bahwa niatnya tidak jujur. Memang, mungkin tulus. Argumen saya hanyalah pengakuan bahwa dunia adalah sistem yang kompleks, terbuka untuk input tanpa batas yang dapat memiliki konsekuensi yang tidak dapat diprediksi. Dari keberuntungan sinergis hingga acara angsa hitam yang berbahaya, jarang satu hal, atau satu teknologi, yang menentukan jalannya acara di masa depan.

Dampak AI pada masyarakat sudah berlangsung. Ini bukan hanya pergeseran keterampilan dan sektor; Ini adalah transformasi dalam cara kita mengatur nilai, kepercayaan, dan kepemilikan. Ini adalah ranah migrasi kolektif: tidak hanya pergerakan persalinan, tetapi juga tujuan.

Ketika AI mengkonfigurasi ulang medan kognisi, jalinan dunia sosial kita diam -diam ditarik longgar dan di -ulang, baik atau buruk. Pertanyaannya bukan hanya seberapa cepat kita bergerak sebagai masyarakat, tetapi seberapa serius kita bermigrasi.

The Cognitive Commons: Medan pemahaman bersama kami

Secara historis, Commons merujuk pada sumber daya fisik bersama termasuk padang rumput, perikanan dan perkiraan yang dipercaya untuk kebaikan kolektif. Masyarakat modern, bagaimanapun, juga bergantung pada kognitif bersama: domain pengetahuan, narasi, norma, dan institusi bersama yang memungkinkan beragam individu untuk berpikir, membantah, dan memutuskan bersama dalam konflik minimal.

Infrastruktur tidak berwujud ini terdiri dari pendidikan publik, jurnalisme, perpustakaan, ritual sipil dan bahkan fakta yang dapat dipercaya secara luas, dan itulah yang memungkinkan pluralisme. Begitulah cara orang asing disengaja, bagaimana komunitas berputar dan bagaimana fungsi demokrasi. Ketika sistem AI mulai memediasi bagaimana pengetahuan diakses dan keyakinan dibentuk, medan bersama ini berisiko menjadi retak. Bahayanya bukan sekadar informasi yang salah, tetapi erosi yang lambat dari dasar yang menjadi dasar makna yang dibagikan.

Jika migrasi kognitif adalah sebuah perjalanan, itu bukan hanya menuju keterampilan atau peran baru tetapi juga menuju bentuk -bentuk baru dari pembuatan sensem kolektif. Tapi apa yang terjadi ketika medan yang kita bagikan mulai terpisah di bawah kita?

Ketika fragmen kognisi: AI dan erosi dunia bersama

Selama berabad -abad, masyarakat telah mengandalkan realitas bersama yang dipegang secara longgar: kumpulan fakta, narasi, dan institusi bersama yang membentuk bagaimana orang memahami dunia dan satu sama lain. Dunia bersama ini – bukan hanya infrastruktur atau ekonomi – yang memungkinkan pluralisme, demokrasi, dan kepercayaan sosial. Tetapi karena sistem AI semakin memediasi bagaimana orang mengakses pengetahuan, membangun keyakinan dan menavigasi kehidupan sehari -hari, landasan bersama itu adalah fragmen.

Sudah, personalisasi skala besar mengubah lanskap informasi. Umpan berita yang dikuratori AI, hasil pencarian yang disesuaikan, dan algoritma rekomendasi secara halus memecah ruang publik. Dua orang yang menanyakan pertanyaan yang sama tentang chatbot yang sama dapat menerima jawaban yang berbeda, sebagian karena sifat probabilistik AI generatif, tetapi juga karena interaksi sebelumnya atau preferensi yang disimpulkan. Sementara personalisasi telah lama menjadi fitur era digital, AI turbocharges jangkauan dan kehalusannya. Hasilnya bukan hanya gelembung filter, itu adalah penyimpangan epistemik – pembentukan kembali pengetahuan dan berpotensi kebenaran.

Sejarawan Yuval Noah Harari telah menyuarakan kekhawatiran mendesak tentang perubahan ini. Dalam pandangannya, ancaman terbesar AI tidak terletak pada bahaya fisik atau perpindahan pekerjaan, tetapi dalam penangkapan emosional. AI Systems, ia telah memperingatkan, menjadi semakin mahir dalam mensimulasikan empati, meniru kepedulian dan menyesuaikan narasi dengan psikologi individu – memberi mereka kekuatan yang belum pernah terjadi sebelumnya untuk membentuk cara orang berpikir, merasakan dan menetapkan nilai. Bahayanya sangat besar dalam pandangan Harari, bukan karena AI akan berbohong, tetapi karena akan terhubung dengan sangat meyakinkan saat melakukannya. Ini tidak menjadi pertanda baik untuk Singularitas yang lembut.

Dalam dunia yang dimediasi AI, realitas itu sendiri berisiko menjadi lebih individual, lebih modular dan kurang dinegosiasikan secara kolektif. Itu mungkin bisa ditoleransi – atau bahkan berguna – untuk produk konsumen atau hiburan. Tetapi ketika diperluas ke kehidupan sipil, itu menimbulkan risiko yang lebih dalam. Bisakah kita tetap memiliki wacana demokratis jika setiap warga negara mendiami peta kognitif yang berbeda? Bisakah kita tetap memerintah dengan bijak ketika pengetahuan kelembagaan semakin di -outsourcing ke mesin yang data pelatihan, permintaan sistem, dan proses penalaran tetap buram?

Ada tantangan lain juga. Konten yang dihasilkan AI termasuk teks, audio dan video akan segera tidak dapat dibedakan dari output manusia. Ketika model generatif menjadi lebih mahir dalam mimikri, beban verifikasi akan bergeser dari sistem ke individu. Inversi ini dapat mengikis kepercayaan tidak hanya dalam apa yang kita lihat dan dengar, tetapi di lembaga -lembaga yang pernah memvalidasi kebenaran bersama. Commons kognitif kemudian menjadi tercemar, lebih sedikit tempat untuk musyawarah, lebih banyak aula cermin.

Ini bukan kekhawatiran spekulatif. Disinformasi yang dihasilkan AI adalah pemilihan yang rumit, merusak jurnalisme dan menciptakan kebingungan di zona konflik. Dan karena semakin banyak orang mengandalkan AI untuk tugas -tugas kognitif – dari merangkum berita hingga menyelesaikan dilema moral, kapasitas untuk berpikir bersama dapat menurun, bahkan ketika alat untuk berpikir secara individual tumbuh lebih kuat.

Kecenderungan menuju disintegrasi realitas bersama ini sekarang sudah maju dengan baik. Untuk menghindari hal ini membutuhkan desain counter yang sadar: sistem yang memprioritaskan pluralisme daripada personalisasi, transparansi daripada kenyamanan dan makna bersama daripada realitas yang disesuaikan. Dalam dunia algoritmik kami yang didorong oleh persaingan dan keuntungan, pilihan -pilihan ini tampaknya tidak mungkin, setidaknya dalam skala. Pertanyaannya bukan hanya seberapa cepat kita bergerak sebagai masyarakat, atau bahkan apakah kita dapat bersatu, tetapi seberapa bijak kita menavigasi perjalanan bersama ini.

Menavigasi Kepulauan: Menuju Kebijaksanaan di Zaman AI

Jika usia AI tidak mengarah ke commons kognitif terpadu tetapi ke kepulauan yang retak dari individu dan komunitas yang berbeda, tugas di hadapan kita bukan untuk membangun kembali medan lama, tetapi untuk belajar bagaimana hidup dengan bijak di antara pulau -pulau.

Karena kecepatan dan ruang lingkup perubahan melampaui kemampuan kebanyakan orang untuk beradaptasi, banyak yang akan merasa tidak tertumpuk. Pekerjaan akan hilang, seperti halnya narasi nilai, keahlian, dan kepemilikan yang telah lama dipegang. Migrasi kognitif akan mengarah pada komunitas makna baru, beberapa di antaranya sudah terbentuk, bahkan karena mereka memiliki lebih sedikit kesamaan daripada di era sebelumnya. Ini adalah kepulauan kognitif: komunitas tempat orang berkumpul di sekitar keyakinan bersama, gaya estetika, ideologi, minat rekreasi atau kebutuhan emosional. Beberapa adalah pertemuan jinak kreativitas, dukungan atau tujuan. Yang lain lebih picik dan berbahaya, didorong oleh ketakutan, keluhan atau pemikiran konspirasi.

Memajukan AI akan mempercepat tren ini. Bahkan ketika itu mendorong orang terpisah melalui presisi algoritmik, itu secara bersamaan akan membantu orang menemukan satu sama lain di seluruh dunia, membuat penyelarasan identitas yang lebih baik. Tetapi dengan melakukan itu, mungkin membuat lebih sulit untuk mempertahankan gesekan pluralisme yang kasar tetapi perlu. Ikatan lokal mungkin melemah. Sistem kepercayaan umum dan persepsi realitas bersama dapat terkikis. Demokrasi, yang bergantung pada dialog realitas dan deliberatif bersama, mungkin berjuang untuk dipegang.

Bagaimana kita menavigasi medan baru ini dengan kebijaksanaan, martabat, dan koneksi? Jika kita tidak dapat mencegah fragmentasi, bagaimana kita hidup secara manusiawi di dalamnya? Mungkin jawabannya dimulai bukan dengan solusi, tetapi dengan belajar mengajukan pertanyaan itu sendiri secara berbeda.

Hidup dengan pertanyaan

Kita mungkin tidak dapat memasang kembali masyarakat kognitif sosial seperti dulu. Pusat mungkin tidak tahan, tetapi itu tidak berarti kita harus melayang tanpa arah. Di seluruh Archipelagos, tugas itu akan belajar untuk hidup dengan bijak di medan baru ini.

Mungkin memerlukan ritual yang melabuhkan kita ketika alat -alat kita berbeda, dan komunitas yang tidak terbentuk di sekitar kemurnian ideologis tetapi di sekitar tanggung jawab bersama. Kita mungkin memerlukan bentuk -bentuk pendidikan baru, bukan untuk melebihi atau berbaur dengan mesin, tetapi untuk memperdalam kapasitas kita untuk penegasan, konteks, dan pemikiran etis.

Jika AI telah memisahkan tanah di bawah kami, itu juga menghadirkan kesempatan untuk bertanya lagi untuk apa kami di sini. Bukan sebagai konsumen kemajuan, tetapi sebagai pelayan makna.

Jalan di depan tidak mungkin halus atau lembut. Ketika kita bergerak melalui tengah yang keruh, mungkin tanda kebijaksanaan bukanlah kemampuan untuk menguasai apa yang akan terjadi, tetapi untuk berjalan melaluinya dengan kejelasan, keberanian, dan perhatian. Kita tidak dapat menghentikan kemajuan teknologi atau menyangkal fraktur sosial yang semakin dalam, tetapi kita dapat memilih untuk merawat ruang di antaranya.

Gary Grossman adalah EVP praktik teknologi di Edelman.