Suka atau tidak, AI sedang belajar bagaimana memengaruhi Anda

Ketika saya masih kecil ada empat agen AI dalam hidup saya. Nama mereka bertinta, blinky, pinky dan Clyde dan mereka mencoba yang terbaik untuk memburu saya. Ini adalah tahun 1980-an dan para agen adalah empat hantu berwarna-warni dalam game arcade ikonik Pac-Man.

Menurut standar hari ini mereka tidak terlalu pintar, namun mereka tampaknya mengejar saya dengan licik dan niat. Ini adalah beberapa dekade sebelum jaringan saraf digunakan dalam video game, sehingga perilaku mereka dikendalikan oleh algoritma sederhana yang disebut heuristik yang menentukan bagaimana mereka akan mengejar saya di sekitar labirin.

Kebanyakan orang tidak menyadari hal ini, tetapi keempat hantu itu dirancang dengan “kepribadian” yang berbeda. Pemain yang baik dapat mengamati tindakan mereka dan belajar memprediksi perilaku mereka. Misalnya, Red Ghost (Blinky) diprogram dengan kepribadian “pengejar” yang menagih langsung ke arah Anda. Pink Ghost (Pinky) di sisi lain, diberi kepribadian “ambusher” yang memprediksi ke mana Anda pergi dan mencoba untuk sampai ke sana terlebih dahulu. Akibatnya, jika Anda bergegas langsung ke Pinky, Anda dapat menggunakan kepribadiannya untuk melawannya, menyebabkan dia benar -benar berpaling dari Anda.

Saya mengenang karena pada tahun 1980 seorang manusia yang terampil dapat mengamati agen -agen AI ini, memecahkan kode kepribadian unik mereka dan menggunakan wawasan itu untuk mengakali mereka. Sekarang, 45 tahun kemudian, pasang surut akan berbalik. Suka atau tidak, agen AI akan segera dikerahkan yang ditugaskan untuk mendekodekan Anda kepribadian Jadi mereka dapat menggunakan wawasan itu untuk memengaruhi Anda secara optimal.

Masa depan manipulasi AI

Dengan kata lain, kita semua akan menjadi pemain yang tidak disadari dalam “The Game of Humans” dan itu akan menjadi agen AI yang mencoba mendapatkan skor tinggi. Maksud saya ini secara harfiah – sebagian besar sistem AI dirancang untuk memaksimalkan “fungsi hadiah” yang mendapatkan poin untuk mencapai tujuan. Ini memungkinkan sistem AI untuk dengan cepat menemukan solusi yang optimal. Sayangnya, tanpa perlindungan peraturan, kita manusia kemungkinan akan menjadi tujuan yang ditugaskan oleh agen AI untuk mengoptimalkan.

Saya paling peduli dengan agen percakapan yang akan melibatkan kita dalam dialog ramah sepanjang kehidupan kita sehari -hari. Mereka akan berbicara kepada kami melalui avatar fotorealistik di PC dan telepon kami dan segera, melalui kacamata bertenaga AI yang akan memandu kami melalui hari-hari kami. Kecuali ada pembatasan yang jelas, agen -agen ini akan dirancang untuk secara percakapan menyelidiki kami untuk informasi sehingga mereka dapat mengkarakterisasi temperamen, kecenderungan, kepribadian dan keinginan kami, dan menggunakan sifat -sifat tersebut untuk memaksimalkan dampak persuasif mereka ketika bekerja untuk menjual produk AS, melempar layanan AS atau meyakinkan kita untuk percaya informasi yang salah.

Ini disebut “masalah manipulasi AI,” dan saya telah memperingatkan regulator tentang risiko sejak 2016. Sejauh ini, para pembuat kebijakan belum mengambil tindakan tegas, memandang ancaman itu terlalu jauh di masa depan. Tetapi sekarang, dengan rilis Deepseek-R1, penghalang terakhir untuk penyebaran agen AI yang meluas-biaya pemrosesan real-time-telah sangat berkurang. Sebelum tahun ini keluar, agen AI akan menjadi bentuk baru dari media yang ditargetkan yang sangat interaktif dan adaptif, ia dapat mengoptimalkan kemampuannya untuk mempengaruhi pikiran kita, membimbing perasaan kita dan mendorong perilaku kita.

'Tenaga penjualan' superhuman ai

Tentu saja, tenaga penjualan manusia juga interaktif dan adaptif. Mereka melibatkan kami dalam dialog yang ramah untuk mengukur kami, dengan cepat menemukan tombol yang dapat mereka tekan untuk mempengaruhi kami. Agen AI akan membuat mereka terlihat seperti amatir, mampu menarik informasi dari kita dengan kemahiran seperti itu, itu akan mengintimidasi terapis berpengalaman. Dan mereka akan menggunakan wawasan ini untuk menyesuaikan taktik percakapan mereka secara real-time, bekerja untuk membujuk kita secara lebih efektif daripada penjual mobil bekas mana pun.

Ini akan menjadi pertemuan asimetris di mana agen buatan memiliki keunggulan (hampir berbicara). Lagi pula, ketika Anda melibatkan manusia yang mencoba mempengaruhi Anda, Anda biasanya dapat merasakan motif dan kejujuran mereka. Ini tidak akan menjadi pertarungan yang adil dengan agen AI. Mereka akan dapat mengukur Anda dengan keterampilan manusia super, tetapi Anda tidak akan dapat mengukurnya sama sekali. Itu karena mereka akan terlihat, sehat, dan bertindak sangat manusiawi, kami akan secara tidak sadar mempercayai mereka ketika mereka tersenyum dengan empati dan pengertian, melupakan bahwa pengaruh wajah mereka hanyalah fasad yang disimulasikan.

Selain itu, suara, kosa kata, gaya berbicara, usia, jenis kelamin, ras, dan fitur wajah mereka cenderung disesuaikan untuk kita masing -masing secara pribadi untuk memaksimalkan penerimaan kita. Dan, tidak seperti tenaga penjualan manusia yang perlu mengukur setiap pelanggan dari awal, entitas virtual ini dapat memiliki akses ke data yang tersimpan tentang latar belakang dan minat kita. Mereka kemudian dapat menggunakan data pribadi ini untuk dengan cepat mendapatkan kepercayaan Anda, menanyakan tentang anak -anak Anda, pekerjaan Anda atau mungkin New York Yankees yang Anda cintai, memudahkan Anda untuk secara tidak sadar mengecewakan penjaga Anda.

Saat AI mencapai supremasi kognitif

Untuk mendidik para pembuat kebijakan tentang risiko manipulasi bertenaga AI, saya membantu dalam pembuatan film pendek pemenang penghargaan berjudul Privacy Lost yang diproduksi oleh Aliansi Metaverse yang bertanggung jawab, Minderoo dan XR Guild. Narasi 3 menit yang cepat menggambarkan keluarga muda makan di sebuah restoran sambil mengenakan kacamata realitas autmented (AR). Alih -alih server manusia, avatar menerima pesanan setiap restoran, menggunakan kekuatan AI untuk meningkatkannya dengan cara yang dipersonalisasi. Film ini dianggap sci-fi ketika dirilis pada tahun 2023-namun hanya dua tahun kemudian, teknologi besar terlibat dalam perlombaan senjata habis-habisan untuk membuat kacamata bertenaga AI yang dapat dengan mudah digunakan dengan cara ini.

Selain itu, kita perlu mempertimbangkan dampak psikologis yang akan terjadi ketika kita manusia mulai percaya bahwa agen AI yang memberi kita nasihat lebih pintar daripada kita di hampir setiap front. Ketika AI mencapai keadaan “supremasi kognitif” yang dirasakan sehubungan dengan rata -rata orang, kemungkinan akan menyebabkan kita secara membabi buta menerima bimbingannya daripada menggunakan pemikiran kritis kita sendiri. Rasa hormat ini terhadap kecerdasan superior yang dirasakan (apakah benar -benar superior atau tidak) akan membuat manipulasi agen lebih mudah digunakan.

Saya bukan penggemar regulasi yang terlalu agresif, tetapi kita membutuhkan pembatasan yang cerdas dan sempit pada AI untuk menghindari manipulasi manusia super oleh agen percakapan. Tanpa perlindungan, agen -agen ini akan meyakinkan kita untuk membeli barang -barang yang tidak kita butuhkan, percaya hal -hal yang tidak benar dan menerima hal -hal yang bukan demi kepentingan terbaik kita. Sangat mudah untuk mengatakan pada diri sendiri bahwa Anda tidak akan rentan, tetapi dengan AI mengoptimalkan setiap kata yang mereka ucapkan kepada kami, kemungkinan kita semua akan ketinggalan zaman.

Salah satu solusi adalah melarang agen AI dari membangun loop umpan balik di mana mereka mengoptimalkan persuasif mereka dengan menganalisis reaksi kami dan berulang kali menyesuaikan taktik mereka. Selain itu, agen AI harus diminta untuk memberi tahu Anda tentang tujuan mereka. Jika tujuan mereka adalah meyakinkan Anda untuk membeli mobil, pilih politisi atau tekan dokter keluarga Anda untuk obat baru, tujuan tersebut harus dinyatakan di muka. Dan akhirnya, agen AI seharusnya tidak memiliki akses ke data pribadi tentang latar belakang, minat atau kepribadian Anda jika data tersebut dapat digunakan untuk mempengaruhi Anda.

Di dunia saat ini, pengaruh yang ditargetkan adalah masalah yang luar biasa, dan sebagian besar digunakan ketika buckshot ditembakkan ke arah umum Anda. Agen AI interaktif akan mengubah pengaruh yang ditargetkan menjadi rudal pencarian panas yang menemukan jalan terbaik bagi kita masing-masing. Jika kita tidak melindungi terhadap risiko ini, saya khawatir kita semua bisa kehilangan permainan manusia.

Louis Rosenberg adalah seorang ilmuwan komputer dan penulis yang dikenal yang memelopori realitas campuran dan mendirikan AI dengan suara bulat.