Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut
Google telah menghapus larangan lama untuk menggunakan AI untuk senjata dan sistem pengawasan, menandai perubahan signifikan dalam sikap etis perusahaan pada pengembangan AI yang menurut mantan karyawan dan pakar industri dapat membentuk kembali bagaimana Silicon Valley mendekati keselamatan AI.
Perubahan, dengan diam -diam diimplementasikan minggu ini, menghilangkan bagian -bagian utama dari prinsip -prinsip AI Google yang secara eksplisit melarang perusahaan mengembangkan AI untuk senjata atau pengawasan. Prinsip -prinsip ini, yang didirikan pada tahun 2018, telah berfungsi sebagai tolok ukur industri untuk pengembangan AI yang bertanggung jawab.
“Bastion terakhir hilang,” kata Tracy Pizzo Frey, yang menghabiskan lima tahun menerapkan prinsip -prinsip AI asli Google sebagai direktur senior manajemen produk keluar, keterlibatan, dan AI yang bertanggung jawab di Google Cloud, menulis dalam posting Bluesky. “Tidak ada yang dilarang. Google benar -benar berdiri sendiri dalam tingkat kejelasan ini tentang komitmennya untuk apa yang akan dibangunnya. ”
Prinsip -prinsip yang direvisi menghilangkan empat larangan spesifik: teknologi kemungkinan menyebabkan kerusakan keseluruhan; aplikasi senjata; sistem pengintai; dan teknologi yang melanggar hukum internasional dan hak asasi manusia. Sebaliknya, Google sekarang mengatakan akan “mengurangi hasil yang tidak diinginkan atau berbahaya” dan selaras dengan “prinsip -prinsip hukum internasional dan hak asasi manusia yang diterima secara luas.”
Google Loosens AI Ethics: Apa artinya ini bagi teknologi militer dan pengawasan
Pergeseran ini datang pada saat yang sangat sensitif, karena kemampuan AI maju dengan cepat dan perdebatan mengintensifkan pagar yang tepat untuk teknologi. Waktu telah menimbulkan pertanyaan tentang motivasi Google, meskipun perusahaan mempertahankan perubahan ini telah lama dalam pengembangan.
“Kami dalam keadaan di mana tidak ada banyak kepercayaan pada teknologi besar, dan setiap gerakan yang bahkan tampaknya menghapus pagar pembatas menciptakan lebih banyak ketidakpercayaan,” kata Pizzo Frey dalam sebuah wawancara dengan VentureBeat. Dia menekankan bahwa batasan etis yang jelas sangat penting untuk membangun sistem AI yang dapat dipercaya selama masa jabatannya di Google.
Prinsip -prinsip asli muncul pada tahun 2018 di tengah protes karyawan tentang Project Maven, kontrak Pentagon yang melibatkan AI untuk analisis rekaman drone. Sementara Google akhirnya menolak untuk memperbarui kontrak itu, perubahan baru dapat memberi sinyal keterbukaan pada kemitraan militer yang serupa.
Revisi ini mempertahankan beberapa elemen kerangka etika Google sebelumnya, tetapi bergeser dari melarang aplikasi spesifik untuk menekankan manajemen risiko. Pendekatan ini selaras lebih dekat dengan standar industri seperti kerangka kerja manajemen risiko AI NIST, meskipun para kritikus berpendapat bahwa itu memberikan pembatasan konkret yang lebih sedikit pada aplikasi yang berpotensi berbahaya.
“Bahkan jika kekakuannya tidak sama, pertimbangan etis tidak kalah pentingnya untuk menciptakan AI yang baik,” Pizzo Frey mencatat, menyoroti bagaimana pertimbangan etis meningkatkan efektivitas dan aksesibilitas produk AI.
Dari Project Maven ke Policy Shift: Jalan menuju Perombakan Etika AI Google
Pengamat industri mengatakan perubahan kebijakan ini dapat memengaruhi bagaimana perusahaan teknologi lain mendekati etik AI. Prinsip-prinsip asli Google telah menetapkan preseden untuk pengaturan diri perusahaan dalam pengembangan AI, dengan banyak perusahaan mencari Google untuk panduan implementasi AI yang bertanggung jawab.
Modifikasi mencerminkan ketegangan yang lebih luas dalam industri teknologi antara inovasi cepat dan kendala etis. Ketika persaingan dalam pengembangan AI meningkat, perusahaan menghadapi tekanan untuk menyeimbangkan pengembangan yang bertanggung jawab dengan tuntutan pasar.
“Saya khawatir tentang seberapa cepat hal -hal yang masuk ke dunia, dan jika semakin banyak pagar pembatas yang dihapus,” kata Pizzo Frey, mengungkapkan kekhawatiran tentang tekanan kompetitif untuk melepaskan produk AI dengan cepat tanpa evaluasi konsekuensi potensial yang memadai.
Dilema Etis Teknologi Besar: Akankah Pergeseran Kebijakan AI Google menetapkan standar industri baru?
Revisi ini juga menimbulkan pertanyaan tentang proses pengambilan keputusan internal di Google dan bagaimana karyawan dapat menavigasi pertimbangan etis tanpa larangan eksplisit. Selama waktunya di Google, Pizzo Frey menetapkan proses peninjauan yang menyatukan beragam perspektif untuk mengevaluasi dampak potensial aplikasi AI.
Sementara Google mempertahankan komitmennya terhadap pengembangan AI yang bertanggung jawab, penghapusan larangan spesifik menandai keberangkatan yang signifikan dari peran kepemimpinan sebelumnya dalam menetapkan batasan etis yang jelas untuk aplikasi AI. Ketika AI terus maju, industri ini mengawasi untuk melihat bagaimana pergeseran ini dapat mempengaruhi lanskap yang lebih luas dari pengembangan dan regulasi AI.
