Artikel ini adalah bagian dari edisi khusus VentureBeat, “The Cyber Resilience Playbook: menavigasi era baru ancaman.” Baca lebih lanjut dari edisi khusus ini di sini.
Ketika adopsi AI berakselerasi di seluruh perusahaan, kemampuan beradaptasi yang cepat menciptakan paradoks keamanan-bagaimana tim melindungi sistem yang terus berkembang saat menskalakan TI perusahaan di seluruh perusahaan?
AI Presperarial sekarang mendominasi ancaman, memicu perang cyber siluman. Musuh dengan cepat untuk mempersenjatai setiap aspek AI, termasuk model bahasa besar (LLM). Adopsi cepat AI membuka permukaan serangan baru yang tidak dapat dilakukan oleh tim keamanan dengan menggunakan teknologi keamanan saat ini.
Intinya adalah bahwa kesenjangan antara AI permusuhan dan AI defensif tumbuh dengan cepat, dengan keamanan dan stabilitas keuangan perusahaan tergantung pada keseimbangan. Dari keracunan data hingga serangan injeksi yang cepat, musuh sudah mengeksploitasi kerentanan AI, mengubah teknologi menjadi vektor untuk informasi yang salah, pelanggaran keamanan dan gangguan bisnis.
Bagaimana Cisco membantu menutup celah
Strategi Pertahanan AI Cisco bertujuan untuk menutup kesenjangan yang melebar antara tradecraft AI yang bermusuhan dan potensinya untuk membahayakan perusahaan. Dengan sebagian besar penyebaran Gen AI yang diperkirakan tidak memiliki keamanan yang memadai pada tahun 2028, waktu Cisco adalah prescient.
Gartner juga RDipersembahkan dalam radar dampak teknologi yang muncul: keamanan cloud bahwa 40% implementasi gen AI pada tahun 2028 akan digunakan pada infrastruktur yang tidak memiliki cakupan keamanan yang memadai, mengekspos perusahaan untuk ancaman cyber yang digerakkan oleh AI pada skala yang belum pernah terjadi sebelumnya.
Tidak ada bisnis yang mampu menunda -nunda tentang melindungi model AI – mereka membutuhkan bantuan untuk mengatasi paradoks mengelola aset yang sangat mudah beradaptasi yang dapat dengan mudah dipersenjatai tanpa sepengetahuan mereka.
Diluncurkan pada bulan Januari, pertahanan AI Cisco membahas teka-teki ini, mengintegrasikan pemantauan waktu nyata, validasi model dan penegakan kebijakan pada skala.
Perang yang Tak Terlihat: AI sebagai Permukaan Serangan
Kekuatan terbesar AI, dan di mana ia memberikan nilai paling besar kepada perusahaan, adalah kemampuannya untuk belajar sendiri dan beradaptasi. Tapi itu juga kelemahan terbesarnya. Model AI non-deterministik, yang berarti perilaku mereka bergeser dari waktu ke waktu. Ketidakpastian ini menciptakan titik -titik buta keamanan yang dieksploitasi oleh penyerang.
Bukti seberapa parah cyberwar siluman muncul ketika paradoks tumbuh lebih luas. Serangan keracunan data adalah kumpulan data pelatihan yang merusak, menyebabkan AI menghasilkan output yang bias, cacat, atau berbahaya. Serangan injeksi yang cepat dirancang untuk menipu AI Chatbots agar mengungkapkan data pelanggan yang sensitif atau menjalankan perintah yang membahayakan model dan data. Model Exfiltration menargetkan model AI berpemilik, mencuri kekayaan intelektual dan merusak keunggulan kompetitif perusahaan.
Bayangan AI – atau penggunaan alat AI yang tidak disetujui oleh karyawan, yang secara tidak sengaja (atau tidak) memasukkan data sensitif ke dalam model AI eksternal seperti chatgpt dan copilot – juga berkontribusi pada masalah yang tumbuh lebih luas dan pada tingkat yang lebih cepat.
Seperti yang dikatakan Jeetu Patel, EVP dan CPO di Cisco: “Para pemimpin bisnis dan teknologi tidak mampu mengorbankan keselamatan untuk kecepatan saat merangkul AI. Dalam lanskap dinamis di mana kompetisi sengit, kecepatan memutuskan pemenang. ”
Sederhananya: Kecepatan tanpa keamanan adalah permainan yang kalah.
Cisco AI Defense: Pendekatan baru untuk keamanan AI
Pertahanan AI Cisco dibangun khusus, menanamkan keamanan ke dalam infrastruktur jaringan sehingga dapat meningkatkan dan melindungi setiap aspek pengembangan, peluncuran, dan penggunaan AI.
Pada intinya, platform memberikan:
- Visibilitas AI dan Deteksi AI Bayangan: Tim keamanan mendapatkan visibilitas real-time ke dalam aplikasi AI yang disetujui dan tidak disetujui, melacak siapa yang menggunakan AI, bagaimana itu dilatih dan apakah itu sesuai dengan kebijakan keamanan.
- Validasi model otomatis dan tim merah: Algorithmic Red Teaming Cisco, dikembangkan dari akuisisi intelijennya yang kuat, menjalankan triliunan simulasi serangan, mengidentifikasi kerentanan sebelum musuh melakukannya.
- Keamanan AI Runtime dan Penegakan Adaptif: Model AI menjalani validasi berkelanjutan untuk mendeteksi dan memblokir injeksi cepat, keracunan data, dan eksploitasi permusuhan secara real time.
- Kontrol Akses dan Pencegahan Kehilangan Data (DLP): Perusahaan dapat mencegah penggunaan AI yang tidak sah, menegakkan kebijakan keamanan dan memastikan data sensitif tidak pernah bocor ke dalam model AI eksternal.
Dengan menanamkan keamanan AI ke dalam kain jaringan Cisco, pertahanan AI memastikan bahwa keamanan AI bersifat intrinsik untuk operasi perusahaan – dan bukan renungan.
AI Defense menanamkan keamanan ke dalam DNA perusahaan yang digerakkan AI
Cemas untuk hasil dan takut jatuh di belakang pesaing, lebih banyak organisasi bergegas untuk menggunakan AI pada skala. Berkembangnya “Deploy Now, Secure Later” terburu-buru ke hasil adalah yang terbaik dan membantu memicu cyberwar siluman melawan musuh yang didanai dengan baik yang bermaksud menyerang organisasi target sesuka hati.
Indeks Kesiapan AI 2024 Cisco menemukan bahwa hanya 29% perusahaan yang merasa diperlengkapi untuk mendeteksi dan mencegah gangguan AI yang tidak sah. Ini berarti bahwa 71% perusahaan rentan terhadap serangan siber yang digerakkan oleh AI, pelanggaran kepatuhan dan kegagalan AI bencana.
Gartner memperingatkan bahwa perusahaan harus menerapkan mekanisme pertahanan runtime AI, karena alat keamanan titik akhir tradisional tidak dapat melindungi model AI dari serangan permusuhan.
Untuk tetap di depan, perusahaan harus:
- Mengadopsi kerangka kerja keamanan AI terpadu: Solusi keamanan harus holistik, otomatis dan tertanam ke dalam infrastruktur.
- Menerapkan intelijen ancaman AI dan validasi berkelanjutan: Model AI membutuhkan pemantauan konstan karena ancaman lanskap bergeser terlalu cepat untuk pertahanan statis.
- Pastikan Kepatuhan AI Di Lingkungan Multi-Cloud: Kerangka kerja regulasi mengencangkan secara global. Perusahaan harus menyelaraskan kebijakan keamanan AI dengan mandat kepatuhan yang berkembang seperti UU AI UE dan kerangka keamanan AI NIST.
Cisco AI Defense: Hardening Enterprise AI melawan ancaman yang berkembang
AI adalah masa depan inovasi perusahaan, tetapi AI tanpa jaminan adalah kewajiban. Dibiarkan tanpa kondom, AI dapat dimanipulasi, dieksploitasi, dan dipersenjatai oleh penjahat cyber.
Pertahanan Cisco AI bukan hanya alat keamanan-ini adalah strategi keamanan AI di seluruh perusahaan. Dengan mengintegrasikan pemantauan AI real-time, validasi model otomatis, dan penegakan hukum, Cisco menetapkan standar baru untuk keamanan AI pada skala.
Seperti yang diperingatkan Patel: “Tantangan keamanan yang diperkenalkan AI adalah baru dan kompleks, dengan kerentanan yang mencakup model, aplikasi, dan rantai pasokan. Kita harus berpikir secara berbeda. Pertahanan AI dibangun khusus untuk memastikan perusahaan dapat berinovasi dengan berani, tanpa pengorbanan. ”
