Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut
Google telah diam-diam merilis aplikasi Android eksperimental yang memungkinkan pengguna untuk menjalankan model kecerdasan buatan yang canggih secara langsung pada smartphone mereka tanpa memerlukan koneksi internet, menandai langkah signifikan dalam dorongan perusahaan menuju komputasi tepi dan penyebaran AI yang berfokus pada privasi.
Aplikasi ini, yang disebut AI Edge Gallery, memungkinkan pengguna untuk mengunduh dan menjalankan model AI dari platform pemeluk yang populer sepenuhnya pada perangkat mereka, memungkinkan tugas-tugas seperti analisis gambar, pembuatan teks, bantuan pengkodean, dan percakapan multi-giliran sambil menjaga semua pemrosesan data lokal.
Aplikasi, yang dirilis di bawah lisensi Apache 2.0 open-source dan tersedia melalui GitHub daripada toko aplikasi resmi, mewakili upaya terbaru Google untuk mendemokratisasi akses ke kemampuan AI canggih sambil mengatasi masalah privasi yang berkembang tentang layanan intelijen buatan berbasis cloud.
“Galeri Google AI Edge adalah aplikasi eksperimental yang menempatkan kekuatan model AI generatif mutakhir langsung ke tangan Anda, sepenuhnya berjalan pada perangkat Android Anda,” Google menjelaskan dalam panduan pengguna aplikasi. “Selami dunia kasus penggunaan AI yang kreatif dan praktis, semuanya berjalan secara lokal, tanpa memerlukan koneksi internet setelah model dimuat.”
Bagaimana model AI ringan Google memberikan kinerja tingkat cloud di perangkat seluler
Aplikasi ini dibangun di platform Litert Google, yang sebelumnya dikenal sebagai TensorFlow Lite, dan MediaPipe Frameworks, yang secara khusus dioptimalkan untuk menjalankan model AI pada perangkat seluler yang dibatasi sumber daya. Sistem ini mendukung model dari beberapa kerangka pembelajaran mesin, termasuk Jax, Kera, Pytorch, dan TensorFlow.
Inti dari penawaran adalah model Google Gemma 3, model bahasa 529-megabyte yang ringkas yang dapat memproses hingga 2.585 token per detik selama inferensi Prefill pada GPU seluler. Kinerja ini memungkinkan waktu respons sub-detik untuk tugas-tugas seperti pembuatan teks dan analisis gambar, membuat pengalaman yang sebanding dengan alternatif berbasis cloud.
Aplikasi ini mencakup tiga kemampuan inti: Obrolan AI untuk percakapan multi-turn, meminta gambar untuk pertanyaan pertanyaan visual, dan labor prompt untuk tugas-tugas putaran tunggal seperti peringkasan teks, pembuatan kode, dan penulisan ulang konten. Pengguna dapat beralih di antara model yang berbeda untuk membandingkan kinerja dan kemampuan, dengan tolok ukur waktu-nyata yang menunjukkan metrik seperti kecepatan waktu-ke-pertama dan kecepatan decode.
“Int4 kuantisasi memotong ukuran model hingga 4x lebih dari BF16, mengurangi penggunaan memori dan latensi,” Google mencatat dalam dokumentasi teknis, mengacu pada teknik optimasi yang membuat model yang lebih besar layak pada perangkat keras seluler.
Mengapa pemrosesan AI di perangkat dapat merevolusi privasi data dan keamanan perusahaan
Pendekatan pemrosesan lokal membahas kekhawatiran yang berkembang tentang privasi data dalam aplikasi AI, terutama di industri yang menangani informasi sensitif. Dengan menyimpan data di perangkat, organisasi dapat menjaga kepatuhan terhadap peraturan privasi sambil memanfaatkan kemampuan AI.
Pergeseran ini merupakan reimagining mendasar dari persamaan privasi AI. Daripada memperlakukan privasi sebagai kendala yang membatasi kemampuan AI, pemrosesan di perangkat mengubah privasi menjadi keunggulan kompetitif. Organisasi tidak perlu lagi memilih antara AI yang kuat dan perlindungan data – mereka dapat memiliki keduanya. Penghapusan dependensi jaringan juga berarti bahwa konektivitas yang terputus -putus, secara tradisional merupakan batasan utama untuk aplikasi AI, menjadi tidak relevan untuk fungsionalitas inti.
Pendekatan ini sangat berharga bagi sektor -sektor seperti perawatan kesehatan dan keuangan, di mana persyaratan sensitivitas data sering membatasi adopsi AI cloud. Aplikasi lapangan seperti diagnostik peralatan dan skenario kerja jarak jauh juga mendapat manfaat dari kemampuan offline.
Namun, pergeseran ke pemrosesan di perangkat memperkenalkan pertimbangan keamanan baru yang harus ditangani oleh organisasi. Sementara data itu sendiri menjadi lebih aman dengan tidak pernah meninggalkan perangkat, fokus bergeser untuk melindungi perangkat itu sendiri dan model AI yang dikandungnya. Ini menciptakan vektor serangan baru dan membutuhkan strategi keamanan yang berbeda dari penyebaran AI berbasis cloud tradisional. Organisasi sekarang harus mempertimbangkan manajemen armada perangkat, verifikasi integritas model, dan perlindungan terhadap serangan permusuhan yang dapat membahayakan sistem AI lokal.
Strategi platform Google bertujuan untuk dominasi AI seluler Apple dan Qualcomm
Langkah Google datang di tengah kompetisi yang mengintensifkan di ruang AI seluler. Mesin saraf Apple, tertanam di seluruh iPhone, iPad, dan Mac, sudah memberi daya pada pemrosesan bahasa real-time dan fotografi komputasi di perangkat. Mesin AI Qualcomm, yang dibangun ke dalam chip Snapdragon, mendorong pengenalan suara dan asisten pintar di smartphone Android, sementara Samsung menggunakan unit pemrosesan saraf tertanam di perangkat galaksi.
Namun, pendekatan Google berbeda secara signifikan dari pesaing dengan berfokus pada infrastruktur platform daripada fitur berpemilik. Daripada bersaing langsung dengan kemampuan AI tertentu, Google memposisikan dirinya sebagai lapisan fondasi yang memungkinkan semua aplikasi AI seluler. Strategi ini menggemakan platform yang sukses bermain dari sejarah teknologi, di mana mengendalikan infrastruktur terbukti lebih berharga daripada mengendalikan aplikasi individu.
Waktu strategi platform ini sangat cerdas. Ketika kemampuan AI seluler menjadi komoditisasi, nilai nyata bergeser ke siapa pun yang dapat menyediakan alat, kerangka kerja, dan mekanisme distribusi yang dibutuhkan pengembang. Dengan open-sourcing teknologi dan membuatnya tersedia secara luas, Google memastikan adopsi yang luas sambil mempertahankan kontrol atas infrastruktur yang mendasari yang memberi kekuatan pada seluruh ekosistem.
Apa yang diungkapkan pengujian awal tentang tantangan dan keterbatasan AI saat ini
Aplikasi saat ini menghadapi beberapa batasan yang menggarisbawahi sifat eksperimennya. Kinerja bervariasi secara signifikan berdasarkan perangkat keras perangkat, dengan perangkat kelas atas seperti Pixel 8 Pro menangani model yang lebih besar dengan lancar sementara perangkat mid-tier mungkin mengalami latensi yang lebih tinggi.
Pengujian mengungkapkan masalah akurasi dengan beberapa tugas. Aplikasi ini kadang -kadang memberikan respons yang salah terhadap pertanyaan spesifik, seperti mengidentifikasi jumlah kru yang salah untuk pesawat ruang angkasa fiksi atau sampul buku komik yang salah mengidentifikasi. Google mengakui keterbatasan ini, dengan AI itu sendiri menyatakan selama pengujian bahwa itu “masih dalam pengembangan dan masih belajar.”
Instalasi tetap rumit, mengharuskan pengguna untuk mengaktifkan mode pengembang di perangkat Android dan menginstal aplikasi secara manual melalui file APK. Pengguna juga harus membuat akun pemeluk wajah untuk mengunduh model, menambahkan gesekan ke proses orientasi.
Kendala perangkat keras menyoroti tantangan mendasar yang dihadapi AI seluler: ketegangan antara kecanggihan model dan batasan perangkat. Tidak seperti lingkungan cloud di mana sumber daya komputasi dapat diskalakan hampir tanpa batas, perangkat seluler harus menyeimbangkan kinerja AI dengan masa pakai baterai, manajemen termal, dan kendala memori. Ini memaksa pengembang untuk menjadi ahli dalam optimasi efisiensi daripada sekadar memanfaatkan daya komputasi mentah.
Revolusi tenang yang bisa membentuk kembali masa depan AI ada di saku Anda
Google's Edge AI Gallery menandai lebih dari sekadar rilis aplikasi eksperimental lainnya. Perusahaan telah menembakkan tembakan pembukaan dalam apa yang bisa menjadi perubahan terbesar dalam kecerdasan buatan sejak komputasi awan muncul dua dekade lalu. Sementara raksasa teknologi menghabiskan waktu bertahun -tahun membangun pusat data besar -besaran untuk memberi daya pada layanan AI, Google sekarang bertaruh di masa depan milik miliaran smartphone yang sudah dibawa orang.
Langkah ini melampaui inovasi teknis. Google ingin secara mendasar mengubah bagaimana pengguna berhubungan dengan data pribadi mereka. Pelanggaran privasi mendominasi berita utama setiap minggu, dan regulator di seluruh dunia menindak praktik pengumpulan data. Pergeseran Google ke arah pemrosesan lokal menawarkan perusahaan dan konsumen alternatif yang jelas untuk model bisnis berbasis pengawasan yang telah menyalakan internet selama bertahun-tahun.
Google mengatur waktu strategi ini dengan cermat. Perusahaan berjuang dengan aturan tata kelola AI sementara konsumen semakin waspada tentang privasi data. Google memposisikan dirinya sebagai dasar untuk sistem AI yang lebih terdistribusi daripada bersaing head-to-head dengan perangkat keras Apple yang terintegrasi erat atau chip khusus Qualcomm. Perusahaan membangun lapisan infrastruktur yang dapat menjalankan gelombang aplikasi AI berikutnya di semua perangkat.
Masalah saat ini dengan aplikasi – instalasi yang sulit, jawaban yang salah sesekali, dan berbagai kinerja di seluruh perangkat – kemungkinan akan hilang karena Google memperbaiki teknologi. Pertanyaan yang lebih besar adalah apakah Google dapat mengelola transisi ini sambil menjaga posisi dominan di pasar AI.
Galeri EDGE AI mengungkapkan pengakuan Google bahwa model AI terpusat yang dibantu dibangun mungkin tidak bertahan lama. Google Open-Sources alat-alatnya dan membuat AI di perangkat tersedia secara luas karena percaya mengendalikan infrastruktur AI besok lebih penting daripada memiliki pusat data saat ini. Jika strategi berfungsi, setiap smartphone menjadi bagian dari jaringan AI terdistribusi Google. Kemungkinan itu membuat aplikasi yang tenang ini diluncurkan jauh lebih penting daripada yang disarankan label eksperimentalnya.
