Perluasan daripada dron autonomi dengan kecerdasan buatan Ia mengubah sepenuhnya landskap keselamatan, pengawasan, malah peperangan moden. Apa yang kelihatan seperti fiksyen sains beberapa tahun yang lalu kini menjadi rutin: kenderaan udara tanpa pemandu yang mampu menjejaki orang, meronda sempadan, atau merakam sebarang pergerakan secara terperinci, tanpa campur tangan manusia.
Dalam konteks yang penuh dengan teknologi canggih ini, hampir mustahil untuk mengetahui bahawa objek yang biasa seperti payung Ia boleh mencabar beberapa sistem canggih ini. Sekumpulan penyelidik dari Universiti California, Irvine (UC Irvine) telah menunjukkan bahawa, dengan corak visual yang betul, payung mudah boleh "menipu," menarik, dan juga meneutralkan model dron komersial tertentu yang menggunakan pengesanan autonomi berdasarkan penglihatan komputer.
Kebangkitan dron autonomi dan mengapa ia menyebabkan begitu banyak kebimbangan
Dalam beberapa tahun kebelakangan ini penggunaan kenderaan udara tanpa pemandu di seluruh dunia. Kita bukan lagi hanya bercakap tentang dron rekreasi kecil untuk merakam video yang menakjubkan, tetapi tentang platform yang lebih serius yang digunakan untuk pengawasan bandar, memantau infrastruktur kritikal, kawalan sempadan atau menyokong operasi polis dan tentera.
Dalam senario seperti perang antara Rusia dan Ukraine Telah menjadi jelas betapa pentingnya dron kini. Terdapat model kamikaze, peranti khusus dalam pengesanan sasaran, sistem yang disambungkan oleh gentian optik untuk memastikan komunikasi yang stabil, dan semakin banyak peranti yang menggabungkan kecerdasan buatan untuk membuat keputusan sendiri semasa penerbangan.
Autonomi ini adalah berdasarkan penggunaan sensor optik canggih dan algoritma penglihatan komputer Ciri-ciri ini membolehkan dron mengenal pasti orang atau objek, menjejaki mereka dan bertindak balas terhadap pergerakan mereka tanpa juruterbang perlu sentiasa membetulkan trajektori. Dalam produk pengguna, inilah yang dipasarkan sebagai fungsi "trek aktif" atau "trek dinamik".
Masalahnya ialah, apabila penggunaan sistem ini berkembang untuk pengawasan, rondaan dan operasi keselamatanTerdapat juga risiko penyalahgunaan yang semakin meningkat: gangguan, pengintipan, pencerobohan privasi atau pemantauan rahsia di tempat di mana orang ramai tidak menyedari bahawa mereka sedang diperhatikan.
Penyelidik dan pakar keselamatan siber telah lama memberi amaran bahawa melindungi sistem ini tidak boleh dihadkan kepada komponen elektronik (pautan radio, komunikasi yang disulitkan, tembok api). persepsi visual dan algoritma AI Mereka yang membuat keputusan berdasarkan apa yang mereka "lihat" juga boleh menjadi titik lemah, dan di situlah eksperimen payung yang aneh itu memainkan peranan.
Projek FlyTrap: apabila payung menjadi senjata pertahanan
Sekumpulan pakar keselamatan dan penglihatan komputer dari Universiti California, Irvine Mereka memutuskan untuk tidak mengikuti laluan biasa dalam mereka bentuk dron yang semakin canggih dan menyinggung perasaan. Sebaliknya, mereka mengemukakan soalan yang berbeza: Adakah mungkin melindungi diri daripada dron autonomi menggunakan objek mudah, tanpa menggunakan penyekat frekuensi, penggodaman atau peralatan ketenteraan yang mahal?
Daripada idea inilah, FlyTrap lahir, sebuah kaedah serangan fizikal terhadap algoritma penjejakan autonomi Ia bergantung pada corak grafik yang direka khusus untuk mengelirukan sistem penglihatan dron. Daripada melumpuhkan peranti secara elektronik, matlamatnya adalah untuk memanipulasi apa yang "difikirkannya" sedang berlaku di hadapan kameranya.
Para penyelidik memfokuskan analisis mereka pada dron yang menggunakan pengesanan sasaran berdasarkan visi komputerIni adalah peranti yang mengesan dan menjejaki seseorang atau objek berdasarkan maklumat visual yang ditangkap oleh kamera mereka. Antara model yang dianalisis ialah beberapa yang sangat popular di pasaran, seperti DJI Mini 4 Pro, DJI Neo dan HoverAir X1.
Selepas mengkaji bagaimana sistem ini mentafsir pergerakan sasaran, pasukan itu menemui kelemahan utama: di bawah keadaan tertentu, algoritma boleh dimanipulasi jika ia dibentangkan dengan corak visual yang direka bentuk dengan teliti yang mengubah persepsi mereka tentang jarak dan arah pergerakan.
Corak ini, yang digelar FlyTrap, dicetak pada permukaan payung biasa. Hasilnya adalah senjata pertahanan yang sangat murah dan mudah diakses terhadap dron autonomi yang, di atas kertas, sepatutnya sangat sukar untuk diakali tanpa cara teknikal yang canggih.
Bagaimanakah sebenarnya helah visual payung berfungsi?
Teras FlyTrap terletak pada cara algoritma pengesanan autonomi berdasarkan rangkaian saraf Mereka mentafsir apa yang dirakam oleh kamera dron. Sistem ini menganalisis imej bingkai demi bingkai dan mengira bagaimana sasaran bergerak pada skrin untuk menentukan ke mana pesawat harus bergerak dan pada kelajuan apa.
Reka bentuk grafik yang dicetak pada payung menyebabkan dron "membaca" situasi yang tidak sepadan dengan realiti: corak direka bentuk supaya sistem penglihatan menyimpulkan bahawa sasaran itu berada bergerak menjauhi dron, sedangkan, pada hakikatnya, orang yang memegang payung itu boleh dikatakan masih di tempat yang sama.
Berhadapan dengan salah tafsir ini, perisian penjejakan melakukan apa yang diprogramkan untuk dilakukan: ia cuba kurangkan jarak sehingga ia mencapai sasarannya, memastikannya berada dalam julat pengesanan optimum. Dalam erti kata lain, dron secara beransur-ansur menghampiri, terus membetulkan trajektorinya dalam usaha untuk "mengimbangi" jarak yang dirasakan ini.
Tingkah laku ini menghasilkan sesuatu yang tulen serangan tarikan jauhDaripada mengelirukan dron dan menyebabkannya hilang jejak, payung itu sebenarnya menariknya untuk mendekat dan mendekat. Peranti ini boleh mendekati orang yang memegang payung sehingga ia menjadi sasaran mudah untuk ditangkap dengan jaring atau untuk perlanggaran terkawal.
Kelebihan utama pendekatan ini ialah ia tidak memerlukan gangguan elektromagnet atau akses kepada perisian dronTidak perlu menggodamnya, memintas isyarat kawalan atau menggunakan peralatan ketenteraan. Apa yang diperlukan hanyalah payung dengan reka bentuk yang betul untuk mengeksploitasi kelemahan yang sangat spesifik dalam algoritma penglihatan komputer.
Ujian dengan dron komersial dan keputusan kajian
Untuk mengesahkan bahawa idea itu lebih daripada sekadar rasa ingin tahu makmal, pasukan UC Irvine telah menjalankan eksperimen sistematik dengan dron komersial yang menggabungkan fungsi penjejakan autonomi yang digunakan secara meluas pada masa kini.
Para penyelidik memilih tiga model perwakilan daripada pasaran pengguna: DJI Mini 4 Pro, The DJI Neo dan HoverAir X1Kesemuanya mempunyai mod "trek aktif" atau "trek dinamik" yang direka untuk membolehkan peranti mengikuti seseorang tanpa mereka perlu sentiasa mengendalikan alat kawalan jauh.
Dalam ujian tersebut, seseorang berdiri di kawasan terbuka dengan payung FlyTrap terbuka, sementara dron mengaktifkan mod penjejakan automatik mengenai subjek tersebut. Sistem autonomi kemudiannya dibenarkan menjalankan tugasnya, tanpa pembetulan manual, memerhatikan bagaimana ia bertindak balas terhadap corak grafik payung.
Keputusannya adalah muktamad: dalam ketiga-tiga model dron yang dianalisis, Kaedah FlyTrap berjaya menarik pesawat hingga jarak yang sangat pendek, cukup untuk menangkapnya secara fizikal dengan jaring atau membuatnya terhempas ke struktur atau peranti lain jika dikehendaki.
Para penyelidik mengulangi eksperimen di bawah keadaan pencahayaan dan cuaca yang berbeza, mencapai kadar kejayaan yang sangat tinggi. Menurut data yang dibentangkan di forum keselamatan seperti persidangan NDSS, sistem ini mengekalkan keberkesanannya walaupun dengan variasi cahaya ambien dan persekitaran, yang mengukuhkan daya maju praktikalnya.
Sebagai sebahagian daripada proses pendedahan yang bertanggungjawab, pasukan tersebut menyampaikan kerentanan kepada pengeluar dron yang terlibat, termasuk DJI dan HoverAir, sebelum mendedahkan semua butiran teknikal kepada umum. Matlamatnya adalah untuk memberi masa kepada syarikat-syarikat tersebut untuk meneroka potensi mitigasi atau kemas kini perisian tegar yang akan mengukuhkan keteguhan algoritma mereka terhadap jenis serangan fizikal ini.
Risiko dan kes penggunaan: daripada keselamatan awam kepada gangguan
Di luar anekdot tentang keupayaan untuk "memburu" dron dengan payung, kajian FlyTrap membawa kepada meja implikasi keselamatan yang serius dan penggunaan sistem autonomi secara besar-besaran. Profesor Alfred Chen, pengarang bersama penyelidikan dan profesor sains komputer di UC Irvine, menekankan bahawa penjejakan automatik ibarat pedang bermata dua.
Di satu pihak, fungsi-fungsi ini sangat berguna untuk operasi keselamatan awam, rondaan sempadan atau pengawasan infrastrukturIa membolehkan dron memantau kawasan yang luas atau mengekori suspek tanpa perlu melakukan pemanduan berterusan, menjimatkan sumber dan meningkatkan kapasiti tindak balas pihak berkuasa.
Sebaliknya, teknologi yang sama boleh digunakan untuk tujuan yang kurang mulia: Gangguan individu, pengintipan, pencerobohan privasi di ruang awam atau persendirian, pengesanan orang tanpa kebenaran, dan sebagainya. Apabila sesiapa sahaja boleh membeli dron dengan pengesanan autonomi dan menggunakannya untuk tujuan yang meragukan, keseimbangan antara keselamatan dan risiko menjadi rumit.
Shaoyuan Xie, pengarang utama kajian dan juga seorang saintis komputer, menekankan betapa mudahnya payung mudah untuk mengawal tingkah laku dron autonomi tertentu Ini memaksa kita untuk memikirkan semula penggunaan peranti ini dalam persekitaran sensitif. Jika ia begitu mudah dimanipulasi secara fizikal, mungkin penggunaannya harus dihadkan atau dikawal selia dalam senario di mana pelanggaran keselamatan boleh membawa akibat yang serius.
Tambahan pula, serangan itu bukan sahaja boleh digunakan untuk meneutralkan dron yang bermusuhan atau invasiftetapi juga untuk mengelak pengawasan yang sah. Sekumpulan yang terancang boleh menggunakan variasi corak FlyTrap untuk menyembunyikan diri mereka daripada dron polis atau tentera, mewujudkan zon bayangan atau menyebabkan pesawat menghampiri terlalu dekat dan menjadi terdedah.
Serangan fizikal yang membuka semula perdebatan mengenai keselamatan siber dron
Salah satu aspek yang paling menarik perhatian dalam kes FlyTrap ialah ia melibatkan serangan fizikal terhadap algoritma persepsiIa bukan pencerobohan digital. Tiada penggodaman perisian tegar, tiada akses sistem jauh dan tiada gangguan komunikasi radio. Semuanya berlaku di dunia nyata, di hadapan kamera dron.
Jenis-jenis kerentanan ini, yang dikenali sebagai serangan adversarial fizikal, menunjukkan bahawa Keselamatan sistem AI Ia jauh melangkaui perisian kawalan dan rangkaian data. Jika algoritma yang mentafsir realiti boleh ditipu oleh corak visual dalam persekitaran, pautan lemah itu boleh menjadi sesuatu yang remeh seperti corak payung.
Dalam kes FlyTrap, corak tersebut telah direka khusus untuk mengeksploitasi kekurangan dalam cara rangkaian saraf mengira pergerakan dan jarak ke sasaran. Persepsi dimanipulasi supaya dron percaya bahawa orang itu sedang bergerak menjauh daripada menyembunyikan orang itu.
Pendekatan ini menekankan bahawa langkah keselamatan standard—penyulitan komunikasi, pengesahan yang kukuh, kawalan akses—tidak mencukupi untuk melindungi Sistem UAS dengan fungsi autonomiIa juga penting untuk mengukuhkan kekukuhan algoritma penglihatan komputer terhadap corak visual yang berniat jahat.
Memandangkan penggunaan dron berkuasa AI semakin meluas di persekitaran bandar, infrastruktur kritikal dan operasi polisMengabaikan risiko seperti ini boleh membuka pintu kepada insiden serius. Ia bukan sekadar tentang seseorang yang menembak jatuh dron komersial, tetapi tentang strategi serupa yang digunakan dalam konteks sensitiviti strategik yang lebih tinggi.
Aplikasi pertahanan dan batasan kaedah payung
Dari perspektif orang ramai, penemuan UC Irvine juga menawarkan kemungkinan alat pertahanan berkos rendahSeseorang yang diikuti oleh dron dalam mod penjejakan autonomi, secara teorinya, boleh menggunakan payung dengan corak FlyTrap untuk menarik peranti tersebut dan meneutralkannya, sentiasa dalam had undang-undang negara mereka.
Kemungkinan ini membuka perdebatan tentang hak untuk mempertahankan diri daripada pengawasan udaraTerutamanya dalam kes gangguan, pengintipan atau pencerobohan haram ke dalam kehidupan peribadi. Berhadapan dengan teknologi pengawasan yang nampaknya tidak dapat dicapai oleh rakyat biasa, objek mudah seperti payung menjadi sejenis langkah balas yang mudah diakses.
Walau bagaimanapun, pasukan penyelidikan itu sendiri memberi amaran bahawa FlyTrap bukanlah penyelesaian ajaib yang boleh digunakan untuk mana-mana dronKeberkesanannya bergantung pada peranti yang menggunakan algoritma penjejakan berasaskan visi komputer tertentu dan pada mod penjejakan autonomi yang diaktifkan.
Tambahan pula, mereplikasi corak tanpa pemahaman yang mendalam tentang bagaimana rangkaian saraf memproses imej mungkin tidak menghasilkan hasil yang sama. Hanya mencetak reka bentuk yang menarik perhatian dan mengharapkan ia berfungsi tidak mencukupi: kejayaan kaedah ini terletak pada pengoptimuman matematik dan eksperimen bagi corak grafik.
Kerangka kerja perundangan juga mesti dipertimbangkan: menembak jatuh atau menangkap dron mungkin dikawal selia atau dilarang, bergantung pada negara dan jenis operasi yang dijalankan oleh peranti tersebut. Sebelum menggunakan sebarang teknik peneutralan, walau betapa mudahnya ia kelihatan, adalah penting untuk... memahami peraturan udara dan privasi semasa.
Apa yang jelas ialah kajian jenis ini berguna untuk memberi tekanan kepada pengeluar dan pengawal selia Apabila melibatkan peningkatan piawaian keselamatan, kedua-duanya untuk mencegah penyalahgunaan dalam penggunaan dron dan untuk mengelakkannya daripada dimanipulasi dengan mudah melalui objek fizikal.
Secara keseluruhannya, kes FlyTrap menunjukkan bahawa kecanggihan teknologi dron autonomi tidak menjadikannya kebal. payung dengan corak yang betulDigabungkan dengan pemahaman yang baik tentang bagaimana kecerdasan buatan onboard "melihat" dunia, ia boleh mengubah perjalanan mudah dalam hujan menjadi senario terburuk bagi dron yang menyangka ia mempunyai segala-galanya di bawah kawalan.
