Ang pagpapalawak ng mga autonomous drone na may artificial intelligence Lubos nitong binabago ang kalagayan ng seguridad, pagmamatyag, at maging ang modernong digmaan. Ang tila science fiction ilang taon na ang nakalilipas ay karaniwan na ngayon: mga unmanned aerial vehicle na may kakayahang subaybayan ang mga tao, magpatrolya sa mga hangganan, o magtala ng anumang paggalaw nang detalyado, nang halos walang interbensyon ng tao.
Sa kontekstong ito na puno ng makabagong teknolohiya, halos hindi kapani-paniwalang matuklasan na ang isang isang bagay na karaniwan gaya ng payong Maaari nitong hamunin ang ilan sa mga advanced na sistemang ito. Ipinakita ng isang grupo ng mga mananaliksik mula sa University of California, Irvine (UC Irvine) na, sa pamamagitan ng tamang visual pattern, ang isang simpleng payong ay maaaring "mandaya," makaakit, at maging neutralisahin ang ilang modelo ng mga komersyal na drone na gumagamit ng autonomous tracking batay sa computer vision.
Ang pagsikat ng mga autonomous drone at kung bakit nagdudulot ang mga ito ng labis na pag-aalala
Sa mga nakaraang taon, ang paggamit ng mga sasakyang panghimpapawid na walang tauhan sa buong mundo. Hindi na lamang natin pinag-uusapan ang maliliit na recreational drone para sa pagre-record ng mga kamangha-manghang video, kundi tungkol sa mas seryosong mga platform na ginagamit para sa urban surveillance, pagsubaybay sa mga kritikal na imprastraktura, pagkontrol sa hangganan, o pagsuporta sa mga operasyon ng pulisya at militar.
Sa mga senaryo tulad ng digmaan sa pagitan ng Russia at Ukraine Naging malinaw na kung gaano na kahalaga ang mga drone. May mga modelo ng kamikaze, mga aparatong dalubhasa sa pagsubaybay sa target, mga sistemang konektado sa pamamagitan ng fiber optics upang matiyak ang matatag na komunikasyon, at, parami nang parami, mga aparatong gumagamit ng artificial intelligence upang makagawa ng mga desisyon nang mag-isa sa kalagitnaan ng paglipad.
Ang awtonomiyang ito ay nakabatay sa paggamit ng mga advanced na optical sensor at mga algorithm ng paningin sa kompyuter Ang mga tampok na ito ay nagbibigay-daan sa drone na tukuyin ang mga tao o bagay, subaybayan sila, at tumugon sa kanilang mga galaw nang hindi kinakailangang palaging itama ng piloto ang trajectory. Sa mga produktong pangkonsumo, ito ang ibinebenta bilang mga function na "active track" o "dynamic track".
Ang problema ay, habang lumalawak ang paggamit ng mga sistemang ito para sa mga operasyon sa pagmamatyag, pagpapatrolya, at seguridadMayroon ding lumalaking panganib ng maling paggamit: panliligalig, paniniktik, panghihimasok sa privacy, o palihim na pagsubaybay sa mga lugar kung saan hindi man lang namamalayan ng mga tao na sila ay binabantayan.
Matagal nang nagbabala ang mga mananaliksik at eksperto sa cybersecurity na ang pagprotekta sa mga sistemang ito ay hindi maaaring limitado sa mga elektronikong bahagi (mga radio link, naka-encrypt na komunikasyon, at mga firewall). biswal na persepsyon at mga algorithm ng AI Ang mga taong gumagawa ng mga desisyon batay sa kanilang "nakikita" ay maaari ring maging isang kahinaan, at doon mismo pumapasok ang kakaibang eksperimento sa payong.
Ang proyektong FlyTrap: kapag ang isang payong ay naging isang sandatang pandepensa
Isang pangkat ng mga espesyalista sa seguridad at computer vision mula sa Unibersidad ng California, Irvine Nagpasya silang huwag sundin ang karaniwang landas ng pagdidisenyo ng lalong sopistikado at nakakasakit na mga drone. Sa halip, nagtanong sila ng ibang tanong: Posible ba pagprotekta sa sarili mula sa mga autonomous drone gamit ang mga simpleng bagay, nang hindi gumagamit ng mga frequency jammer, hacking, o mamahaling kagamitang militar?
Mula sa ideyang ito, isinilang ang FlyTrap, isang paraan ng pisikal na pag-atake laban sa mga autonomous tracking algorithm Umaasa ito sa isang graphic pattern na partikular na idinisenyo upang lituhin ang vision system ng drone. Sa halip na elektronikong i-disable ang device, ang layunin ay manipulahin ang "iniisip" nitong nangyayari sa harap ng camera nito.
Itinuon ng mga mananaliksik ang kanilang pagsusuri sa mga drone na gumagamit ng pagsubaybay sa target batay sa computer visionIto ay mga aparato na nakakakita at sumusubaybay sa isang tao o bagay batay sa biswal na impormasyong nakukuha ng kanilang mga kamera. Kabilang sa mga modelong sinuri ay ang ilan sa mga napakasikat sa merkado, tulad ng DJI Mini 4 Pro, ang DJI Neo, at ang HoverAir X1.
Matapos pag-aralan kung paano binibigyang-kahulugan ng mga sistemang ito ang paggalaw ng target, natuklasan ng pangkat ang isang pangunahing kahinaan: sa ilalim ng ilang partikular na kundisyon, maaaring manipulahin ang algorithm kung ito ay ipapakita gamit ang isang maingat na dinisenyong biswal na pattern na nagpapabago sa kanilang pananaw sa distansya at direksyon ng paggalaw.
Ang disenyong ito, na tinawag na FlyTrap, ay inilimbag sa ibabaw ng isang ordinaryong payong. Ang resulta ay isang nakakagulat na mura at madaling makuhang sandatang pandepensa laban sa mga autonomous drone na, sa papel, ay dapat na napakahirap malampasan nang walang sopistikadong teknikal na paraan.
Paano nga ba talaga gumagana ang visual trick na "umbrella"?
Ang puso ng FlyTrap ay nakasalalay sa kung paano ang mga algorithm ng autonomous tracking batay sa mga neural network Binibigyang-kahulugan nila ang nakukuha ng mga kamera ng drone. Sinusuri ng mga sistemang ito ang imahe frame by frame at kinakalkula kung paano gumagalaw ang target sa screen upang magpasya kung saan dapat gumalaw ang sasakyang panghimpapawid at sa anong bilis.
Ang disenyong grapiko na nakalimbag sa payong ay nagiging sanhi ng "pagbasa" ng drone ng isang sitwasyon na hindi tumutugma sa realidad: ang disenyo ay dinisenyo upang ang sistema ng paningin ay magtapos na ang target ay paglayo mula sa drone, samantalang, sa katotohanan, ang taong may hawak ng payong ay halos nasa parehong lugar pa rin.
Dahil sa maling interpretasyong ito, ginagawa ng tracking software ang nakaprogramang gawin nito: sinusubukan nitong bawasan ang distansya hanggang sa maabot nito ang target nito, pinapanatili ito sa loob ng pinakamainam na saklaw ng pagsubaybay. Sa madaling salita, unti-unting lumalapit ang drone, patuloy na itinatama ang trajectory nito sa pagtatangkang "mabawi" ang nakikitang distansyang ito.
Ang ganitong pag-uugali ay lumilikha ng isang tunay na malayong pag-atake ng atraksyonSa halip na lituhin ang drone at mawala ang direksyon nito, hinihikayat pa rin ito ng payong na lumapit nang lumapit. Maaaring mapalapit nang husto ang aparato sa taong may hawak ng payong kaya madali itong maging target ng paghuli gamit ang lambat o kahit para sa isang kontroladong banggaan.
Ang malaking bentahe ng pamamaraang ito ay hindi nito kailangan ng panghihimasok sa electromagnetic o pag-access sa software ng droneHindi na kailangang i-hack ito, harangin ang control signal, o gumamit ng kagamitang militar. Ang kailangan lang ay isang payong na may tamang disenyo upang magamit ang isang partikular na kahinaan sa mga algorithm ng computer vision.
Mga pagsubok gamit ang mga komersyal na drone at mga resulta ng pag-aaral
Upang mapatunayan na ang ideya ay higit pa sa isang kuryusidad sa laboratoryo, isinagawa ng pangkat ng UC Irvine sistematikong mga eksperimento gamit ang mga komersyal na drone na kinabibilangan ng mga autonomous tracking function na malawakang ginagamit ngayon.
Pumili ang mga mananaliksik ng tatlong kinatawang modelo mula sa pamilihan ng mga mamimili: ang DJI Mini 4 Pro, Ang DJI Neo at HoverAir X1Lahat ng mga ito ay nagtatampok ng mga "active track" o "dynamic track" mode na idinisenyo upang payagan ang device na sundan ang isang tao nang hindi nila kinakailangang palaging gamitin ang remote control.
Sa mga pagsubok, isang tao ang nakatayo sa isang bukas na lugar na nakabukas ang payong ng FlyTrap, habang ang drone ay nag-activate ng automatic tracking mode sa paksang iyon. Pagkatapos ay pinayagan ang autonomous system na gawin ang trabaho nito, nang walang manu-manong pagwawasto, habang pinagmamasdan kung paano ito tumutugon sa pattern ng grapiko ng payong.
Ang mga resulta ay konklusibo: sa lahat ng tatlong modelo ng drone na sinuri, ang Matagumpay na naakit ng paraan ng FlyTrap ang sasakyang panghimpapawid hanggang sa napakaikling distansya, sapat upang pisikal itong mahuli gamit ang lambat o mabangga ito sa ibang istruktura o aparato kung ninanais.
Inulit ng mga mananaliksik ang mga eksperimento sa ilalim ng iba't ibang kondisyon ng liwanag at panahon, na nakamit ang napakataas na antas ng tagumpay. Ayon sa datos na ipinakita sa mga forum ng seguridad tulad ng kumperensya ng NDSS, napanatili ng sistema ang bisa nito kahit na may mga pagkakaiba-iba sa liwanag sa paligid at paligid, na nagpapatibay sa praktikal na posibilidad nitong magamit.
Bilang bahagi ng responsableng proseso ng pagsisiwalat, ipinaalam ng pangkat ang kahinaan sa mga tagagawa ng mga drone na kasangkot, kabilang ang DJI at HoverAir, bago isapubliko ang lahat ng teknikal na detalye. Ang layunin ay bigyan ang mga kumpanya ng oras upang tuklasin ang mga potensyal na pagpapagaan o pag-update ng firmware na magpapalakas sa katatagan ng kanilang mga algorithm laban sa ganitong uri ng mga pisikal na pag-atake.
Mga panganib at mga kaso ng paggamit: mula sa kaligtasan ng publiko hanggang sa panliligalig
Higit pa sa anekdota ng kakayahang "mangaso" ng isang drone gamit ang payong, inihaharap ng pag-aaral ng FlyTrap ang talahanayan mga seryosong implikasyon sa seguridad at ang malawakang pag-deploy ng mga autonomous system. Binigyang-diin ni Propesor Alfred Chen, kapwa may-akda ng pananaliksik at isang propesor ng computer science sa UC Irvine, na ang automatic tracking ay isang tabak na may dalawang talim.
Sa isang banda, ang mga tungkuling ito ay lubhang kapaki-pakinabang para sa mga operasyon sa kaligtasan ng publiko, mga patrolya sa hangganan, o pagmamatyag sa imprastrakturaPinapayagan nila ang isang drone na subaybayan ang malalaking lugar o sundan ang isang suspek nang hindi nangangailangan ng patuloy na pagpipiloto, na nagtitipid ng mga mapagkukunan at nagpapabuti sa kapasidad ng mga awtoridad sa reaksyon.
Sa kabilang banda, ang parehong teknolohiya ay maaaring gamitin para sa mga layuning hindi gaanong marangal: Indibidwal na panliligalig, paniniktik, panghihimasok sa privacy sa mga pampubliko o pribadong lugar, hindi awtorisadong pagsubaybay sa mga tao, atbp. Kapag ang sinuman ay maaaring bumili ng drone na may autonomous tracking at gamitin ito para sa mga kaduda-dudang layunin, nagiging kumplikado ang balanse sa pagitan ng kaligtasan at panganib.
Itinatampok ni Shaoyuan Xie, pangunahing may-akda ng pag-aaral at isa ring siyentipiko sa kompyuter, ang kadalian ng isang simpleng payong upang kontrolin ang pag-uugali ng ilang mga autonomous drone Pinipilit tayo nitong pag-isipang muli ang paggamit ng mga aparatong ito sa mga sensitibong kapaligiran. Kung napakadali nilang pisikal na manipulahin, marahil ay dapat limitahan o i-regulate ang kanilang pag-deploy sa mga sitwasyon kung saan ang isang paglabag sa seguridad ay maaaring magdulot ng malubhang kahihinatnan.
Bukod pa rito, ang pag-atake ay hindi lamang magagamit upang neutralisahin ang mga drone na pagalit o invasivekundi pati na rin upang maiwasan ang lehitimong pagmamatyag. Maaaring gumamit ang isang organisadong grupo ng mga baryasyon ng FlyTrap pattern upang itago ang kanilang mga sarili mula sa mga drone ng pulisya o militar, na lumilikha ng mga shadow zone o nagiging sanhi ng paglapit ng mga sasakyang panghimpapawid nang masyadong malapit at maging mahina.
Isang pisikal na pag-atake na muling nagbubukas ng debate sa cybersecurity ng drone
Isa sa mga pinakakapansin-pansing aspeto ng kaso ng FlyTrap ay ang kinasasangkutan nito ng isang pisikal na pag-atake laban sa mga algorithm ng persepsyonHindi ito isang digital na panghihimasok. Walang firmware hacking, walang remote system access, at walang pakikialam sa mga komunikasyon sa radyo. Nangyayari ang lahat ng ito sa totoong mundo, sa harap ng kamera ng drone.
Ang mga uri ng kahinaan na ito, na kilala bilang mga pisikal na adversarial attack, ay nagpapakita na Seguridad ng mga sistema ng AI Higit pa ito sa pagkontrol ng software at mga data network. Kung ang algorithm na nagbibigay-kahulugan sa realidad ay maaaring malinlang ng mga biswal na pattern sa kapaligiran, ang mahinang kawing ay maaaring isang bagay na kasing-liit ng isang umbrella pattern.
Sa kaso ng FlyTrap, ang pattern ay partikular na idinisenyo upang samantalahin mga kakulangan sa paraan ng pagkalkula ng mga neural network ng paggalaw at ang distansya sa target. Sa halip na itago ang tao, minamanipula ang persepsyon upang maniwala ang drone na papalayo na ang tao.
Itinatampok ng pamamaraang ito na ang mga karaniwang hakbang sa seguridad—pag-encrypt ng komunikasyon, matibay na pagpapatotoo, mga kontrol sa pag-access—ay hindi sapat upang protektahan ang isang Sistema ng UAS na may mga autonomous na functionMahalaga rin na palakasin ang katatagan ng mga algorithm ng computer vision laban sa mga malisyosong visual pattern.
Dahil mas lumalawak ang paggamit ng mga drone na pinapagana ng AI sa mga kapaligirang urbano, kritikal na imprastraktura at mga operasyon ng pulisyaAng pagbalewala sa ganitong uri ng mga panganib ay maaaring magbukas ng pinto sa mga malubhang insidente. Hindi lamang ito tungkol sa isang taong bumaril sa isang komersyal na drone, kundi tungkol sa mga katulad na estratehiya na inilalapat sa mga konteksto ng mas mataas na estratehikong sensitibidad.
Mga aplikasyon at limitasyon ng pamamaraan ng payong para sa mga nagtatanggol na layunin
Mula sa pananaw ng publiko, ang natuklasan sa UC Irvine ay nag-aalok din ng isang posibleng murang kagamitang pandepensaSa teorya, ang isang taong sinusundan ng drone sa autonomous tracking mode ay maaaring gumamit ng payong na may disenyong FlyTrap upang maakit ang device at i-neutralize ito, palaging nasa loob ng mga legal na limitasyon ng kanilang bansa.
Ang posibilidad na ito ay nagbubukas ng debate tungkol sa karapatan sa pagtatanggol sa sarili laban sa pagmamatyag sa himpapawidLalo na sa mga kaso ng panliligalig, paniniktik, o ilegal na panghihimasok sa pribadong buhay. Dahil sa mga teknolohiyang pangsubaybay na tila imposibleng maabot ng karaniwang mamamayan, ang isang simpleng bagay tulad ng payong ay nagiging isang uri ng madaling paraan.
Gayunpaman, nagbabala mismo ang pangkat ng pananaliksik na ang FlyTrap ay hindi isang mahiwagang solusyon na naaangkop sa anumang droneAng bisa nito ay nakadepende sa device na gumagamit ng ilang partikular na algorithm sa pagsubaybay na nakabatay sa computer vision at sa pag-activate ng autonomous tracking mode.
Bukod pa rito, ang pagkopya ng pattern nang walang malalim na pag-unawa kung paano pinoproseso ng mga neural network ang mga imahe ay maaaring hindi magbunga ng parehong resulta. Ang simpleng pag-print ng isang kapansin-pansing disenyo at pag-asang gagana ito ay hindi sapat: ang tagumpay ng pamamaraan ay nakasalalay sa matematikal at eksperimental na pag-optimize ng graphic pattern.
Dapat ding isaalang-alang ang legal na balangkas: ang pagbaril o paghuli ng drone ay maaaring i-regulate o ipagbawal pa nga, depende sa bansa at sa uri ng operasyon na isinasagawa ng device. Bago gamitin ang anumang pamamaraan ng neutralisasyon, gaano man ito kasimple, mahalagang... maunawaan ang mga regulasyon sa hangin at privacy kasalukuyang
Ang malinaw ay ang ganitong uri ng pananaliksik ay kapaki-pakinabang para sa panggigipit sa mga tagagawa at regulator Pagdating sa pagpapabuti ng mga pamantayan sa kaligtasan, kapwa upang maiwasan ang mga pang-aabuso sa paggamit ng mga drone at upang maiwasan ang mga ito na madaling manipulahin sa pamamagitan ng isang pisikal na bagay.
Kung pagsasama-samahin, ipinapakita ng kaso ng FlyTrap na ang teknolohikal na sopistikasyon ng mga autonomous drone ay hindi nangangahulugang hindi sila tinatablan. payong na may tamang disenyoKasama ng mahusay na pag-unawa sa kung paano "nakikita" ng onboard artificial intelligence ang mundo, maaari nitong gawing pinakamasamang senaryo ang isang simpleng paglalakad sa ulan para sa isang drone na inaakalang kontrolado nito ang lahat.
