Ang patuloy na pagtaas ng mga digital na panloloko at pandaraya Dahil sa cybercrime sa social media at mga messaging app, napilitan ang mga pangunahing kumpanya ng teknolohiya na lubos na pagbutihin ang kanilang mga hakbang sa seguridad. Nagiging karaniwan na para sa mga cybercriminal ang pagtatangkang magnakaw ng mga account, detalye ng bangko, o magpanggap na mga kilalang brand sa pamamagitan ng mga mensahe, ad, at mga contact na tila hindi nakakapinsala sa unang tingin.
Sa kontekstong ito, meta ay nagpapatibay sa estratehiya nito sa seguridad gamit ang isang bagong henerasyon ng Inilapat ang anti-fraud AI sa Facebook, WhatsApp at MessengerMalinaw ang pamamaraan: bigyan ng babala ang gumagamit bago pa sila mahulog sa patibong, bawasan ang pagkakalantad sa malisyosong nilalaman, at gawing mahirap hangga't maaari ang buhay para sa mga scammer na tumatakbo sa kanilang mga platform.
Isang anti-fraud AI para manatiling nangunguna sa mga scam sa Meta
Nagde-deploy ang Meta ng isang hanay ng mga tampok na pinagsasama ang artificial intelligence sa mismong device at pagsusuri sa mga remote serverSa isang banda, pinapayagan ng arkitekturang ito ang end-to-end encryption sa mga serbisyong tulad ng WhatsApp at Messenger, at sa kabilang banda, nag-aalok ng karagdagang layer ng advanced detection kapag nagpasya ang user na magpadala ng ilang kahina-hinalang nilalaman para sa pagsusuri.
Ang mga kagamitan ay umaasa sa mga modelong may kakayahang magsuri teksto, mga imahe, mga link, at mga pattern ng pag-uugaliAng layunin ay tukuyin ang lahat ng bagay mula sa mga mapanlinlang na ad na gumagamit ng mga mukha ng mga kilalang tao nang walang pahintulot hanggang sa mga mensaheng "teknikal na suporta" na nagtatangkang kumuha ng mga verification code, pati na rin ang mga kahilingan ng kaibigan mula sa mga pekeng account na naglalayong makuha ang tiwala ng biktima.
Ayon sa datos na ibinahagi ng kumpanya, ang problema ay hindi maliit: Inaangkin ng Meta na mayroon nagambala ang milyun-milyong account at ad na nauugnay sa mga organisadong network ng pandaraya sa Facebook, Instagram at WhatsApp, na sa ilang mga kaso ay naka-link sa mga totoong scam center na nakakalat sa ilang mga bansa.
Ang teknolohikal na opensibong ito ay umaasa rin sa mga pangkat ng pagsusuri ng tao na nagtutulungan kasama ng AI, upang ang mga modelo ay sanayin gamit ang mga totoong halimbawa at mabawasan ang margin of error sa pag-uuri ng kahina-hinalang nilalaman.
WhatsApp: firewall laban sa pag-hijack ng account at mga kahina-hinalang grupo
Sa kaso ng WhatsAppAng anti-fraud AI ng Meta ay nakatuon sa ilang partikular na karaniwang mga vector ng pag-atake: pag-hijack ng account sa pamamagitan ng pag-link ng device, mga panloloko at panlilinlang sa teknikal na suporta sa mga hindi kilalang grupo.
Isa sa mga pangunahing bagong tampok ay ang sistema ng Nagpapaalerto kapag may sumubok na i-link ang account sa isang hindi kilalang device.Kung may matukoy na kahina-hinalang kahilingan, ipapakita ng app ang impormasyon tulad ng lokasyon kung saan nagmula ang pagtatangka, kasama ang isang tahasang babala na maaaring isa itong scam. Nagbibigay-daan ito sa user na ihinto ang proseso bago pa man magkaroon ng ganap na access ang isang ikatlong partido sa kanilang mga pag-uusap.
Nakikialam din ang AI sa mga sitwasyon ng pagbabahagi ng screen habang nagvi-video call kasama ang mga hindi kilalang contactKapag natukoy ang ganitong pattern ng panganib, awtomatikong maglalabas ng babala ang sistema, dahil maraming scam sa "tech support" ang umaasa sa live na pagtingin sa screen ng user upang makuha ang mga kredensyal sa pagbabangko, mga one-time code, o iba pang partikular na sensitibong impormasyon.
Bukod pa rito, ang mga grupong sinasalihan ng mga gumagamit nang hindi gaanong nalalaman ang tungkol sa kanilang mga miyembro ay nagpapakita na ngayon ng panel ng kaligtasan sa pag-iwasNag-aalok ang panel na ito ng mga detalye tungkol sa grupo, mga tip para sa pagtukoy ng mga tangkang pandaraya, at ang opsyong umalis nang hindi nakikipag-ugnayan, at imu-mute ang mga notification hanggang sa kumpirmahin ng user na gusto nilang manatili.
Sinusubukan din ng Meta Mga alerto sa konteksto kapag nagsisimula ng mga chat gamit ang mga numerong wala sa address bookKung makakatukoy ang system ng mga karaniwang senyales ng phishing, mga pekeng pamumuhunan, o mga hindi malinaw na kahilingan para sa pera, inirerekomenda nito ang labis na pag-iingat at nag-aalok ng posibilidad ng pag-block o pag-uulat sa pamamagitan lamang ng ilang pag-tap.
Facebook: Sinusuri ang mga kahilingan ng kaibigan at mga pekeng pahina ng "suporta"
En FacebookAng anti-fraud AI ay may dalawang pangunahing larangan: mga kahina-hinalang kahilingan ng kaibigan at mga website na nagpapanggap na mga departamento ng serbisyo sa customer o mga kilalang tatak.
Kapag nakatanggap ng friend request, maaaring magpakita ang platform ng babala kung may matukoy itong mga risk factor: mga account na kakaunti lang ang mutual friends, mga kamakailang ginawang profile, heograpikong pinagmulan na hindi tumutugma sa network ng user, o mga gawi na tumutugma sa mga pattern na nauugnay sa mga bot network. Sa ganitong paraan, magagawa ng user mas mahusay na masuri kung tatanggapin, babalewalain, o haharangan ang kahilingan bago buksan ang pinto sa isang potensyal na manloloko.
Isa pang mahalagang pokus ay ang mga pekeng pahina at account ng suporta na nagtatangkang manloko ng mga user na humihingi ng tulong para mabawi ang isang account o malutas ang isang problema. Inaangkin ng Meta na gumawa na sila ng aksyon laban sa libu-libong mga site na ito, na karaniwang humihingi ng mga kredensyal sa pag-login, mga dokumento ng pagkakakilanlan, o mga pagbabayad upang "pabilisin" ang mga umano'y proseso ng pagbawi.
Pinapalakas din ng kompanya ang mga mekanismo nito para sa Pag-verify ng advertiser at pagtuklas ng mapanlinlang na adKabilang dito ang mga gumagamit ng mga larawan ng mga kilalang tao, negosyante, o mga pampublikong pigura nang walang pahintulot. Pinaghahambing ng AI ang mga mukha at tinutukoy ang mga paulit-ulit na manipulasyon na ginagamit upang gawing lehitimo ang mga pekeng pamumuhunan, mga hindi umiiral na promosyon, o mga produktong hindi dumarating.
Ang puntong ito ay partikular na sensitibo para sa mga kumpanya at tagalikha ng nilalaman sa Espanya at sa iba pang bahagi ng Europa, kung saan ang mga ad na gumagamit ng paggamit ng imahe ng mga negosyante o mga kilalang lokal na pigura upang makaakit ng mga biktimana lumilikha ng kalituhan at pinsala sa reputasyon na mahirap ayusin.
Messenger: Pagtukoy ng scam na maaaring i-configure ng user
Ang messaging app na naka-link sa Facebook, Sugo, ay nagsasama ng isang partikular na tungkulin na tinatawag na "Pagtuklas ng panloloko"Ang opsyong ito, na maa-access sa pamamagitan ng mga setting ng privacy at seguridad, ay mas detalyadong sinusuri ang mga pag-uusap na sinimulan ng mga hindi kilalang kontak. Kapag na-activate na, ang feature na ito ay nagbibigay ng mas malalim na pagsusuri ng mga pag-uusap.
Nakatuon ang AI sa mga katangiang pattern ng mga pekeng alokKabilang dito ang: ang remote work ay nag-aalok ng mga paunang bayad, mga pamumuhunan na may garantisadong kita, mga agarang mensahe na humihingi ng pera, o mga pagtatangkang magpanggap na kawani ng suporta ng mga kilalang kumpanya. Kung may makita itong anumang hindi karaniwan, magpapakita ito ng alerto na nagpapahiwatig ng uri ng panganib na naroroon at nagmumungkahi ng pagharang o pag-uulat sa nagpadala.
Kapag hayagang pinahintulutan ng gumagamit, ang mga minarkahang mensahe ay maaaring ipadala nang paisa-isa sa Mga meta server para sa mas malalim na pagsusuri ng AIPansamantalang sinisira ng hakbang na ito ang end-to-end encryption para lamang sa partikular na nilalamang iyon, isang desisyon na dapat timbangin ng bawat tao ayon sa kanilang pagpapaubaya sa panganib at mga alalahanin sa privacy.
Kasabay nito, pinagbuti ng Messenger ang sistema nito ng proteksyon ng linkAng feature na Safe Browsing, na nagsuri na ng mga URL sa mismong device, ay umaasa na ngayon sa isang karagdagang layer na tinatawag na advanced protection, na konektado sa mga listahang patuloy na ina-update mula sa mga mapanganib na site. Nilalayon ng disenyo na harangan ang access sa mga phishing page o mga download ng malware nang hindi inilalantad ang pagkakakilanlan ng user o ang buong history ng pag-browse.
Para sa mga pangkat ng suporta, benta, o serbisyo sa customer na gumagamit ng Messenger bilang kanilang regular na channel, ang mga pagpapabuting ito ay kumakatawan sa parehong Isang karagdagang hadlang laban sa mga scam na tumatarget sa sarili mong brand bilang isang medyo mas ligtas na kapaligiran para sa mga gumagamit na kanilang nakakasalamuha araw-araw.
Ang artipisyal na katalinuhan sa ilalim ng hood
Ang mga bagong tampok sa seguridad ng Meta ay umaasa sa isang hybrid na arkitektura na pinagsasama ang dalawang komplementaryong pamamaraan. Ang una ay ang pagsusuri sa aparatoDirekta itong gumagana sa mobile phone o computer ng gumagamit at nirerespeto ang end-to-end encryption, dahil hindi nito kailangang magpadala ng nilalaman sa mga panlabas na server upang matukoy ang mga pattern ng panganib.
Ang lokal na pagsusuring ito ay nakatuon sa mga senyales tulad ng katotohanan na makatanggap ng mga mensahe mula sa mga hindi naka-save na numeroKabilang dito ang mga pagtatangkang ibahagi ang screen sa mga estranghero, mga biglaang pagbabago sa gawi ng account, o ang paglitaw ng mga link na tumutugma sa mga nakaraang ulat ng pandaraya. Sa pamamagitan ng pagpapatakbo sa device mismo, nababawasan ang dami ng data na ipinapadala sa labas, na nagbibigay ng agarang unang linya ng depensa.
Ang pangalawang layer ay isinaaktibo kapag pinili ng gumagamit na Magpadala ng nilalaman para sa pagsusuri gamit ang AI sa cloudSa kasong ito, ang mga na-flag na mensahe o item ay pinoproseso ng mga sistema ng Meta, na gumagamit ng mas kumplikadong mga modelo upang masuri kung ang nangyayari ay akma sa isang kilalang uri ng scam. Kung ang pagsusuri ay magtatapos na mayroong panganib, ipapakita ng platform ang mga paliwanag tungkol sa potensyal na scam at magrerekomenda ng mga partikular na aksyon.
Binigyang-diin ng kompanya na, bukod sa AI, mayroon ding mga pangkat ng moderasyon ng tao na nagsusuri ng milyun-milyong piraso ng nilalaman bawat arawAng elementong ito ng tao ang siyang nagbibigay-daan, bukod sa iba pang mga bagay, sa pagpino ng mga modelo, pamamahala sa mga pinakamaselang kaso, at pagbuwag sa malawakang koordinadong mga kampanya na higit pa sa mga simpleng nakahiwalay na mensahe.
Ang buong mekanismong ito ay kinukumpleto ng mga kasunduan sa mga puwersang panseguridad at iba pang aktor sa sektor ng teknolohiya, upang magbahagi ng impormasyon tungkol sa mga malisyosong domain, mga network ng pekeng account, at mga umuusbong na taktika na ginagamit ng mga kriminal na organisasyon.
Mga pangunahing uri ng panloloko na sinusubukang pigilan ng AI ng Meta
Ang mga meta platform ay isang lugar ng pag-aanak para sa iba't ibang uri ng digital fraudsAng mga bagong tool ay dinisenyo upang matukoy at mapigilan, bukod sa iba pang mga bagay, ang mga sumusunod na uri ng mga karaniwang scam na nagta-target sa mga user sa Spain at Europe:
- Mga pekeng panloloko sa suportang teknikal: Mga taong nagpapanggap na mga serbisyo ng suporta sa bangko, mga operator, o kahit ang Meta mismo para humiling ng mga verification code, password, o malayuang pag-access sa device.
- Pandaraya sa pagbabahagi ng screen: mga video call kung saan kinukumbinsi ng scammer ang biktima na ipakita ang kanilang screen para makuha ang mga detalye ng bangko, SMS na may mga one-time code o mga kredensyal para sa mga serbisyo tulad ng online banking o mga payment gateway.
- Mga alok na trabaho at scholarship na hindi umiiral: Mga patalastas o pribadong mensahe na nangangako ng madali o mataas na suweldong trabaho kapalit ng paunang bayad para sa "mga pamamaraan" o para sa pagbibigay ng sensitibong personal na impormasyon.
- Mga iskema sa pamumuhunan at mga cryptocurrency: mga kampanyang nangangako ng mabilis at garantisadong kita, na kadalasang sinusuportahan ng hindi awtorisadong paggamit ng mga sikat na tao o kilalang negosyante.
- Mga phishing at nakakahamak na link: Mga URL na ginagaya ang mga lehitimong portal—mga bangko, platform ng e-commerce, serbisyo publiko—na may layuning magnakaw ng mga kredensyal o mag-install ng malware sa device.
Ang kombinasyon ng awtomatikong pagsubaybay, mga blacklist ng mga mapanganib na site, at mga mekanismo ng pag-uulat ng user ay nagbibigay-daan na Mabilis na umaangkop ang sistema sa mga bagong baryasyon ng mga panlolokong ito.na kadalasang nagbabago-bago upang maiwasan ang mas madaling pagtuklas.
Epekto sa mga gumagamit, kumpanya, at tagapagtatag na umaasa sa Meta
Bukod sa pagprotekta sa karaniwang gumagamit, ang mga bagong tampok na anti-fraud ng AI ay may direktang epekto sa Mga negosyong gumagamit ng Facebook, WhatsApp, at Messenger bilang kanilang pangunahing imprastraktura para sa pagbebenta, serbisyo sa customer, o pagbuo ng komunidad.
Sa isang banda, kung ang isang kumpanya ay gumagamit ng WhatsApp Business o Messenger para makipag-ugnayan sa mga customer, Maaaring maglabas ng mga alerto ang kanilang mga mensahe kung mahihinala ang mga ito ng sistema.Halimbawa, sa pamamagitan ng pagsasama ng maraming link o paghiling ng sensitibong datos. Kinakailangan nito ang pagsusuri sa mga script, tono, at dalas upang mabawasan ang mga maling positibo at mapanatili ang tiwala ng madla.
Sa kabilang banda, ang mga startup sa mga partikular na sensitibong sektor—tulad ng fintech, digital health, o mga serbisyong legal— nakikita nila sa mga kagamitang ito ang isang malinaw na senyales: Ang seguridad na nakabatay sa AI ay hindi na isang "dagdag" at ngayon ay bahagi na ng mga minimum na inaasahan sa anumang produkto o serbisyo na humahawak ng mahahalagang datos.
Ang lumalaking pakikipagtulungan ng Meta sa iba pang mga manlalaro sa teknolohiya at mga pampublikong katawan ay nagbubukas din ng pinto sa Mga bagong oportunidad para sa mga kumpanyang dalubhasa sa cybersecurity, na maaaring isama ang kanilang mga solusyon sa mga ecosystem ng pagtukoy ng banta ng malalaking platform o magbigay ng mga serbisyo sa pagkonsulta sa mas maliliit na kumpanya.
Sa huli, ang bisa ng mga hakbang na ito ay nakasalalay sa parehong mga gumagamit at organisasyon na nagpapatupad ng mabubuting kasanayan: pag-activate ng mga available na feature laban sa pandaraya, pagpapanatiling updated ng mga app, pagiging maingat sa mga hindi hinihinging mensahe, at pag-uulat ng anumang kahina-hinalang pag-uugali sa mga feed detection system.
Sa pagpapatupad ng bago nitong Anti-fraud AI sa Facebook, WhatsApp, at MessengerGumagawa ang Meta ng isang mahalagang hakbang tungo sa isang digital na kapaligiran na medyo mas mahirap para sa mga scammer at medyo mas ligtas para sa mga gumagamit ng mga serbisyo nito araw-araw, mula sa mga indibidwal na gumagamit hanggang sa mga kumpanyang umaasa sa mga platform na ito para sa isang mahalagang bahagi ng kanilang aktibidad.
