Den stadiga ökningen av digitala bedrägerier och bedrägerier Cyberbrottslighet på sociala medier och i meddelandeappar har tvingat stora teknikföretag att avsevärt förbättra sina säkerhetsåtgärder. Det blir allt vanligare att cyberbrottslingar försöker stjäla konton, bankuppgifter eller utger sig för att vara välkända varumärken genom meddelanden, annonser och kontakter som vid första anblicken verkar ofarliga.
I detta sammanhang meta förstärker sin säkerhetsstrategi med en ny generation av AI mot bedrägerier tillämpad på Facebook, WhatsApp och MessengerTillvägagångssättet är tydligt: varna användaren innan de faller i fällan, minimera exponeringen för skadligt innehåll och gör livet så svårt som möjligt för bedragare som verkar på deras plattformar.
En AI mot bedrägerier för att ligga steget före bedrägerier på Meta
Meta distribuerar en uppsättning funktioner som kombinerar artificiell intelligens på själva enheten och analys på fjärrservrarDenna arkitektur möjliggör å ena sidan respekt för end-to-end-kryptering i tjänster som WhatsApp och Messenger, och å andra sidan erbjuder ett extra lager av avancerad detektering när användaren väljer att skicka visst misstänkt innehåll för granskning.
Verktygen använder modeller som kan analysera text, bilder, länkar och beteendemönsterMålet är att identifiera allt från bedrägliga annonser som använder kändisars ansikten utan tillstånd till "teknisk support"-meddelanden som försöker få verifieringskoder, samt vänförfrågningar från falska konton som syftar till att vinna offrets förtroende.
Enligt uppgifter som delat företaget är problemet inte obetydligt: Meta påstår sig ha störde miljontals konton och annonser kopplade till organiserade bedrägerikonservrar på Facebook, Instagram och WhatsApp, i vissa fall kopplade till riktiga bedrägericenter spridda över flera länder.
Denna tekniska offensiv förlitar sig också på mänskliga granskningsteam som arbetar sida vid sida med AI, så att modellerna tränas med verkliga exempel och felmarginalen vid klassificering av tvivelaktigt innehåll minskas.
WhatsApp: brandvägg mot kontokapning och misstänkta grupper
I fallet med WhatsAppMetas bedrägeribekämpande AI fokuserar på flera särskilt vanliga attackvektorer: kontokapning via enhetslänkning, teknisk supportbedrägerier och bedrägerier i okända grupper.
En av de viktigaste nya funktionerna är ett system med Aviserar när någon försöker länka kontot till en okänd enhet.Om en misstänkt begäran upptäcks visar appen information som platsen där försöket kom ifrån, tillsammans med en uttrycklig varning om att det kan vara en bluff. Detta gör det möjligt för användaren att stoppa processen innan en tredje part får fullständig åtkomst till deras konversationer.
AI ingriper också i situationer där skärmdelning under videosamtal med okända kontakterNär detta riskmönster upptäcks utfärdar systemet en automatisk varning, eftersom många bedrägerier med "teknisk support" förlitar sig på att titta på användarens skärm live för att fånga bankuppgifter, engångskoder eller annan särskilt känslig information.
Dessutom visar grupper som användare går med i utan att veta mycket om sina medlemmar nu en förebyggande säkerhetspanelDen här panelen erbjuder information om gruppen, tips för att upptäcka bedrägeriförsök och möjligheten att lämna gruppen utan att interagera, samt tysta aviseringar tills användaren bekräftar att de vill stanna.
Meta testar också Kontextuella aviseringar när du startar chattar med nummer som inte finns i adressbokenOm systemet identifierar typiska tecken på nätfiske, falska investeringar eller oklara pengaförfrågningar rekommenderar det att man iakttar extrem försiktighet och erbjuder möjligheten att blockera eller rapportera med ett par tryck.
Facebook: Granskar vänförfrågningar och falska "supportsidor"
En FacebookBedrägeribekämpning med AI har två huvudsakliga fronter: misstänkta vänförfrågningar och webbplatser som utger sig för att vara kundtjänstavdelningar eller etablerade varumärken.
När plattformen tar emot en vänförfrågan kan den visa en varning om den upptäcker riskfaktorer: konton med väldigt få gemensamma vänner, nyligen skapade profiler, geografiskt ursprung som inte matchar användarens nätverk eller beteenden som matchar mönster som är associerade med botnätverk. På så sätt kan användaren bättre bedöma om begäran ska accepteras, ignoreras eller blockeras innan de öppnar dörren för en potentiell bedragare.
Ett annat relevant fokus är falska supportsidor och konton som försöker lura användare som söker hjälp med att återställa ett konto eller lösa ett problem. Meta hävdar att de har vidtagit åtgärder mot tiotusentals av dessa webbplatser, som vanligtvis begärde inloggningsuppgifter, identitetshandlingar eller betalningar för att "påskynda" förmodade återställningsprocesser.
Företaget stärker också sina mekanismer för Annonsörsverifiering och upptäckt av bedrägliga annonserDetta inkluderar de som använder bilder av kändisar, affärsmän eller offentliga personer utan tillstånd. AI:n jämför ansikten och identifierar återkommande manipulationer som används för att legitimera falska investeringar, obefintliga kampanjer eller produkter som aldrig kommer fram.
Denna punkt är särskilt känslig för företag och innehållsskapare i Spanien och resten av Europa, där annonser som använder använda bilden av entreprenörer eller välkända lokala personer för att locka offerskapar förvirring och anseendeskador som är svåra att reparera.
Messenger: Användarkonfigurerbar bedrägeridetektering
Meddelandeappen kopplad till Facebook, Messenger, innehåller en specifik funktion som kallas "Upptäckt av bedrägerier"Det här alternativet, som är tillgängligt via sekretess- och säkerhetsinställningar, analyserar konversationer initierade av okända kontakter mer i detalj. När den är aktiverad ger den här funktionen en mer djupgående analys av konversationer.
AI fokuserar på karakteristiska mönster för falska erbjudandenDessa inkluderar: erbjudanden om distansarbete som kräver förskottsbetalningar, investeringar med garanterad avkastning, brådskande meddelanden som ber om pengar eller försök att utge sig för att vara supportpersonal hos välkända företag. Om den upptäcker något ovanligt visar den en varning som anger vilken typ av risk som föreligger och föreslår att avsändaren blockeras eller rapporteras.
När användaren uttryckligen godkänt det kan de markerade meddelandena skickas från fall till fall till Metaservrar för djupare AI-analysDet här steget bryter tillfälligt end-to-end-kryptering endast för det specifika innehållet, ett beslut som varje person måste väga utifrån sin risktolerans och integritetshänsyn.
Parallellt har Messenger förbättrat sitt system för länkskyddFunktionen Säker surfning, som redan analyserade webbadresser på själva enheten, förlitar sig nu på ett ytterligare lager som kallas avancerat skydd, kopplat till ständigt uppdaterade listor från farliga webbplatser. Designen syftar till att blockera åtkomst till nätfiskesidor eller nedladdningar av skadlig kod utan att avslöja användarens identitet eller fullständiga webbhistorik.
För support-, sälj- eller kundtjänstteam som använder Messenger som sin vanliga kanal representerar dessa förbättringar både en Ett ytterligare hinder mot bedrägerier riktade mot ditt eget varumärke som en något säkrare miljö för de användare de interagerar med dagligen.
Den artificiella intelligensen under huven
Metas nya säkerhetsfunktioner bygger på en hybridarkitektur som kombinerar två kompletterande metoder. Den första är analys på enhetenDen fungerar direkt på användarens mobiltelefon eller dator och respekterar end-to-end-kryptering, eftersom den inte behöver skicka innehåll till externa servrar för att upptäcka riskmönster.
Denna lokala analys fokuserar på signaler som det faktum att ta emot meddelanden från nummer som inte sparatsDessa inkluderar försök att dela skärmen med främlingar, plötsliga förändringar i kontobeteende eller uppkomsten av länkar som matchar tidigare bedrägerirapporter. Genom att använda enheten själv minskas mängden data som skickas externt, vilket ger en omedelbar första försvarslinje.
Det andra lagret aktiveras när användaren väljer att Skicka innehåll för granskning med hjälp av AI i molnetI det här fallet bearbetas de flaggade meddelandena eller objekten av Metas system, som använder mer komplexa modeller för att bedöma om det som händer passar in i en känd typ av bedrägeri. Om analysen visar att det finns en risk visar plattformen förklaringar om det potentiella bedrägeriet och rekommenderar specifika åtgärder.
Företaget betonar att det, utöver AI, finns mänskliga modereringsteam som granskar miljontals innehåll per dagDenna mänskliga faktor är det som bland annat möjliggör förfining av modeller, hantering av de mest känsliga fallen och avveckling av storskaliga, samordnade kampanjer som går utöver enkla isolerade budskap.
Hela denna mekanism kompletteras av avtal med säkerhetsstyrkor och andra aktörer inom tekniksektorn, i syfte att dela underrättelser om skadliga domäner, falska kontonätverk och nya taktiker som används av kriminella organisationer.
Huvudtyper av bedrägerier som Metas AI försöker stoppa
Metaplattformar är en grogrund för en mängd olika digitala bedrägerierDe nya verktygen är utformade för att upptäcka och stoppa bland annat följande typer av vanliga bedrägerier riktade mot användare i Spanien och Europa:
- Falska bedrägerier från teknisk support: Personer som utger sig för att vara banksupporttjänster, operatörer eller till och med Meta själva för att begära verifieringskoder, lösenord eller fjärråtkomst till enheten.
- Skärmdelningsbedrägeri: videosamtal där bedragaren övertygar offret att visa sin skärm för att samla in bankuppgifter, SMS med engångskoder eller inloggningsuppgifter för tjänster som internetbank eller betalningsgateways.
- Icke-existerande jobberbjudanden och stipendier: Reklam eller privata meddelanden som utlovar enkla eller välbetalda jobb i utbyte mot en initial betalning för "procedurer" eller för att lämna ut känslig personlig information.
- Investeringsprogram och kryptovalutor: kampanjer som lovar snabb och garanterad avkastning, ofta understödda av obehörig användning av kända personer eller välkända affärsmän.
- Nätfiske och skadliga länkar: URL:er som imiterar legitima portaler – banker, e-handelsplattformar, offentliga tjänster – i syfte att stjäla inloggningsuppgifter eller installera skadlig kod på enheten.
Kombinationen av automatiserad övervakning, svarta listor över farliga webbplatser och rapporteringsmekanismer för användare gör det möjligt Systemet anpassar sig snabbt till nya varianter av dessa bedrägerier.som ofta muterar för att undvika enklare upptäckt.
Påverkan på användare, företag och grundare som är beroende av Meta
Utöver att skydda den genomsnittliga användaren har de nya AI-funktionerna mot bedrägerier direkta effekter på Företag som använder Facebook, WhatsApp och Messenger som sin grundläggande infrastruktur för försäljning, kundservice eller communitybyggande.
Å ena sidan, om ett företag använder WhatsApp Business eller Messenger för att kommunicera med kunder, Deras meddelanden kan utlösa varningar om systemet uppfattar dem som misstänkta.Till exempel genom att inkludera många länkar eller begära känsliga uppgifter. Detta kräver att man granskar manus, ton och frekvens för att minimera falska positiva resultat och bibehålla publikens förtroende.
Å andra sidan, startups inom särskilt känsliga sektorer – som t.ex. fintech, digital hälsa eller juridiska tjänster— de finner i dessa verktyg ett tydligt tecken: AI-baserad säkerhet är inte längre ett "extra" och ingår nu i minimiförväntningarna i alla produkter eller tjänster som hanterar kritisk data.
Metas växande samarbete med andra teknikaktörer och offentliga organ öppnar också dörren för Nya möjligheter för företag som specialiserar sig på cybersäkerhet, som kan integrera sina lösningar med stora plattformars ekosystem för hotdetektering eller tillhandahålla konsulttjänster till mindre företag.
I slutändan kommer effektiviteten av dessa åtgärder att bero på att både användare och organisationer anammar god praxis: aktiverar tillgängliga funktioner mot bedrägerier, håller appar uppdaterade, är försiktiga med oönskade meddelanden och rapporterar allt misstänkt beteende till system för flödesdetektering.
Med implementeringen av dess nya AI mot bedrägerier på Facebook, WhatsApp och MessengerMeta tar ett viktigt steg mot en digital miljö som är något svårare för bedragare och lite säkrare för dem som använder dess tjänster dagligen, från enskilda användare till företag som förlitar sig på dessa plattformar för en väsentlig del av sin verksamhet.
