Microsoft har lämnat in en patentansökan för ett system för att upptäcka algorithmiska attacker mot “ett värdat AI-system” (i det här fallet en modell som finns i Microsoft Azure) baserat på dess inmatningar och utmatningar. Patentet omfattar metoder för att skydda Microsofts AI-modeller från olika typer av algorithmiska attacker:
- Undvikandeanfall som “korrumperar, förvirrar eller undviker” ett AI-system genom vissa inmatningar;
- Inversionsattacker som använder specifika ledtrådar för att få en modell att avslöja privat träningsdata;
- Och extraktionsattacker som stjäl AI-systemen som helhet genom inmatningar som avslöjar dess egenskaper i syfte att replikera dem.
Algorithmiska attacker är utformade för att hindra den normala funktionen hos ett AI-system, ofta genom “väldefinierade instruktioner” som kan “utföras iterativt” för att utföra jobbet. I grund och botten testar och utmanar dessa attacker AI-modeller tills angriparen får vad de vill ha, vare sig det handlar om åtkomst till vissa system, personlig användardata som används för att träna systemet eller en kopia av modellen som helhet.
Microsoft säger i sin ansökan att “värdade artificiella intelligenssystem traditionellt sett har liten eller ingen skydd mot sådana algorithmiska attacker.”
En av företagets tekniker använder en “feature-baserad klassificeringsmodell” för att avgöra om inmatningarna som ett AI-system tar emot är representativa för en känd algorithmisk attack. Denna klassificeringsmodell genererar ett poäng som, om det uppfyller eller överstiger en viss tröskel, avgör om inmatningarna någon skickar är tecken på en cyberattack.
En annan metod använder en “transformerbaserad modell” som också analyserar in- och utmatningar för att skapa en “multivariat tidsserie” som visar avvikelsen i resultaten som en AI-modell har genererat över tid. Detta system jämför en modells utmatningar med en “referensvektor” för att ta reda på om de har avvikit för långt från hur modellen var avsedd att fungera.
Microsoft har satsat hårt på att behålla sin dominans inom AI. Företaget har sökt patentera AI-innovationer som sträcker sig från digitala assistenter till maskininlärningsteknik till ryggsäckar för taligenkänning som svarar på användaren. Offentligt har företaget framhållit AI-integrationer för varje aspekt av sin verksamhet, inklusive sin sökmotor Bing, 365 CoPilot och eventuellt sina inbyggda Windows-appar.
Det är meningsfullt att ett patent som detta ingår i en av Microsofts mest framgångsrika affärsenheter: molntjänster. Bolagets Azure-division hade 22% av den globala molntjänstmarknadsandelen i det andra kvartalet. Och eftersom AI förlitar sig på högskaliga och lättillgängliga beräkningsresurser kommer Azure bara att gynnas av AI-ruschen.
I sitt senaste resultatrapport förklarade Microsoft att dess segment “Intelligent Cloud” hade en intäkt på 24,26 miljarder dollar, en ökning med 19% jämfört med föregående år. Azure ensamt, som är en del av det segmentet, såg intäkterna öka med 29%. CEO Satya Nadella sa i rapporten att Microsoft “snabbt inför AI i varje lager av teknikstacken och för varje roll och affärsprocess.”
Säkerheten verkar vara en specialitet för Microsoft, enligt Ash. Företaget är “avsevärt större när det gäller att generera intäkter inom cybersäkerhet” och genererar ungefär 20 miljarder dollar årligen från cybersäkerhetsinsatser.
De system som beskrivs i detta patent skulle lätt kunna anpassas till Azure. Om det patenteras skulle företaget också kunna licensiera det till andra molnleverantörer som vill ha AI som en integrerad del av sin verksamhet utan att riskera data eller modeller.
Även om AI-antagandet i stor skala fortfarande är i sin linda skulle säkerhetsproblem relaterade till AI kunna hota Microsofts – eller vilket stort AI-teknikföretag som helst – nuvarande position. Så bra som denna teknik är finns det fortfarande en viss tveksamhet”, säger Ash. “Enligt min åsikt skulle det vara skadligt om ett av de stora företagen skulle få en väsentlig bakslag inom det området. Det skulle skada hela stämningen.”
Min åsikt:
Microsofts patent för att skydda sina AI-modeller från algorithmiska attacker visar att företaget tar teknikens säkerhet på allvar. Med tanke på företagets stora satsning på AI och dess dominans på molnmarknaden verkar det som att Microsoft är på rätt spår för att behålla sin position som ledare inom AI. Det är viktigt att stora AI-teknikföretag som Microsoft är medvetna om säkerhetsriskerna som kan vara förknippade med denna avancerade teknik och att de tar stegen för att skydda sina system. Detta patent kan vara ett steg i rätt riktning för att säkerställa att AI fortsätter att utvecklas och användas på ett tryggt och pålitligt sätt.