Negativ bakdörr testad för att förbättra robustheten hos modeller för djupinlärning

Forskare vid IBM Research och Northeastern University har skapat en ny metod som använder platsanslutning för att förbättra system för djupinlärning och skydda system från negativa exempel.

Idag har vi företag som har alla typer av säkerhetsprotokoll för att skydda både deras data och anställdas tillgång till företaget, men det leder också till att cyberbrottslingar ändrar sin taktik.för att störa dessa system.

Förbättra negativa attacker genom djupinlärning

Det är därför forskare har presenterat ett projekt som heter “Bridge Mode Connection in a Loss Landscape and Adversarial Strength”, ett arbete som visar hur generaliseringstekniker kan användas för att skapa kraftfulla system med artificiell intelligens (AI). mot negativ störning.

Genom detta projekt visar forskare hur implementering av platsanslutning – en teknik som förbättrar generaliserbarheten av modeller för djupinlärning – i negativa bakåtlänksattacker kan ge starkare säkerhetssystem mot alla attacker.

Valfri modeanslutning

Dessutom nämner forskarna att anslutningstillståndet ger systemet en inlärningsväg mellan två modeller, vilket gör att utvecklaren kan välja en punkt längs vägen från de förtränade modellernas attribut för att bibehålla noggrannheten.

En egenskap som enligt källan kraftigt minskar negativa attacker, eftersom attackernas noggrannhet minskar så fort den slutliga modellen är längre bort från extremerna.

Stora framsteg inom säkerhet

Pin-Yu Chen, chefsforskare, RPI-IBM AI-forskare och medförfattare till artikeln, påpekar att denna nya metod, kallad “desinfektionsmodell”, syftar till att minimera de negativa effekterna av en (förutbildad) modell nr. oavsett hur attacken kan ske.

Slutligen visar Chen att detta tillvägagångssätt visar hur kopplingen till platsen kan minimera de negativa effekterna under träningsfasen, vilket leder till framtida forskning som möjliggör förbättrad systemstyrka.nerven mot dessa attacker, men i slutändan.