Falcon, ett system som respekterar konfidentialitet vid träning av algoritmer

Forskarna föreslog Falcon, ett integritetsvänligt protokoll för att träna algoritmer för artificiell intelligens.

Ett team av forskare, från Princeton University, från Microsoft, Alogrand Foundation och Technion, föreslog Falcon. Det är om ett ramverk för att träna algoritmer för artificiell intelligens tillverkad med alla garantier för integritet och säkerhet.

Spridningen av artificiell intelligens har lett till Vissa branscher oroar sig för sin framtid. Mer än artificiell intelligens på grund av de uppgifter den hanterar. Kort sagt, personerna är oftast där informationen de arbetar med kommer ifrån.

Oron har nått den punkt där Europeiska kommissionen själv har föreslagit en uppsättning etiska principer som AI måste följa. Vissa av dem är förståeliga och allmänt accepterade, såsom principerna om integritet och transparens. Den här typen av begränsande faktorer bör inte peka på tillämpningen av AI. Även i sin träning.

Detta är vad skaparna av Falcon föreslog. Nytt protokoll Det syftar till att skydda de data du arbetar med. På samma sätt är design inte det avbryter träningen automatiskt om skadliga filer upptäcks eller angripare. Det är ett recept för att förhindra en attack som stör en algoritm genom att påverka din träning.

Två användarklasser

Falcon-protokollet delar upp typerna av användare som är involverade i AI-användningsscenariot i två. Först är tumlardatasom har datauppsättningar för utbildning. “Fråga användare” är sekunder. De kommer att ifrågasätta AI-modellen när den har tränats.

För att utbildning ska vara säker och privat måste dataägare dela sin information. Detta överförs till servrarna där modellen tränas. Därifrån kan “användare” ställa systemfrågor. Och mellan Falcon Tillåt att datauppsättningens integritet respekterasmedan frågorna för algoritmen också kommer att hållas konfidentiella.

Falcon använder “halvärliga” protokoll, vart och ett Båda parter måste följa specifika regler. Detta säkerställer att bidrag till utbildning och dess resultat inte förändras. Dessutom minskar ramverket komplexiteten i kommunikationen, vilket gör det lättare att använda mindre datatyper.