Europeiska unionen lanserade på onsdag ett förslag om att reglera konstgjord intelligens som kräver strikta regler och skydd för riskfyllda tillämpningar av snabbt utvecklande teknik.
Denna rapport är en del av en bredare strategi för digital block som syftar till att bibehålla sin position som en global hastighetsbestämning av teknikstandarder. Stora teknologiföretag som vill utnyttja de stora och lukrativa europeiska marknaderna, inklusive de från USA och Kina, måste spela med nya regler som träder i kraft.
EU: s verkställande kommission sa att den ville utveckla “ett ramverk för tillförlitlig konstgjord intelligens.” EU-kommissionens ordförande Ursula von der Leyen har beordrat sina viktigaste suppleanter att göra en samordnad europeisk strategi för artificiell intelligens och datastrategi 100 dagar efter att han tillträdde i december.
“Vi kommer att vara mycket försiktiga där mänskliga rättigheter och intressen står på spel”, sa von der Leyen till reportrar i Bryssel. “Konstgjord intelligens måste tjäna människor, och därför måste konstgjord intelligens alltid följa människors rättigheter.”
Europeiska unionens ledare, som är intresserade av att bygga “teknisk suveränitet”, har också släppt strategier för att öppna data från kontinentala företag och den offentliga sektorn så att de kan användas för ytterligare innovation inom konstgjord intelligens. Tjänstemän i Europa, som inte har jätte, hemlagad teknik, hoppas kunna komma ikapp USA och Kina genom att använda ett brett och växande block av industridata för vad de förutser är den kommande vågen av digital transformation.
De varnade också för att fler och fler förordningar för utländska teknologiföretag utarbetades med den kommande “Digital Services Act”, en omfattande översyn av hur blocket behandlade digitala företag, inklusive potentiellt att göra dem ansvariga för olagligt innehåll publicerat på sina plattformar. Det stadiga flödet av Silicon Valley-teknikchefer, inklusive Facebook-vd Mark Zuckerberg, Googles vd Sundar Pichai och Microsofts president Brad Smith, har besökt Bryssel de senaste veckorna som en del av en verklig lobbyinsats.
“Det är inte vi som behöver anpassa oss till den nuvarande plattformen. Detta är en plattform som måste anpassas till Europa, säger Thierry Breton, kommissionär för den inre marknaden. “Det är meddelandet som vi levererade till VD för den här plattformen när de mötte oss.”
Om teknologiföretagen inte kan bygga ett system “för våra människor, kommer vi att reglera och vi är redo att göra detta i lagen om digitala tjänster i slutet av året,” sade han.
EU-rapporten säger att det krävs tydliga regler för att hantera “riskfyllda AI-system”, såsom rekrytering, hälsovård, brottsbekämpning eller transport, som måste vara “öppna, spårbara och garantera mänsklig övervakning.” Andra system för konstgjord intelligens kan levereras med en etikett som anger att de uppfyller EU: s standarder.
Konstgjord intelligens använder datorer för att bearbeta stora datamängder och fatta beslut utan mänsklig input. Till exempel används det för att handla aktier på finansmarknader, eller i vissa länder för att skanna människors ansikten för att hitta brottsliga misstänkta.
Även om det kan användas för att förbättra hälsan, effektivisera jordbruket eller bekämpa klimatförändringar, innebär det också risker. Det är inte klart vilka data för artificiell intelligens som fungerar. Ansiktsigenkänningssystem kan till exempel vara partiska mot vissa sociala grupper. Det finns också oro för integritet och användning av teknik för kriminella ändamål, säger rapporten.
Mänskligt inriktade riktlinjer för artificiell intelligens är mycket viktiga eftersom “inget positivt kommer att uppnås om vi inte litar på teknik”, säger Margrethe Vestager, verkställande direktör som övervakar EU: s digitala strategi.
Enligt förslaget, som är öppet för offentligt samråd fram till 19 maj, vill EU: s myndigheter kunna testa och validera data som används av algoritmer som stöder konstgjord intelligens på samma sätt som de inspekterar kosmetika, bilar och leksaker.
Det är viktigt att använda opartiska uppgifter för att utbilda högrisksystem för artificiell intelligens så att de kan undvika diskriminering, sade kommissionen.
I synnerhet kan AI-system uppmanas att använda data som återspeglar kön, etnicitet och “andra möjliga skäl för förbjuden diskriminering.”
Andra idéer inkluderar bevara data för att spåra eventuella problem och gör att AI-systemet tydligt beskriver dess kapacitet och begränsningar. Användare måste meddelas när de interagerar med maskiner och inte människor medan människor måste vara ansvariga för systemet och ha slutliga beslut om beslut som att avslå ansökningar om välfärdsförmåner, säger rapporten.
EU-ledare säger att de också vill inleda en debatt om när man ska tillåta ansiktsigenkänning i ett fjärridentifieringssystem, som används för att skanna folkmassor för att undersöka människors ansikten med dem i databasen. Detta anses vara den “störande formen” av teknik och är förbjuden i EU utom i speciella fall.
