Imponerande nog är Imagen helt klart inte perfekt. De presenterade resultaten erhölls under mycket noggrant kontrollerade laboratorieförhållanden. Men även utöver dessa försiktighetsåtgärder är forskargruppens webbplats full av reflektioner om risken för missbruk av ett sådant verktyg som är tillgängligt för det största antalet människor.
I ett kapitel med titeln “Limits and Social Impact” gjorde forskarna ingen hemlighet av sin rädsla för att deras teknik skulle missbrukas för oklara syften. Det är också därför just nuskriva designers, Vi har beslutat att inte öppna koden eller tillhandahålla en offentlig demo. »
Dessutom sägs Imogen mobilisera ocensurerade datamängder. Ett val som gör att han kan utvecklas snabbare, men som lämnar dörren öppen för rasistiska, sexistiska eller pornografiska tolkningar.
Ett utmärkt tillfälle att komma ihåg att artificiell intelligens och teknik i allmänhet aldrig är neutrala. Det är frukten av dess designers övertygelser och åsikter, och detta blir ännu mer uppenbart när vi pratar om AI. Ett forskningsområde vi känner till är särskilt fast i rasistisk fördom.
