Framtidens AI är en kombination av teknik och etik – på Arcada jobbar man för mer pålitliga AI-modeller
Både ingenjörer och filosofer behövs för att utveckla framtidens artificiella intelligens. Vid yrkeshögskolan Arcadas laboratorium för pålitlig AI jobbar forskare tvärvetenskapligt för att våra AI-modeller ska bli mer pålitliga och människovänliga.
– Vi strävar efter en framtid där artificiell intelligens används med eftertanke. AI ska inte vara ett självändamål, utan alltid utgå från människans bästa, säger Magnus Westerlund, överlärare i informationsteknik vid Arcada.
Han leder yrkeshögskolans laboratorium för pålitlig AI. Laboratoriet samlar både filosofer och ingenjörer kring gemensamma problem, och erbjuder experthjälp i utvecklingen av nya AI-modeller.
– Genom att ställa öppna frågor hjälper vi kunden att förstå teknikens koppling till verkligheten. Varje planerat AI-system innehåller dilemman som saknar en entydig lösning. Vår målsättning är att hjälpa till att identifiera dilemman och hitta bättre lösningar, säger Magnus Westerlund.
Ingenjörer är sällan experter på etik
När man bygger tekniska system som exempelvis AI-modeller är det viktigt att beakta den mänskliga faktorn redan från början. Att införliva den i ett senare skede kan vara svårt.
– Exempelvis patientdatasystemen inom sjukvården har fått mycket kritik av läkarkåren. Det hade lönat sig att ta med sjukvårdspersonalen i utvecklingen från början.
Ett annat exempel är sociala medier, där det har visat sig vara svårt att implementera etiska riktlinjer i efterhand.
– Problemet är att det inte är särskilt vanligt bland ingenjörer att ha en grundutbildning inom etik och filosofi. Därför har den tekniska utvecklingen traditionellt varit rätt fjärmad från etiken, säger Westerlund.
Det är den här trenden laboratoriet för pålitlig AI vill bryta.
Etikens vara eller icke vara inom EU-lagstiftningen
Inom EU arbetar man som bäst med unionens kommande AI-lagstiftning. Målsättningen med lagpaketet är att de AI-system som används i EU ska vara säkra, transparenta, spårbara, icke-diskriminerande och miljövänliga.
Magnus Westerlund som följt utvecklingen på nära håll säger att de etiska aspekterna nu hotar att urvattnas i beredningen.
– Det senaste vi hört är att de bitar som handlar om etisk och pålitlig AI tonas ner. EU kanske ändå inte vågar ställa allt för ambitiösa krav.
En förutsättning för etisk AI är att den är pålitlig, vilket dagens modeller inte är. Än så länge kan man jämföra AI med en svart låda: det går inte att i detalj följa dess resonemang från prompt till svar. Magnus Westerlund och hans team jobbar med att öppna upp den här lådan, och kasta ljus på bottarnas tankeprocesser.
– Om vi kunde förstå exakt hur en AI-modell resonerar skulle det göra modellen mycket pålitligare, eftersom vi kunde granska att resonemanget håller.
Jag ber Magnus Westerlund ge ett exempel på vilken typ av frågor man brottas med i utvecklandet av pålitlig AI.
– Tänk dig att en AI-modell gör din skatterapportering för dig, på basis av kvitton som automatiskt plockas ur din e-post och skatteverkets publicerade regler samt gällande lagstiftning. Den här typen av data är ändå inte fullständig utan förutsätter ofta ytterligare information. Så när AI-modellen sedan är kreativ och skapar ett nytt avdrag som bryter mot skatteverkets opublicerade riktlinjer, vems fel är det då?
Dagens AI förstår inte orsak och verkan
Den här typens frågor är mångfacetterade och kräver svar innan vi kan säga att vi har pålitliga AI-modeller inom ett specifikt område.
– För tillfället måste man alltid utgå från att användaren själv är ansvarig.
För att kunna agera etiskt behöver AI förstå sig på kausalitet – något som dagens modeller inte kan. Eftersom de inte förstår sambandet mellan orsak och verkan kan de inte skapa ny information, utan enbart arbeta utifrån det material de tränats på.
Hur länge det tar innan en språkmodell förstår kausalitet är svårt att säga, likaså hur länge det tar innan vi kan lita på informationen de ger.
– Än så länge är vi tvungna att dubbelkolla varje rad som våra AI-modeller spottar ur sig. Men inom tio år gissar jag att de ger mer pålitliga svar som kan länkas till källor.
En nytändning för filosofin
Den snabba utvecklingen inom AI har gett filosofin ett uppsving. Artificiell intelligens skiljer sig från mänsklig intelligens, men är samtidigt utformad för att vara en slags spegelbild av människan och motsvara våra värderingar, säger Magnus Westerlund.
– Många filosofer har insett att om de kan förklara vad AI innebär på djupet, så förklarar de samtidigt något nytt om vad det innebär att vara människa.
Att AI är något som i grunden kommer att förändra vår tillvaro är klart. Men experterna gör väldigt olika bedömningar om vart utvecklingen kommer att leda. Själv skriver Magnus Westerlund inte under de värsta domedagsprofetiorna.
– Jag tycker att utvecklingen är ganska spännande egentligen. Jag hör till den generation som minns den föregående stora teknikrevolutionen – när internet slog igenom. Jag trodde då aldrig att jag skulle få uppleva ytterligare en teknisk utveckling av samma magnitud under min livstid. På samma sätt som internet i det stora hela är något positivt tror jag att AI också kommer att vara det om 30 år.
Människohjärnor behövs – och skolan är viktig
Även om dagens AI är revolutionerande tror Magnus Westerlund att det kommer att dröja länge innan den helt, om ens någonsin, kan konkurrera ut vår mänskliga tankeförmåga.
– Jag tror att människor har mycket att bidra med inom en överskådlig framtid. Våra yrken och vår expertis är mycket mer än bara systematiserad information. Behovet av allmänbildning har inte försvunnit någonstans, och skolans roll är fortsatt viktig.
AI gör att studerandenas roll förändras. I stället för att upprepa information ska de upptäcka ny information.
För de yngre klasserna manar Westerlund till återhållsamhet när det gäller AI i undervisningen. För de äldre eleverna efterlyser han en rejäl omarbetning av läromedlen. Här finns stor potential på finlandssvenskt håll. Läroböckerna borde förnyas och kompletteras med promptprotokoll som möjliggör kontinuerligt individuellt stöd.
– AI gör att studerandenas roll förändras. I stället för att upprepa information ska de upptäcka ny information. Här förstärks betydelsen av att kunna ställa frågor och följdfrågor, och att tolka betydelsen av svaren. Kritiskt tänkande är fortfarande grunden för att lära sig nya saker.
Fakta om Arcadas laboratorium
Yrkeshögskolan Arcadas laboratorium för pålitlig AI är en del av ett forskarnätverk som arbetar med att hitta lösningar för hur man kan säkerställa en utveckling av pålitlig och etisk hållbar artificiell intelligens. Det är ett av de första forskarnätverken i sitt slag.
Det internationella forskarnätverket är tvärvetenskapligt, och etik och filosofi är centralt inom laboratoriets arbete.
Laboratoriet hjälper beställare och utvecklare av AI-lösningar att utvärdera den hållbara och etiska användningen av AI. Laboratoriet samarbetar både med finländska och internationella organisationer.
Laboratoriet för pålitlig AI betonar en nyfiken, men samtidigt medveten, användning av teknologi. Här kan du läsa mera om Z-Inspection-metoden som laboratoriet använder sig av.
