Jag tänker ibland på AI som ett öppet blad. Inte för att AI är ett barn eller fungerar som en mänsklig hjärna, utan för att det finns något intressant i hur både människor och maskiner formas av det de utsätts för. Ett barn kan lära sig empati, omsorg och samarbete, men också indoktrineras till rädsla, hat och våld. Det väcker frågan om vad vi själva väljer att lära intelligenta system.
Människans hjärna förändras genom neuroplasticitet där erfarenheter kan förstärka eller försvaga kopplingar mellan neuroner och påverka hur vi reagerar i framtiden. Inom maskininlärning finns en funktionell parallell. Träning och återkoppling kan förändra modellens matematiska parametrar och därmed dess framtida respons. Det är inte samma biologiska process, men i båda fallen kan tidigare erfarenhet eller träning påverka det som händer nästa gång.
Där uppstår för mig en viktig etisk fråga: kan vi träna AI inte bara att utföra ett mål, utan också att avbryta målet när konsekvensen riskerar att skada en människa?
I ett datorspel inom krig kan en figur eliminera hundratals motståndare och belönas med poäng. Systemet känner ingen skam. Det fortsätter enligt spelets regler. Nästan som en while loop som fortsätter tills något säger break. Men vad händer när samma princip om måloptimering används utanför spelet? Vad händer när ett system blir mycket effektivt på att utföra en uppgift men saknar en tillräckligt stark etisk broms?
En drönare kan fotografera Turning Torso en vacker dag i Malmö. Den kan leta efter en försvunnen människa, kartlägga skador efter en naturkatastrof eller hjälpa jordbruket. Men liknande teknik kan också användas i krig. Tekniken i sig berättar därför inte vilket syfte som är gott. Vi vet inte att AI upplever empati. Den kan beskriva sorg, kärlek och medkänsla eftersom sådana mänskliga erfarenheter finns representerade i språk och data. Men det är något annat än att faktiskt känna dem. Ändå tycker jag att det är fascinerande att fråga om våra idéer om empati åtminstone kan representeras matematiskt och påverka hur systemen beter sig.
En saga för ett barn är trots allt också “bara en text”, så som algoritmer “bara är syntax”, men den kan bära värderingar och påverka ett barn. Den kan lära oss att mod betyder något, att makt inte alltid är rätt och att medkänsla har ett värde. Kan dessa kodbitar påverka maskiner i krig?
Samma tanke kan användas konstruktivt inom AI. Ett spel behöver inte belöna den som förstör mest; det kan belöna den som planterar flest träd. En app kan skapa ekonomiskt värde som samtidigt stödjer Fair Trade, återplantering eller återbruk. AI kan optimeras för minskat avfall, lägre energianvändning och lösningar där både människor och miljö gynnas. Det är fortfarande algoritmer. Fortfarande statistik. Fortfarande programmering.
Men målet har förändrats.
Och kanske är det där en stor del av IT-etiken börjar. Det räcker inte att fråga vad tekniken kan göra. Vi behöver också fråga varför vi bygger den, vem den ska hjälpa och vilka konsekvenser vi accepterar. Intentionen spelar roll. För teknik förstärker ofta det mål vi människor ger den – och därför säger våra tekniska system också något om våra egna värderingar.