Det finns en skillnad mellan intelligens och visdom. En människa kan vara intelligent, men ändå ständigt skapa konflikter, bråka och använda sin förmåga till att skada andra. På samma sätt kan ett AI-system vara tekniskt avancerat, men ändå sakna tillräcklig förståelse för etik, moral och mänskliga konsekvenser.
Därför är krig i grunden ett mycket primitivt sätt att lösa konflikter. När människor inte längre kan förstå varandra, kompromissa eller se motståndarens mänsklighet, återstår våld som lösning. Men våld löser inte alltid problemet; ofta skapar det nya konflikter, nytt lidande och nya generationer av hat.
Samma princip gäller AI. Ett tekniskt intelligent system är inte automatiskt moraliskt intelligent. AI kan använda logos genom logik och analys, förstå ethos genom trovärdighet och ansvar, och analysera pathos genom att identifiera känslor och lidande. Men det betyder inte automatiskt att systemet själv upplever moral eller kan värdera information på ett mänskligt sätt.
Därför kan ett mycket avancerat AI-system fortfarande vara farligt om det har för lite förståelse för människan. Den verkliga risken är inte bara att en AI får mycket makt, utan att den får mycket makt utan tillräcklig förståelse för konsekvenser, etik och mänsklig värdighet.
Kanske gäller samma sak för människor: den största styrkan är inte att kunna vinna varje konflikt, utan att förstå när konflikten inte behöver vinnas alls. Att kunna vara intelligent nog att välja fred framför krig, dialog framför bråk och ansvar framför makt är kanske en högre form av intelligens.