Artificiell intelligens, mänsklig kontroll och den internationella regleringen av autonoma vapensystem?
Utvecklingen av artificiell intelligens innebär att datorsystem i allt högre grad kan analysera information, identifiera mönster, fatta beslut och utföra handlingar med begränsad eller ingen direkt mänsklig medverkan och ändå hjälpa mänskligheten. Inom civil teknologi kan denna utveckling exempelvis användas för automatiserad analys, beslutsstöd, biometrisk identifiering och emotionell analys. Inom militära sammanhang kan samma tekniska principer användas i vapensystem som identifierar, väljer och angriper mål. Därmed uppstår en grundläggande rättslig och teknisk fråga: hur ska mänskligt ansvar och mänsklig kontroll bevaras när beslut som tidigare fattades av människor delvis överförs till programvara och autonoma system?
Problemet är inte enbart att en maskin kan utföra en fysisk handling. Det centrala problemet är hur systemets tekniska arkitektur har konstruerats, vilka mål och begränsningar utvecklaren har definierat, vilka data systemet använder, hur systemets beslutsfunktioner fungerar och vilken mänsklig kontroll som finns kvar när systemet aktiveras. Inom internationell humanitär rätt gäller redan regler för hur krigföring får bedrivas, men Internationella rödakorskommittén har samtidigt framhållit att de befintliga reglerna inte ensamma besvarar alla juridiska, etiska och humanitära frågor som autonoma vapensystem väcker. Organisationen har därför efterlyst nya internationellt bindande regler. (ICRC)
AI-systemets konstruktion och frågan om intention:
När juridiken möter artificiell intelligens uppstår ett särskilt problem kring begreppet intention. En algoritm har inte nödvändigtvis en mänsklig vilja eller avsikt i juridisk mening. Ett AI-system kan däremot konstrueras för att optimera en definierad målfunktion. Systemet kan tilldelas ett mål, tränas på vissa data och belönas genom tekniska optimeringsprocesser för att producera vissa typer av resultat. Därför är det mer rättsligt meningsfullt att undersöka människornas och organisationernas intention med systemet än att försöka tillskriva själva algoritmen en mänsklig etisk avsikt.
Ur ett IT-vetenskapligt perspektiv innebär detta att ett AI-systems beteende måste förstås genom dess arkitektur, träningsdata, optimeringsfunktioner, begränsningar, kontrollmekanismer och användningsmiljö. Ur ett juridiskt perspektiv kan frågan därefter formuleras kring vad utvecklaren eller användaren visste, vilka mål systemet konstruerades för, vilka risker som kunde förutses och vilka säkerhetsåtgärder som vidtogs.
Det innebär att framtida reglering skulle kunna fokusera mer på systemets konstruktion och livscykel än på en förenklad fråga om vad en AI “ville” göra. Ett juridiskt ramverk skulle exempelvis kunna kräva dokumentation av systemets avsedda funktioner, förbjudna användningsområden, riskanalyser, testresultat, begränsningar och mekanismer för mänsklig kontroll. På så sätt kan juridiken granska den tekniska konstruktionen innan ett system orsakar skada, i stället för att enbart ingripa efter en incident.
Man kan också fråga sig vad ai själva anser om sig själva?
AI och påverkan på mänskligt beteende:
Samma princip är relevant även utanför militära system. Moderna AI-system kan utformas för att påverka hur människor beter sig. En algoritm kan exempelvis optimeras för att maximera engagemang, uppmärksamhet, användningstid eller sannolikheten att en person genomför en viss handling. Därför blir frågan om systemets mål central även när den direkta handlingen inte utförs av en människa.
EU:s AI-förordning innehåller redan förbud mot vissa former av AI-baserad manipulation och vilseledning när teknikerna väsentligt snedvrider en persons beteende och orsakar eller rimligen kan orsaka betydande skada. Förordningen förbjuder även vissa former av exploatering av människors sårbarheter. Detta visar hur lagstiftning kan rikta sig mot själva relationen mellan systemets tekniska konstruktion och den mänskliga effekt som konstruktionen är avsedd eller sannolikt kan få. (EUR-Lex)
Denna juridiska modell kan vara relevant för diskussionen om autonoma vapensystem. Om en algoritm konstrueras för att självständigt identifiera och angripa mål måste det vara möjligt att fastställa vilka funktioner som har programmerats, vilka begränsningar som finns och vilket ansvar människor har för systemets användning. Den centrala frågan blir därmed inte om maskinen själv har en intention, utan vilka mänskliga beslut som ligger bakom systemets tekniska mål och handlingsutrymme. Frågan om algoritmernas egna handlingsutrymme kvarstår: Kan en mördarrobott gå igenom syfte och andemening med vad ”empati” är för något?
Biometrisk och emotionell analys:
Biometrisk analys innebär behandling av mätbara kroppsliga eller beteendemässiga egenskaper, exempelvis ansiktsdrag, fingeravtryck, iris eller andra egenskaper som kan användas för identifiering eller kategorisering. Emotionell analys, som även kan beskrivas som emotion AI eller affective computing, försöker däremot uppskatta en persons känslomässiga tillstånd genom exempelvis ansiktsuttryck, röst, text, kroppsspråk eller fysiologiska signaler.
Skillnaden är betydelsefull. Biometrisk analys kan i förenklad form ställa frågan om vem en person är eller vilka biologiska egenskaper som kan mätas. Emotionell analys försöker i stället dra slutsatser om vilket känslomässigt tillstånd personen befinner sig i. Ett system som registrerar ett ansikte mäter observerbara egenskaper, medan slutsatsen att personen är rädd, arg eller glad är en tolkning av dessa signaler.
Detta innebär att tekniska system kan producera olika grader av osäkerhet. En fysisk mätning kan vara relativt direkt, medan en slutsats om en människas känslor är mer beroende av statistiska modeller och kontext. Därför blir transparens, vetenskaplig validering och mänsklig kontroll viktiga delar av regleringen.
EU:s AI-förordning reglerar vissa biometriska och emotionella användningar och förbjuder bland annat vissa former av emotionell inferens på arbetsplatser och inom utbildning, med uttryckliga undantag. Samtidigt omfattas AI-system som uteslutande används för militära, försvarsrelaterade eller nationella säkerhetsändamål inte av AI-förordningens tillämpningsområde. (EUR-Lex)
Det senare är särskilt viktigt i diskussionen om autonoma vapensystem. EU:s AI Act kan därför inte ensam fungera som ett globalt regelverk för militär AI. För militär användning är internationell humanitär rätt och särskilda internationella avtal en centralare rättslig grund.
Autonoma vapensystem och mänsklig kontroll:
Ett autonomt vapensystem kan tekniskt beskrivas utifrån graden av mänsklig kontroll över systemets kritiska funktioner. I FN:s pågående arbete inom konventionen om vissa konventionella vapen, CCW, har 2026 års expertgrupp bland annat arbetat med en beskrivning av system som kan identifiera, välja och angripa mål utan mänskligt ingripande i genomförandet av dessa funktioner. Definitionen är fortfarande en del av det internationella förhandlingsarbetet och innebär inte att staterna redan har antagit en global juridisk definition. (UNODA Docs Library)
Den tekniska frågan om autonomi blir därför direkt kopplad till den juridiska frågan om mänskligt ansvar. Om ett system självständigt kan identifiera ett mål, välja det och använda våld mot målet uppstår frågan om människan fortfarande har sådan kontroll att hon kan förutse, bedöma och stoppa den konkreta användningen av våld?
Internationella rödakorskommittén har argumenterat för att autonoma vapensystem som är oförutsägbara bör förbjudas och att användning av autonoma vapensystem för att rikta våld direkt mot människor bör förbjudas. För andra system rekommenderas strikta begränsningar av bland annat måltyp, geografiskt område, tidsperiod, användningssituation och krav på effektiv mänsklig övervakning samt möjlighet till ingripande och avaktivering. (ICRC)
Från programmering till juridiskt ansvar:
Ur ett programmeringsvetenskapligt perspektiv är det därför relevant att betrakta ett autonomt vapensystem som ett sociotekniskt system snarare än som en isolerad algoritm. Systemets beteende uppstår genom samspelet mellan programvara, sensorer, träningsdata, optimeringsfunktioner, hårdvara, kommunikationssystem, mänskliga operatörer och den miljö där systemet används.
Detta innebär också att ansvar inte bör reduceras till den person som skriver den sista raden kod. Ansvarsfrågan kan omfatta hela systemets utvecklingskedja, från kravspecifikation och datainsamling till modellträning, säkerhetstestning, validering, deployment och operativ användning. Ett robust juridiskt system behöver därför kunna spåra hur ett beslut eller en handling uppstod och vilka människor som hade möjlighet att påverka systemets funktion.
Begrepp som spårbarhet, verifierbarhet, loggning, testbarhet och mänsklig kontroll blir därmed inte enbart tekniska kvalitetskrav utan även möjliga juridiska kontrollmekanismer. Om ett system kan fatta beslut som får dödliga konsekvenser måste det vara möjligt att fastställa hur beslutet uppstod, vilka parametrar som var aktiva, vilka data systemet använde och vilken mänsklig kontroll som fanns vid tidpunkten för användningen.
Varför ett internationellt avtal behövs:
Eftersom autonoma vapensystem kan utvecklas, produceras och användas över nationsgränser räcker det inte med enskilda nationella lagar om målet är en global reglering. Ett land kan införa stränga regler samtidigt som ett annat land utvecklar och exporterar samma typ av teknik. Ett internationellt bindande avtal skulle därför kunna skapa gemensamma minimikrav för utveckling, produktion, överföring och användning.
FN:s arbete inom CCW är en central del av denna process. Under 2026 har expertgruppen fortsatt arbetet med ett möjligt internationellt instrument för autonoma vapensystem. Det finns dock ännu inget globalt bindande förbud mot autonoma vapensystem. Diskussionerna omfattar bland annat hur sådana system ska definieras, vilka system som ska förbjudas och vilka andra system som i stället ska omfattas av begränsningar. (UNODA Docs Library)
Det internationella regelverket skulle därför kunna bygga på en kombination av förbud och reglering. System som inte kan kontrolleras eller vars effekter inte rimligen kan förutses skulle kunna förbjudas, medan andra autonoma funktioner skulle kunna begränsas genom krav på mänsklig kontroll, geografiska och tidsmässiga begränsningar, definierade måltyper och möjlighet till omedelbart ingripande.
Drönare och autonoma vapensystem:
Det är samtidigt viktigt att skilja mellan drönare som teknisk plattform och autonoma vapensystem som beslutsfunktion. En drönare är inte automatiskt ett autonomt vapen. Ett obemannat luftfartyg kan exempelvis fjärrstyras av en människa, medan ett mer autonomt system kan använda sensorer och programvara för att självständigt identifiera och angripa ett mål.
Den juridiska och tekniska diskussionen bör därför inte handla om att förbjuda all drönarteknik. Drönare har också fredliga användningsområden inom exempelvis forskning, räddningstjänst, jordbruk och miljöövervakning. Den centrala frågan är i stället vilken grad av autonomi som tillåts när tekniken används för att utöva våld. Hur kan man göra för att låta oetiskt programmerade ai system, kanske få en uns vett och inse en människa skadas, om inte hela byar och etniska rensningar och en ny förintelse som pågår i t.e.x. Gaza?
Det är just denna gränsdragning som gör definitionen av autonoma vapensystem så betydelsefull. Ett för snävt regelverk kan skapa tekniska kryphål, medan ett alltför brett regelverk riskerar att omfatta teknik som inte innebär samma juridiska och humanitära risker. FN:s pågående förhandlingar visar att denna gränsdragning fortfarande är föremål för internationell diskussion. (UNODA Docs Library)
Ett möjligt tekniskt och juridiskt säkerhetssystem:
Ett framtida regelverk skulle kunna förena programmeringsvetenskap med internationell humanitär rätt genom att göra mänsklig kontroll till ett verifierbart tekniskt krav. Ett sådant system skulle exempelvis behöva kunna dokumentera vilka måltyper som är tillåtna, inom vilket geografiskt område systemet får operera, under vilken tidsperiod det får vara aktivt och vilka beslut som måste godkännas av en människa.
Tekniskt skulle detta kunna kompletteras med revisionsbara loggar, kontrollfunktioner, säkerhetsbegränsningar och mekanismer för omedelbar avaktivering. Juridiskt skulle kraven kunna kombineras med ansvar för utvecklare, tillverkare, militära organisationer och beslutsfattare. På detta sätt skulle programmering inte ersätta juridiken, utan fungera som ett tekniskt lager som gör juridiska krav möjliga att kontrollera.
En central princip skulle därmed vara att ett system aldrig får ges ett handlingsutrymme som gör att människan i praktiken förlorar möjligheten att förstå, kontrollera eller stoppa användningen av våld. Detta ligger nära ICRC:s uppfattning att graden av mänsklig kontroll bör vara central när autonoma vapensystem bedöms. (ICRC)
Slutsats:
Frågan om autonoma vapensystem är därför inte enbart en fråga om framtida robotar eller avancerad programmering. Den handlar om relationen mellan teknik, mänskligt ansvar, internationell rätt och möjligheten att kontrollera våld. När en programvara får möjlighet att självständigt identifiera, välja och angripa mål förändras förutsättningarna för hur ansvar kan utkrävas och hur internationell humanitär rätt kan tillämpas.
Ett globalt förbud mot vissa autonoma vapensystem skulle kräva ett internationellt juridiskt bindande avtal, eftersom EU:s AI-förordning uttryckligen undantar AI-system som används uteslutande för militära, försvarsrelaterade och nationella säkerhetsändamål. (EUR-Lex) FN:s pågående arbete inom CCW är därför centralt för den fortsatta utvecklingen av internationella regler.
Att “skrota mördarmaskiner” är därmed inte allenast en teknisk fråga om att förstöra all avancerad robotik eller alla drönare. Den rättsliga kärnfrågan är snarare om det internationella samfundet vill sätta en gräns för när beslut om liv och död får delegeras till maskiner. I augusti 2026 upprepade FN:s generalsekreterare António Guterres och ICRC:s president Mirjana Spoljaric sin uppmaning till stater att snabbt anta nya internationella regler för autonoma vapensystem och framhöll särskilt risken med att maskiner självständigt riktar våld mot människor. (ICRC)
Ur ett IT-vetenskapligt perspektiv kan den övergripande principen därför formuleras som att ju större autonomi ett tekniskt system har över handlingar med potentiellt irreversibla konsekvenser, desto starkare måste kraven vara på verifierbarhet, spårbarhet, mänsklig kontroll och juridiskt ansvar. Ett internationellt regelverk skulle kunna göra dessa principer till bindande krav och därigenom begränsa utvecklingen och användningen av vapensystem där människans beslut ersätts av maskinell autonomi.
