Israels AI-maskine siger 'Dræb!'

Det har tidligere været fremme, at Israels hær (IDF) bruger små, effektive dræberdroner – såkaldte quadcopters – i krigen mod Hamas i Gaza. Dræberdronerne er udstyret med maskingeværer og missiler og fungerer godt i korte militære operationer af typen ‘hurtigt ind, hurtigt ud’. Quadcopterne kan gennemsøge bygninger og selv identificere mulige mål – både lokaliteter og mennesker.

NGO’en Euro-Mediterranean Human Rights Monitor, som har hovedsæde i Génève, udsendte i februar en rapport om IDF’s brug af de her droner. Rapporten konkluderer, at adskillige civile palæstinensere er blevet dræbt af geværild fra dronerne. Et eksempel, som Euro-Med Monitor dokumenterer, er drabet på to brødre, Muhib og Elyas Osama Ezz El-Din Abu Jama, henholdsvis 19 og 17 år, som fandt sted i Al-Shaboura-flygtningelejren i Rafah i den sydlige del af Gaza-striben d. 12. februar. “Vi hørte skud omkring kl. kvart i to om natten,” udtaler drengenes far, Osama, til Euro-Med Monitor. “Da vi befandt os inde i et telt, vidste vi ikke, hvad der skete, så jeg gik udenfor og så, at alle løb rundt. Mine drenge hørte skuddene og vågnede og spurgte, hvad der skete.” Inden for et minut begyndte en quadcopter i luftrummet over lejren at skyde “direkte på vores telt”. Muhib og Elyas blev dræbt, Osama blev selv såret, men fik reddet sine andre børn væk fra teltet.

Andetsteds i rapporten fremgår det, at det var IDF’s droner, som d. 11. januar åbnede ild mod en større gruppe af palæstinensere, som var samlet for at få udleveret mel fra FN’s lastbiler. Her meldtes om 50 døde og mange sårede. Ifølge vidnesbyrd indsamlet af Euro-Med dukkede quadcopter-dronerne op ud af det blå og begyndte at skyde mod forsamlingen.

Det er jo i sig selv super skræmmende med disse droneangreb. Brugen af dronerne er et indblik i en krigsførelse, som man – måske naivt – havde håbet lå et stykke ude i fremtiden. Men det bliver værre endnu. Det er, som om den israelske hær bruger krigen i Gaza til at teste noget uhyggeligt digitalt isenkram, som vel nok kunne tåle at blive diskuteret internationalt på samme måde, som man fx engang har diskuteret brugen af giftgas i krigsøjemed.

Onsdag publicerede det venstreorienterede israelske magasin +972 en lang, dybdegående artikel om et særligt militært program, som IDF er begyndt at benytte sig af. Programmet er baseret på kunstig intelligens og bærer navnet ‘Lavender’. +972 skriver: “Ifølge seks israelske efterretningsofficerer, som alle har tjent i hæren under den igangværende krig i Gaza-striben, og som har førstehåndserfaring med at bruge kunstig intelligens til at generere attentatmål, har Lavender spillet en central rolle i det hidtil usete bombardement af palæstinensere, navnlig i krigens første fase. Ifølge kilderne har det haft så stor indflydelse på militærets operationer, at AI-maskinens output er blevet behandlet, “som hvis det var en menneskelig beslutning”.

Her er det svært at ikke at hæfte sig ved verbet “generere”. Mennesker træffer beslutninger på baggrund af de oplysninger, der er til rådighed, og det samme gør kunstig intelligens selvfølgelig. Men “generere” understreger computerens involvering. Lavender er først og fremmest designet til at kunne genkende mistænkte militante fra Hamas og Islamisk Jihad og straks markere dem som potentielle bombemål. Men +972’s kilder fortæller, at IDF havde fuld tillid til Lavender, selv om programmet havde udpeget hele 37.000 mistænkte militante og deres bopæl som mulige bombemål.

Lavenders drabsliste blev taget for gode varer, og der var ikke nogen grundig kontrol af, hvordan programmet var nået frem til de navne. Noget af det var selvfølgelig baseret på det israelske efterretningsvæsens rådata, men det blev heller ikke undersøgt nærmere. “En kilde siger, at menneskeligt personale ofte kun fungerede som et ‘gummistempel’ for maskinens beslutninger, og tilføjede, at de normalt kun brugte omkring ’20 sekunder’ på hvert mål, før en bombning blev autoriseret – og det var blot for at sikre, at det mål, som Lavender havde udpeget, var en mand. Dette skete, selv om man vidste, at systemet begår, hvad der betragtes som ‘fejl’, i cirka 10 pct. af tilfældene og er kendt for lejlighedsvis at markere personer, der kun har en løs forbindelse til militante grupper eller ingen forbindelse overhovedet.”

Læs teksten – hårene rejser sig på en. Der er stadig folk, som bilder sig ind, at IDF er verdens “moralske hær”; at man er åh-så-forsigtig, når man bomber, og at den palæstinensiske civilbefolkning kun bliver ramt, fordi Hamas gemmer sig bag den. Det gør Hamas helt sikkert også, men et tabstal på 32.000 mennesker, hovedsageligt kvinder og børn, er vanvittigt. Hvis det var den israelske storby Tel Aviv, som Hamas gemte sig i, så ville respekten for civile liv have været så meget større. /Oliver Stilling