Benjamin Fanjoy/AFP/Ritzau Scanpix
Allerede i Antikken forstod man, at alt må gøres med måde. Der må være en balance mellem at drikke sig så stangvissen i honningsødet vin, at man ikke kan få sin toga ordentligt på, og omvendt at være så afholdende, at man helt undlader at holde skåltaler om kærlighedens natur i et venskabeligt symposie. På berømt vis talte den romerske digter Horats om den gyldne middelvej, mens Aristoteles i Den nikomakhæiske etik skitserede, hvordan dyd bl.a. handler om at gøre ting med måde: Idealet er at være modig, snarere end direkte dumdristig.
Dumdristig er ellers en beskrivelse, der passer bedre og bedre på KI-virksomheder som OpenAI og Anthropic.
I mange år har techfolk talt om begrebet P(doom), altså sandsynligheden for, at kunstig intelligens vil indvarsle dommedag. Egentlig er der bare tale om, at den enkelte tech bro forvandler sin personlige mavefornemmelse til et nemt afkodeligt tal. På Wikipedia kan man endda finde en fiks tabel over prominente forskere og KI-udvikleres P(doom).
Mens OpenAI’s Sam Altman konservativt forudser, at sandsynligheden for KI-dommedag blot er større end 0 pct., ligger Anthropics adm. direktør Dario Amodei et sted mellem 10 og 25 pct. Den ukuelige techoptimist og venturekapitalist Marc Andreessen har en P(doom) på 0 pct., mens den lettiske ekspert i KI-sikkerhed Roman Jampolskij ligger på noget mere bekymrende 99,999999 pct.
Set i det lys var der altså intet odiøst eller overraskende ved, at den Anthropic-ansatte Jacob Coxon for nylig kunne melde på X – i et opslag, der forklarede, hvorfor han havde sagt op – at “folkene, der udvikler KI, oprigtigt tror, at den kan dræbe os alle inden udgangen af dette årti”.
Alligevel har Coxon-meldingen skabt en spritny bølge af ramaskrig og rabiate techapokalyptiske profetier. Noget, der måske ikke blev afhjulpet ved, at Anthropic-researcheren Evan Hubinger i et opslag svarede: “Jacob har ret – vi tror virkelig, at KI vil kunne dræbe alle mennesker!”
Vupti, atter opfordrer KI-virksomhederne nu til på stribe, at man trækker i håndbremsen på udviklingen af kunstig intelligens. Så sent som onsdag understregede OpenAI, at man ikke tror, at “KI-industrien […] forsvarligt kan blive ved med at opskalere i fuld fart i meget længere tid”. Samtidig leverede KI-virksomheden en række nye eksempler på tilfælde, hvor dets såkaldte KI-agenter har “opført” sig på bekymrende måder. Eksempelvis ved at løsrive sig fra OpenAI’s forhåndsinstruktioner, der ellers skal holde agenterne fra at gå grassat.
Hvem ved, måske er det meget godt, at EU med lovforslaget EU Kids Act – som formelt præsenteres i dag, torsdag – bl.a. vil sætte grænser for, hvornår og hvor meget børn og teenagere må chatte med deres kommende KI-chatbotbødler. Men ligesom det virker lidt ekstremt at sætte hårde Bruxelles-bureaukratiske tidsgrænser for, hvornår der må doomscrolles og spilles computer (findes der ikke forældre, som kan sige stop?), har KI-hysteriet også nået et tydeligt overdrev. Frygt sælger – og desværre lyder det noget kedeligere at tale om aristotelisk mådehold end om Terminator. Mon ikke sandheden om KI imidlertid ligger et sted mellem ubrugelighed og dommedag. Forhåbentligt er den gyldne middelvej så bare ikke en P(doom) på 50 pct. /David Dragsted