Kunstig etik

Det er jo egentlig et klassisk problem: KI-forskere har for travlt med at tale om, hvad deres chatbots kan, til at spørge sig selv, om de burde. Eller som journalist Elizabeth Lopatto mere spidst formulerer det i The Verge: “Chatbots kan ikke tænke, og jeg er i stigende grad begyndt at overveje, om deres skabere selv er i stand til at gøre det.” Når forventningen er, at KI’en skal kunne agere etisk ekspert, begynder tingene i hvert fald at køre af sporet: “ChatGPT kan, bare så vi har det på det rene, ikke svare pålideligt på et faktuelt historisk spørgsmål. Forestillingen om, at brugerne skal kunne stole på dens sofistikerede, abstrakte moralske ræsonnementer, er objektivt set vanvittig.“