Onlangs meldde nieuwssite Axios dat het Amerikaanse Ministerie van Oorlog in een conflict is verwikkeld met een van haar belangrijkste leveranciers van AI: Anthropic, bekend van de chatbot Claude. Het AI-bedrijf, dat zich profileert als ethisch en veilig, wil eisen stellen aan het gebruik van hun technologie door het leger. Volgens Axios zou Anthropic niet willen dat Claude wordt ingezet voor het bespioneren van de Amerikaanse bevolking, of bij het ontwikkelen van wapens die zonder menselijke tussenkomst het vuur openen. Het Pentagon is hier niet van gediend, schrijft Axios, en dreigt een contract van 200 miljoen te ontbinden.

De kwestie roept vragen op over hoe ethisch het gebruik van AI in oorlogsvoering eigenlijk is. Conflictwetenschapper Lauren Gould (UU) doet onderzoek naar de manier waarop AI wordt ingezet in oorlogen, zoals in Oekraïne en Gaza. Tijdens de Futuristen vertelde ze hoe AI-modellen met een ongekende snelheid grote hoeveelheden data, zoals Whatsapp-contacten, familiebanden en chatgesprekken kunnen analyseren om potentiële vijanden op te sporen. Dat lijkt efficiënt, vertelt Gould, maar is in werkelijkheid behoorlijk foutgevoelig. Bijvoorbeeld tijdens het vertalen van chatberichten worden fouten gemaakt, waardoor burgers onterecht tot doelwit gemaakt kunnen worden.

Wat de toename van AI-gebruik in oorlogsvoering laat zien, is dat de menselijke rol op het slagveld steeds kleiner wordt, stelt Gould. Israëlische officieren die het AI-systeem Lavender gebruiken om Hamas-strijders te identificeren en markeren voor een aanval, hebben slechts 20 seconden om te bepalen of iemand een legitiem doelwit is. Een wel erg kort tijdsbestek om te beslissen over leven en dood.

Wil je nu meer weten over het gebruik van AI in oorlogsvoering? En erachter komen wat de risico’s zijn van de verstrengeling tussen Big Tech en defensie? Kijk dan hieronder naar onze avond met Lauren Gould.