VN-leiders maken zich zorgen over de mogelijke gevaren van AI: Kan een AI-forum de ergste gevolgen voorkomen?
VN-leiders maken zich zorgen over de mogelijke gevaren van AI. Kan een AI-forum de ergste gevolgen voorkomen?
De VN-vlag wappert op een stormachtige dag tijdens de Algemene Vergadering van de Verenigde Naties op 22 september 2022.
Terwijl wereldleiders deze week hun beloftes en gevaren afwegen tijdens de jaarlijkse topbijeenkomst van de Verenigde Naties (VN) in New York, kondigt de VN een bijeenkomst aan die vergelijkbaar is met COP voor internationale AI-governance, en een expertpanel dat jaarlijkse rapporten zal presenteren tijdens het forum.
Kunstmatige intelligentie (AI) stond centraal op de jaarlijkse VN-topbijeenkomst. Leiders van de VN-Veiligheidsraad bespraken de mogelijke voordelen en gevaren van AI in de context van veiligheid, militaire toepassingen en desinformatie.
“De vraag is niet of AI invloed zal hebben op internationale vrede en veiligheid, maar hoe we die invloed verantwoord kunnen vormgeven,” zei VN-secretaris-generaal António Guterres tijdens zijn openingsremarks op de bijeenkomst van woensdag. “AI kan preventie en bescherming versterken, voedselonzekerheid en ontheemding anticiperen, ontmijningsacties ondersteunen, helpen bij het identificeren van mogelijke geweldsuitbraken, en nog veel meer. Maar zonder richtlijnen kan het ook worden gewapend,” voegde Guterres toe.
Het algemene debat van woensdag concentreerde zich rond hoe de Raad kan helpen om de verantwoorde toepassing van AI te waarborgen, in overeenstemming met het internationaal recht en ter ondersteuning van vredesprocessen en conflictpreventie.
Hoe hebben wereldleiders gereageerd?
Verschillende Europese leiders benadrukten de noodzaak dat de Raad de leiding neemt om ervoor te zorgen dat AI niet door legers wordt gebruikt zonder menselijke supervisie, om zo potentieel verwoestende escalaties of misfires te voorkomen.
De Griekse premier Kyriakos Mitsotakis riep de Raad op om “de uitdaging aan te gaan – net zoals het ooit de uitdagingen van nucleaire wapens of vredeshandhaving het hoofd bood, zo moet het nu ook opstaan om het tijdperk van AI te regeren.”
De Britse vice-premier David Lammy benadrukte dat diepgaande AI-analyse van situationele data een belofte voor vrede inhoudt, en zei dat AI in staat is tot “ultra-nauwkeurige, realtime logistiek, ultra-nauwkeurige realtime sentimentanalyse, en ultra-vroegtijdige waarschuwingssystemen.”
VN richt nieuwe organen op voor AI
Vorige maand kondigde de Algemene Vergadering van de VN (UNGA) aan dat het twee belangrijke organen voor AI zal opzetten – een onafhankelijk wetenschappelijk panel van experts en een wereldwijd forum.
De VN verklaarde in een persbericht dat de nieuwe governance-structuur een veel inclusievere vorm van internationale governance zal zijn en de kwesties rondom AI zal aanpakken, en ervoor zal zorgen dat het alle mensen ten goede komt.
Het Wetenschappelijk Panel, waarvoor 40 experts via nominaties zullen worden aangesteld, zal jaarlijkse rapporten presenteren tijdens het forum genaamd Global Dialogue on AI Governance, dat in 2026 in Genève en in 2027 in New York zal plaatsvinden.
De nieuwe oprichting wordt gezien als de grootste inspanning tot nu toe om AI in te perken. Experts hebben het “een symbolische triomf” genoemd. “Het is verreweg de meest globale inclusieve benadering van AI-governance,” schreef Isabella Wilkinson, een onderzoeker bij het in Londen gevestigde denktank Chatham House, in een blogpost.
Britannië, Frankrijk en Zuid-Korea hebben allemaal wereldwijde AI-toppen gehouden, maar geen van deze heeft geleid tot bindende toezeggingen voor AI-veiligheid. Wilkinson is echter sceptisch over de mogelijkheid van de VN om een snel veranderende technologie zoals AI te reguleren. “Maar in de praktijk lijken de nieuwe mechanismen voornamelijk machteloos,” voegde ze toe.
De VN-chef zal donderdag een bijeenkomst houden om de twee nieuwe organen officieel te lanceren. Het zal de eerste keer zijn dat alle 193 lidstaten van de VN een stem hebben in de ontwikkeling van internationale AI-governance, aldus de VN.
Eerder hadden vooraanstaande AI-experts en Nobelprijswinnaars, waaronder senior figuren van OpenAI, Google DeepMind en Anthropic, een oproep gedaan aan de Verenigde Naties om het voortouw te nemen in het opstellen van een bindend wereldwijd verdrag dat “minimale richtlijnen” voor AI vastlegt om de “meest urgente en onaanvaardbare risico’s” te voorkomen.
Onder de ondertekenaars van de oproep bevonden zich Europese wetgevers, waaronder de Italiaanse voormalige premier Enrico Letta en de voormalige president van Ierland, Mary Robinson, die momenteel een hoge VN-commissaris voor mensenrechten is.
