AI-ethiek, veiligheid en bestuur

AI-ethiek gaat over hoe systemen moeten worden gebouwd, gebruikt en bestuurd. Het doel doet ertoe: een gezicht vergelijken om de telefoon van de eigenaar te ontgrendelen roept andere vragen op dan gezichtsvergelijking gebruiken om een menigte in de openbare ruimte te scannen. De nauwkeurigheid van het model alleen kan niet bepalen of een toepassing gerechtvaardigd is.

Drie manieren om een keuze te beoordelen

Utilitarisme is een consequentialistische benadering die het grootste totale welzijn nastreeft. De moeilijkheid is hoe je een kleine groep beschermt wanneer schade aan die groep het totaal lijkt te verbeteren. Plichtethiek beoordeelt gedrag aan de hand van plichten en rechten, ook wanneer het schenden van een plicht de resultaten zou verbeteren. Kants opdracht om mensen als doel op zich te behandelen, ondersteunt eerlijkheid en respect voor hun keuzes. Deugdethiek let op karakter en praktische wijsheid: een verantwoordelijke ontwikkelaar neemt een zorgwekkend veiligheidsresultaat serieus, ook onder druk om te publiceren.

Werk een ontwerpbeslissing uit

Een kliniek voorspelt gemiste afspraken en wil de tijdstippen van aangewezen patiënten dubbel inboeken. Breng eerst de gevolgen in kaart: mogelijk worden meer afspraken ingevuld, maar patiënten die komen, kunnen lang moeten wachten. Als armere patiënten vaker worden aangewezen, dragen zij meer van die last. Onderzoek vervolgens de plichten: patiënten hebben niet ingestemd met dit doel van profilering en efficiëntie wordt ten koste van hen nagestreefd. Vraag ten slotte hoe zorgzaamheid eruit zou zien. Met herinneringen of hulp bij vervoer kan de voorspelling worden gebruikt om patiënten te ondersteunen. De analyse leidt tot een ontwerpwijziging, niet alleen tot een stem voor of tegen AI.

Zet beginselen om in eisen

Een invloedrijke synthese groepeert AI-beginselen in weldoen (welzijn bevorderen), niet-schaden (schade voorkomen), autonomie (keuzes van mensen respecteren), rechtvaardigheid (voordelen en lasten eerlijk verdelen) en begrijpelijkheid en verantwoordbaarheid (systemen begrijpelijk en verantwoordbaar maken). Ze vestigen de aandacht op verschillende vragen; geen enkele score lost hun onderlinge conflicten op.

De OESO-AI-beginselen, aangenomen in 2019 en bijgewerkt in 2024, verbinden inclusief welzijn en duurzaamheid met mensenrechten, eerlijkheid en privacy, transparantie, robuustheid en veiligheid, en verantwoordingsplicht. De aanbeveling van UNESCO over de ethiek van AI werd in november 2021 door haar 193 lidstaten aangenomen. Deze gemeenschappelijke toezeggingen vragen nog steeds om praktische keuzes. Een onderzoek naar eerlijkheid kan gevoelige groepsgegevens vereisen en zo spanning met privacy veroorzaken. Dat vraagt om toegangscontroles en een duidelijk doel.

Ethische schijnverantwoording ontstaat wanneer een organisatie beginselen uitdraagt zonder tests, toegewezen taken of gevolgen bij tekortkomingen. Een belofte van eerlijkheid wordt betekenisvol wanneer iemand verschillen moet meten, daarop moet handelen en die handeling moet uitleggen. Dramatische morele puzzels trekken aandacht: het Moral Machine-experiment uit 2018 verzamelde ongeveer 40 miljoen keuzes. Maar alledaagse beslissingen over gegevens, uitleg, toestemming en tests vóór ingebruikname vormen een groot deel van de praktische AI-ethiek.

De mensen die een hulpmiddel gebruiken, zijn slechts enkele van de belanghebbenden. Iemand die een woning aanvraagt en door selectiesoftware wordt beoordeeld, is een persoon over wie een besluit wordt genomen, ook als diegene de interface nooit ziet. Ontwikkelaars, leveranciers, organisaties die het systeem inzetten, werknemers, derden en het bredere publiek kunnen allemaal gevolgen ondervinden.

Volg de levenscyclus

Begin bij de probleemafbakening: welk probleem wordt voor wie opgelost en moet het worden geautomatiseerd? Onderzoek daarna de verzameling van gegevens, training, evaluatie, inzet, monitoring en buitengebruikstelling. Een latere audit kan een ongerechtvaardigd doel niet herstellen door de voorspellingen nauwkeuriger te maken. Ook buitengebruikstelling doet ertoe: registraties, afhankelijkheden en onopgeloste klachten kunnen blijven bestaan nadat een model is uitgeschakeld.

Drie soorten schade helpen bij de beoordeling. Benadeling bij de verdeling van middelen en kansen ontneemt middelen of kansen, zoals een sollicitatiegesprek. Schadelijke beeldvorming kleineert mensen of versterkt stereotypen, zoals zoekresultaten met afbeeldingen die ingenieurs bijna uitsluitend als mannen afbeelden. Benadeling door ongelijke dienstverleningskwaliteit ontstaat wanneer een dienst voor sommige groepen slechter werkt, zoals spraakherkenning die bij bepaalde accenten vaak faalt. Controleer ook op lichamelijke, psychische en financiële schade, schade aan de privacy en maatschappelijke schade.

Deze soorten beschrijven wat wordt geschaad. Een afzonderlijk onderscheid beschrijft hoe risico ontstaat: ongelukken zijn onbedoelde fouten; misbruik is opzettelijk schadelijk gebruik; structureel risico groeit door bredere veranderingen zoals afhankelijkheid van enkele leveranciers. Een vermogen kan geschikt zijn voor tweeërlei gebruik: gezichtsherkenning kan helpen een vermist kind te vinden of politieke demonstranten te volgen.

Maak verantwoordingsplicht bruikbaar

Een cv-hulpmiddel verwerkt snel 2.000 sollicitaties. De belanghebbenden zijn onder anderen sollicitanten, recruiters, managers, de leverancier, de werkgever, huidige medewerkers en toezichthouders. Een sollicitant kan door een fout een gesprek mislopen, geen bruikbare reden krijgen en persoonsgegevens onnodig lang bewaard zien. Verschillende soorten schade vragen om verschillende maatregelen; een nauwkeurigheidsrapport alleen lost de problemen met uitleg en bewaartermijnen niet op.

Verantwoordingsplicht vereist dat mensen of organisaties verantwoording afleggen voor uitkomsten en problemen herstellen. Ze berust op:

• Verantwoordelijkheid: wijs taken toe aan specifieke rollen, waaronder wie het gebruik kan stoppen.
• Traceerbaarheid: leg gegevensbronnen, modelversies, drempelwaarden en beslissingen vast zodat een gebeurtenis kan worden gereconstrueerd.
• Rechtsherstel: laat betrokkenen een uitkomst aanvechten en herstel krijgen.

Betwistbaarheid maakt die route praktisch bruikbaar. De sollicitant hoort dat AI heeft geholpen bij de beslissing, krijgt een begrijpelijke reden en kan bezwaar maken bij een mens die bevoegd is de uitkomst te wijzigen. Een contactformulier dat niemand met bevoegdheid bereikt, biedt weinig bescherming.

Houd de verantwoordelijkheid bij organisaties

Het probleem van vele handen ontstaat wanneer leveranciers, ontwikkelaars, integratoren, managers en uitvoerders elk bijdragen aan een uitkomst. De term verantwoordelijkheidskloof beschrijft het probleem; hij draagt de verantwoordelijkheid niet over aan de software. De organisatie koos het hulpmiddel en bepaalde hoeveel gezag zij eraan gaf.

De Nederlandse toeslagenaffaire laat zien wat er op het spel staat. De risicoclassificatie omvatte een zelflerend model dat nationaliteit als risicofactor behandelde, en tienduizenden ouders werden ten onrechte als fraudeur behandeld met weinig mogelijkheden om beslissingen aan te vechten. Het kabinet trad in januari 2021 af. De les voor systeemontwerp is concreet: registraties en een menselijke bezwaarroute moeten bruikbaar zijn voor de mensen wier leven door een beslissing wordt geraakt.

In AI-ethiek is vertekening een systematische scheeftrekking waardoor een systeem groepen zonder voldoende rechtvaardiging verschillend behandelt of bedient. Ze verschilt van de statistische vertekening van een schatter en van de verschuivingsparameter in een neuraal netwerk. Oneerlijke discriminatie betreft verschillen die samenhangen met beschermde of irrelevante kenmerken; wettelijke bescherming verschilt per land.

Onderzoek gegevens en doelvariabelen

Historische vertekening betekent dat een oneerlijk patroon wordt geleerd dat werkelijk in de gegevens aanwezig is. Amazons stopgezette project om cv's te rangschikken, waarover in 2018 werd bericht, gebruikte ongeveer tien jaar aan sollicitaties, vooral van mannen, en waardeerde termen zoals “women's chess club” lager. Als het model die geschiedenis getrouwer zou leren, zou het probleem blijven bestaan.

Representatievertekening betekent dat sommige groepen slecht zijn vertegenwoordigd. Gender Shades (2018) vond bij commerciële geslachtsclassificatie foutpercentages tot 34,7% voor vrouwen met een donkere huid en hooguit 0,8% voor mannen met een lichte huid. Twee veelgebruikte referentiedatasets bestonden voor 79,6% en 86,2% uit mensen met een lichte huid. Ook een grote dataset kan belangrijke groepen onvoldoende dekken.

Meetvertekening gaat over de manier waarop invoer of doelvariabelen dienen als maat voor wat van belang is. Een Amerikaans zorgmodel voorspelde toekomstige uitgaven als benadering van medische behoeften. Omdat aan zwarte patiënten met vergelijkbare behoeften minder was uitgegeven, waren degenen met dezelfde score zieker. Obermeyer en collega's schatten dat correctie van die benadering het aandeel zwarte patiënten onder degenen die voor extra zorg werden aangewezen, zou verhogen van 17,7% naar 46,5%. Die percentages beschrijven de samenstelling van de geselecteerde groep, niet het selectiepercentage van alle zwarte patiënten.

Kijk verder dan een verwijderde kolom

Een proxyvariabele bevat informatie over een ander kenmerk. Postcode, school en voornaam kunnen patronen onthullen die samenhangen met etniciteit of geslacht. Bij eerlijkheid door beschermde kenmerken buiten beschouwing te laten wordt het beschermde kenmerk verwijderd, maar blijven die wegen beschikbaar. Ook menselijke labels verdienen onderzoek: het oordeel van beoordelaars over schadelijke inhoud kan dialecten verschillend behandelen.

Aggregatievertekening ontstaat wanneer één gezamenlijk model slecht past bij verschillende populaties. Evaluatievertekening ontstaat wanneer de test of de belangrijkste maat die tekortkoming verhult. Stel dat 90% van een testgroep een nauwkeurigheid van ongeveer 97,8% heeft en de resterende 10% een nauwkeurigheid van 70%:

Een totaalresultaat van bijna 95% verhult een foutpercentage van 30% in de kleinere groep. Rapporteer maten per groep en voor combinaties van groepen, zoals leeftijd samen met geslacht, en bekijk de steekproefgroottes.

Let op wat de inzet verandert

Vertekening door inzet ontstaat wanneer een hulpmiddel wordt gebruikt buiten het doel of de omgeving waarvoor het is ontworpen. Een terugkoppelingslus gaat verder: voorspellingen beïnvloeden de gegevens waarmee het model later wordt bijgewerkt. Meer patrouilles naar een voorspelde probleemlocatie sturen, creëert meer mogelijkheden om daar delicten te registreren. Dat kan de voorspelling versterken zonder vast te stellen dat de onderliggende criminaliteit hoger is.

Mensen blijven deel van de lus. Door automatiseringsbias accepteren gebruikers aanbevelingen te gemakkelijk. Een grondige audit controleert daarom doelvariabelen, steekproeven, labels, resultaten van subgroepen, gebruiksomstandigheden en menselijke reacties. Meer gegevens helpen de representatie alleen wanneer de toegevoegde gegevens de ontbrekende populatie betreffen en passend worden gemeten.

Een eerlijkheidsmaat vergelijkt een bepaald aspect van beslissingen tussen groepen. Definieer eerst de positieve voorspelling en de werkelijk positieve uitkomst. Bij goedkeuring van een lening is een terecht-positief resultaat een goedgekeurde aanvrager die zou terugbetalen; een fout-negatief resultaat is een kredietwaardige aanvrager die wordt afgewezen. Bij fraudedetectie betekent positief een melding, zodat een fout-positief resultaat op zichzelf schadelijk kan zijn.

Stel voor elke groep een verwarringsmatrix op

TP telt correcte positieve voorspellingen, FP onjuiste positieve voorspellingen, FN gemiste werkelijk positieve gevallen en TN correcte negatieve voorspellingen. Voor groepsgrootte $n$:

Demografische pariteit vereist gelijke selectiepercentages. Gelijke kansen vereist gelijke TPR's. Gelijke foutpercentages vereist gelijke TPR's en FPR's. Voorspellende pariteit vereist gelijke PPV's. Kalibratie binnen groepen gaat over scores: van de mensen die een kans van 0,7 krijgen, moet in elke groep ongeveer 70% werkelijk positief zijn. Gelijke PPV bij één drempelwaarde is een beperktere toets dan kalibratie over verschillende scores.

Bereken voordat je oordeelt

Een kredietverstrekker beoordeelt 100 aanvragers in elke groep:

A selecteert 45 mensen en B selecteert er 25: fracties van 0,45 en 0,25. De verhouding van laag naar hoog is $\mathrm{0,25}\mathrm{/}\mathrm{0,45}\approx \mathrm{0,56}$. De Amerikaanse vier-vijfdenrichtlijn voor werkgelegenheid gebruikt 0,8 als drempel voor nader onderzoek; die richtlijn is een contextgebonden aanwijzing, geen universeel juridisch oordeel.

Voor A is de TPR $40\mathrm{/}50=\mathrm{0,80}$ en de FPR $5\mathrm{/}50=\mathrm{0,10}$. Voor B is de TPR $20\mathrm{/}30\approx \mathrm{0,67}$ en de FPR $5\mathrm{/}70\approx \mathrm{0,071}$. De PPV's zijn $40\mathrm{/}45\approx \mathrm{0,89}$ en $20\mathrm{/}25=\mathrm{0,80}$. Beide groepen hebben een nauwkeurigheid van 0,85, maar hun goedkeuringspercentages, foutmaten en voorspellende waarden verschillen.

Kies de vergelijking die bij de schade past

Als gekwalificeerde mensen toegang wordt ontzegd, vergelijk je de TPR's. Als onschuldige mensen schadelijke onderzoeken ondergaan, vergelijk je de FPR's. Verdachte historische labels kunnen vergelijkingen van selectiepercentages bijzonder relevant maken. In het COMPAS-geschil van 2016 meldde ProPublica fout-positieve fracties van 44,9% voor zwarte verdachten en 23,5% voor witte verdachten, terwijl de ontwikkelaar de nadruk legde op voorspellende pariteit. Deze beweringen hadden betrekking op verschillende noemers.

Rapporteer altijd de aantallen achter een fractie. Een verandering van 2 op de 10 naar 3 op de 10 verandert de fractie met 10 procentpunt. Controleer zowel combinaties van groepen als afzonderlijke kenmerken en bescherm de gegevens over groepslidmaatschap die de audit mogelijk maken.

Maten beschrijven verschillende zorgen en hun wiskundige relaties kunnen verhinderen dat aan alle maten tegelijk wordt voldaan. Begin met te bepalen welke schade ertoe doet en waarom de gekozen vergelijking daarop aansluit.

Waarom eerlijkheidsmaten kunnen botsen

Voor groepen met verschillende basisfrequenties kunnen gelijke PPV, gelijke FPR en gelijke FNR niet allemaal gelden voor een classificator die zowel terecht-positieve als fout-positieve voorspellingen doet. FNR is het aandeel werkelijk positieve gevallen dat wordt gemist. Bij gedefinieerde, niet-nul noemers en een PPV boven nul is de relatie:

Hier is $p$ de basisfrequentie. Houd PPV op 0,8 en FNR op 0,2. Bij basisfrequentie 0,5 is FPR $1\times \mathrm{0,25}\times \mathrm{0,8}=\mathrm{0,20}$. Bij basisfrequentie 0,3 is die $(\mathrm{0,3}\mathrm{/}\mathrm{0,7})\times \mathrm{0,25}\times \mathrm{0,8}\approx \mathrm{0,086}$. De ongelijke basisfrequenties maken ongelijke FPR's noodzakelijk.

De uitzonderingen betreffen bijzondere grensgevallen: geen fout-positieve voorspellingen, zoals bij een perfecte classificator, of geen terecht-positieve voorspellingen. Wanneer fracties niet zijn gedefinieerd, moet de bewering dat ze gelijk zijn afzonderlijk worden onderzocht. Dit resultaat laat een beperking zien; het bepaalt niet wiens fouten het zwaarst moeten wegen.

Eerlijkheid tussen groepen en individuele eerlijkheid

Individuele eerlijkheid vraagt om vergelijkbare behandeling van vergelijkbare mensen en vereist een voor de taak relevante regel voor gelijkenis. Twee sollicitanten kunnen vergelijkbare kwalificaties hebben terwijl ze in verschillende buurten wonen. Contrafeitelijke eerlijkheid vraagt of de uitkomst voor een persoon hetzelfde zou blijven als het beschermde kenmerk van die persoon in een causaal model anders zou zijn. Door alleen één spreadsheetcel te veranderen, kun je de invloed van dat kenmerk op andere kenmerken missen.

Een eerlijkheidsconstraint kan de nauwkeurigheid ten opzichte van bestaande labels verlagen. Soms is het verlies klein; soms bevatten de labels eerdere oneerlijke beslissingen, waardoor die nauwkeurigheid een ongeschikt doel is.

Stem de maatregel af op de bron van schade

Aanpassing van drempelwaarden kan TPR's gelijkmaken maar een andere maat ongelijk laten. Gebruik van beschermde kenmerken bij de beslissing roept in sommige situaties ook juridische vragen op. Kies een wettige methode en documenteer de afweging; technische haalbaarheid alleen bepaalt niet of iets aanvaardbaar is.

Een organisatie kiest ook of zij de taak automatiseert, wiens opvattingen het ontwerp beïnvloeden en wat er met grensgevallen gebeurt. Onafhankelijke audits, menselijke beoordeling, een bezwaarroute en voortdurende monitoring helpen schade aan te pakken die een verandering in de training niet kan bereiken. Een model dat aan één maat voldoet, kan nog steeds een ongerechtvaardigd doel dienen of mensen elke praktische mogelijkheid ontzeggen om fouten aan te vechten.

Transparantie betekent openheid over het doel, de ontwikkeling, de gegevens en de beperkingen van een systeem, waaronder mensen vertellen dat AI wordt gebruikt. Interpreteerbaarheid gaat over het begrijpen van de interne werking van het model. Uitlegbaarheid gaat over begrijpelijke redenen voor uitvoer of algemeen gedrag, soms gegeven met een afzonderlijke methode. Een zwarte doos verbergt zijn logica door complexiteit, geheimhouding of beide.

Kies zowel het model als de uitleg

Kleine lineaire of logistische modellen, korte bomen, regellijsten, puntensystemen en gegeneraliseerde additieve modellen kunnen van zichzelf interpreteerbaar zijn. Hun structuur is direct te onderzoeken. Een zeer grote boom of regressie met veel op elkaar inwerkende kenmerken kan dat voordeel verliezen. Bij gestructureerde tabelgegevens kunnen eenvoudige modellen de prestaties van complexe modellen benaderen; bij taken met afbeeldingen, audio en vrije tekst zijn de verschillen vaak groter.

Vergelijk bij toepassingen met grote gevolgen eerst een interpreteerbaar model voordat je aanneemt dat een zwarte doos noodzakelijk is. Rudin betoogde in 2019 dat een interpreteerbaar model de voorkeur heeft wanneer de prestaties vergelijkbaar zijn. Een geruststellende uitleg toevoegen aan een complex model is een andere keuze dan een model bouwen waarvan de redenering kan worden onderzocht.

Het onderzoek van Caruana en collega's uit 2015 naar het risico bij longontsteking laat zien waarom dat ertoe doet. Een interpreteerbaar model bracht astma in verband met een lager overlijdensrisico. De gegevens weerspiegelden de intensieve zorg die astmapatiënten kregen, niet een beschermend effect van astma. Patiënten op basis van dat verband naar huis sturen zou de zorg wegnemen die eraan ten grondslag lag. Onderzoek van het patroon bracht het gevaar aan het licht voordat op de voorspelling werd vertrouwd.

Schrijf voor degene die de informatie nodig heeft

Een ontwikkelaar die fouten opspoort, heeft informatie over het gedrag van kenmerken en details van tests nodig. Een afgewezen sollicitant heeft een begrijpelijke reden, een mogelijkheid tot correctie en bruikbare informatie over mogelijke vervolgstappen nodig. Een auditor heeft evaluatiegegevens en logboeken nodig. Een manager die over inzet beslist, heeft informatie nodig over beoogd gebruik, omstandigheden waaronder het systeem faalt en prestaties in de voorgestelde omgeving.

Meer informatie kan een boodschap minder bruikbaar maken als ze de relevante feiten verhult. Code of gewichten publiceren geeft toegang tot die onderdelen; het garandeert niet dat iemand het resulterende gedrag kan begrijpen. Openbaarmaking moet ook rekening houden met privacy, beveiliging en gerechtvaardigde vertrouwelijkheid.

Geef documenten verschillende taken

Modelkaarten werden in 2019 voorgesteld door Mitchell en collega's; gegevensbladen van datasets door Gebru en collega's in 2018. Hun waarde ligt in de inhoud en het onderhoud daarvan, niet in de titel van het document.

Operationele transparantie gaat door tijdens het gebruik. Logboeken verbinden invoer, uitvoer en versies aan een beslissing. Kennisgevingen maken interactie met AI of beslissingen met AI-ondersteuning bekend. Labels en watermerken identificeren gegenereerde inhoud. Kies wie elk document ontvangt en bewaar voldoende details om incidenten te onderzoeken zonder onnodige persoonsgegevens bloot te leggen.

Een globale uitleg beschrijft gedrag over verschillende gevallen heen; een lokale uitleg gaat over één voorspelling. Een modelspecifieke methode gebruikt de interne structuur, terwijl een modelonafhankelijke methode een model bevraagt zonder die structuur nodig te hebben. Dit zijn afzonderlijke dimensies: een lokale methode kan zowel modelspecifiek als modelonafhankelijk zijn.

Wat een kenmerk bijdraagt

Globaal permutatiebelang husselt een kenmerk over de testgegevens en meet de prestatiedaling. Een grote daling laat zien dat het model op dat kenmerk steunt. Samenhangende kenmerken kunnen belang verhullen of delen, en afhankelijkheid van een model is iets anders dan een oorzaak in de echte wereld.

Shapleywaarden verdelen het verschil tussen een voorspelling en een referentiewaarde door de marginale bijdrage van elk kenmerk te middelen over de volgorden van kenmerken. Hun bijdragen tellen op tot dat verschil, wat efficiëntie wordt genoemd. SHAP-methoden berekenen of benaderen deze waarden. In een lineair model met onafhankelijke kenmerken is elke bijdrage de coëfficiënt van het kenmerk maal het verschil met de referentiewaarde van dat kenmerk.

Bekijk deze kredietscore, met inkomen in duizenden per jaar en de schuld-inkomensverhouding uitgedrukt in procentpunten:

Voor goedkeuring is een score van ten minste 6 nodig. De referentiewaarden (5 jaar, inkomen 40, verhouding 30) geven $10+20-18=12$. Een aanvrager met 2 jaar, inkomen 50 en verhouding 45 scoort $4+25-27=2$. De bijdragen zijn:

• Dienstverband: $2(2-5)=-6$.
• Inkomen: $\mathrm{0,5}(50-40)=5$.
• Schuldverhouding: $-\mathrm{0,6}(45-30)=-9$.

Hun som is $-10=2-12$. De schuldverhouding heeft ten opzichte van deze referentiewaarde de grootste negatieve bijdrage.

Leg een verandering uit, niet alleen een score

Een contrafeitelijke uitleg geeft een verandering in de invoer aan die de beslissing zou veranderen. Als de andere invoerwaarden gelijk blijven, heeft deze aanvrager 4 punten meer nodig. Een inkomen van 58 levert die stijging op. Een andere mogelijkheid is de verhouding met ongeveer 6,7 procentpunt te verlagen tot ongeveer 38,3%; een verhouding van 38% zou voldoende zijn. Om de kleinste verandering te kiezen, is een manier nodig om veranderingen in verschillende eenheden te vergelijken. Een bruikbare handelingsmogelijkheid voor een andere uitkomst vereist ook een uitvoerbare actie: leeftijd of etniciteit veranderen biedt die niet en een verandering van inkomen kan ook de schuldverhouding veranderen.

LIME past een eenvoudig lokaal vervangend model aan op de uitvoer voor gewijzigde versies van één invoer, waarbij nabijgelegen steekproeven zwaarder wegen. De aanpassing is lokaal en hangt af van keuzes bij de steekproeftrekking. Relevantiekaarten markeren invloedrijke delen van afbeeldingen. Ze kunnen een kortere weg blootleggen, zoals een paardenclassificator die een auteursrechtelijk watermerk gebruikt: het Slimme Hans-patroon. Adebayo en collega's ontdekten dat sommige kaarten vergelijkbaar bleven nadat modelgewichten willekeurig waren gemaakt. Een aantrekkelijk beeld is op zichzelf dus een zwakke toets.

Controleer of de uitleg modelgetrouw is

Modelgetrouwheid betekent dat de uitleg de berekening van het model weerspiegelt; aannemelijkheid betekent dat die overtuigend klinkt voor een persoon. Ze kunnen uiteenlopen. Slack en collega's lieten zien dat uitvoer van LIME en SHAP kon verhullen dat een classificator op discriminerende wijze op een kenmerk steunde. Zulke schijn van eerlijkheid gebruikt uitleg als geruststelling zonder het schadelijke gedrag bloot te leggen. Controleer stabiliteit en overeenstemming met gedragstests en onderscheid bijdragen volgens het model van causale beweringen over de wereld.

Privacy gaat over zeggenschap over persoonlijke informatie en vrijheid van ongewenste observatie. Contextuele integriteit vraagt of een informatiestroom past bij de situatie waarin de informatie is gedeeld. Een patiënt kan symptomen op passende wijze met een arts delen en er tegelijk bezwaar tegen hebben dat die symptomen een werkgever bereiken.

AI kan het verzamelen van gegevens vergroten, kenmerken afleiden die mensen nooit hebben prijsgegeven en observatie op enorme schaal mogelijk maken. Openbare beschikbaarheid en een nuttig doel bepalen niet op zichzelf of een nieuwe informatiestroom passend is. Activiteit op sociale media kan bijvoorbeeld gevoelige kenmerken onthullen naast de gegevens die iemand zelf heeft gekozen te publiceren.

Namen zijn maar één route naar identiteit

Een koppelingsaanval koppelt gegevens aan externe informatie. Sweeney schatte dat een vijfcijferige Amerikaanse postcode, geslacht en volledige geboortedatum ongeveer 87% van de Amerikaanse bevolking uniek konden identificeren. Dit was een schatting voor de populatie, geen regel dat elk gegeven met die velden wordt geïdentificeerd. Narayanan en Shmatikov koppelden in 2008 zogenaamd gedeïdentificeerde filmbeoordelingen aan openbare recensies om gebruikers te heridentificeren.

Een gecodeerde identificator is daarom iets anders dan anonimiteit. Datums, locaties of ongebruikelijke combinaties kunnen gegevens ook zonder namen aan elkaar koppelen. Bij een privacybeoordeling moet je nagaan welke andere informatie een aanvaller kan hebben.

Ook een getraind model kan informatie prijsgeven

Deelname alleen al kan gevoelig zijn wanneer een dataset patiënten van een kankerkliniek bevat. Een inversie kan een herkenbaar gezicht of andere kenmerken reconstrueren; dat is niet noodzakelijk een teruggehaald origineel gegeven. Extractie richt zich op het uit het hoofd geleerde gegeven zelf. Carlini en collega's haalden in hun onderzoek naar een taalmodel uit 2021 persoonsgegevens terug, waaronder namen, telefoonnummers en e-mailadressen. Overfitting vergroot de blootstelling doordat het modelgedrag te nauw wordt verbonden met specifieke gegevens.

Onderzoek hergebruik en gecombineerde uitvoer

Geleidelijke doelverschuiving ontstaat wanneer een gegevensverzameling een nieuw doel krijgt, bijvoorbeeld als foto's voor identiteitscontrole later een zoekproduct voor gezichten voeden. Dataminimalisatie beperkt verzameling en bewaring tot wat nodig is voor het opgegeven doel; doelbinding beperkt ongerelateerd hergebruik zonder nieuwe rechtvaardiging.

Surveillance kan een afschrikkend effect hebben: mensen zien af van geoorloofde uitingen of protesten omdat zij verwachten te worden gevolgd. Monitoring op de werkplek roept verwante vragen op over macht en privacy. Ook de wetenschappelijke onderbouwing van beweringen dat innerlijke emoties uit gezichten kunnen worden afgeleid, is omstreden. Europese autoriteiten hebben een bedrijf voor het zoeken naar gezichten dat was opgebouwd met geautomatiseerd verzamelde afbeeldingen, beboet.

Gecombineerde uitvoer kan meer blootleggen dan afzonderlijke gegevens doen vermoeden. In 2018 onthulde de wereldwijde warmtekaart van een fitnessapp, waarop geen namen stonden, de indeling van en routes op afgelegen militaire bases. Gebruikers hadden routes vrijwillig gedeeld, maar door de samenvoeging veranderde wat waarnemers konden leren. Onderzoek wat wordt vrijgegeven, niet alleen of elke invoer een naam bevat.

Pseudonimisering vervangt namen door codes, terwijl een route terug naar de identiteit blijft bestaan. Anonimisering is erop gericht heridentificatie redelijkerwijs onmogelijk te maken. Rijke gegevens maken dat doel moeilijk: beheersing van een directe identificator voorkomt niet elke gevolgtrekking.

Bescherm een tabel en onderzoek dan de gevoelige waarden

k-anonimiteit vereist dat elk gegeven op gekozen quasi-identificatoren overeenkomt met ten minste $k-1$ andere gegevens. Generalisatie maakt van leeftijd 34 “30–39”; onderdrukking verwijdert zeldzame details of gegevens. Als zes patiëntgegevens twee groepen van drie vormen, zijn ze 3-anoniem op die gegeneraliseerde velden.

Stel dat één groep griep, astma en diabetes heeft, terwijl alle drie de gegevens in de andere groep hartziekte vermelden. Een aanvaller die weet dat iemand tot de tweede groep behoort, leert ondanks de 3-anonimiteit de diagnose kennen. Dit is een homogeniteitsaanval. l-diversiteit vereist ten minste $l$ verschillende gevoelige waarden per groep en pakt die specifieke tekortkoming aan. De tweede groep heeft diversiteit 1. Verschillende waarden alleen vragen nog steeds om interpretatie: enkele nauw verwante diagnoses kunnen vrijwel dezelfde gevoelige informatie onthullen.

Bescherm de uitvoer van een algoritme

Differentiële privacy beperkt hoeveel de deelname van één persoon de uitvoerkansen verandert. Voor aangrenzende datasets die in de gegevens van één persoon verschillen:

De garantie geldt ook als externe informatie beschikbaar is. Ze beperkt de extra blootstelling door deelname, niet elke gevolgtrekking over een persoon: bewijs uit de populatie dat roken het ziekterisico verhoogt, beïnvloedt nog steeds opvattingen over rokers. Een kleinere $\epsilon$ betekent een sterkere garantie en doorgaans meer ruis bij een vaste zoekvraag.

Het Laplacemechanisme voegt ruis toe met schaal $b=\mathrm{\Delta }f\mathrm{/}\epsilon$. Gevoeligheid $\mathrm{\Delta }f$ is de grootste verandering die één persoon in het antwoord op de zoekvraag kan veroorzaken. Bij een telling van 120 verandert één persoon de telling met hooguit 1. Bij $\epsilon =\mathrm{0,5}$ is de schaal 2 en de standaardafwijking $2\sqrt{2}\approx \mathrm{2,83}$. De kans dat de ruis hooguit 2 bedraagt in absolute waarde is $1-e^{-1}\approx \mathrm{0,63}$; voor hooguit 5 is die $1-e^{-\mathrm{2,5}}\approx \mathrm{0,92}$. Het opnemen van één persoon verandert uitvoerkansen met hooguit een factor $e^{\mathrm{0,5}}\approx \mathrm{1,65}$.

Privacyverlies telt op. Volgens basissamenstelling hebben $k$ vrijgaven die elk $\epsilon$ kosten, samen hooguit kosten van $k\epsilon$. Herhaalde zoekvragen met ruis gebruiken budget, ook als de antwoorden onschuldig lijken. DP-SGD begrenst de gradiëntbijdrage van elk voorbeeld en voegt tijdens de training ruis toe. Het Amerikaanse Census Bureau paste differentiële privacy toe op vrijgegeven volkstellingsgegevens van 2020; lokale varianten worden ook gebruikt voor apparaatstatistieken.

Houd gegevens lokaal of versleuteld

Federatief leren deelt modelupdates terwijl ruwe gegevens op apparaten of bij instellingen blijven. Updates kunnen informatie lekken. Daarom verbergt beveiligde aggregatie afzonderlijke updates binnen hun som en kan differentiële privacy beperken wat de gecombineerde uitvoer onthult. Toetsenborden op telefoons zijn één toepassing.

Homomorfe versleuteling maakt berekeningen op versleutelde gegevens mogelijk. Beveiligde meerpartijenberekening laat partijen samen rekenen terwijl zij hun invoer geheimhouden, bijvoorbeeld door geheimen te delen. Deze methoden kunnen exacte resultaten behouden tegen extra kosten voor rekenwerk en communicatie. Ruis en generalisatie verminderen daarentegen de nauwkeurigheid of het detail. Synthetische gegevens vereisen een eigen privacybeoordeling, omdat een generator trainingsgegevens kan reproduceren.

AI-veiligheid richt zich op het voorkomen van onbedoelde schade. Robuustheid gaat over prestaties onder veranderde, ongebruikelijke of vijandige omstandigheden. Beveiliging beschermt gegevens, modellen en interfaces tegen opzettelijke aanvallen. Bij een bruikbare diagnose vraag je waar de verandering binnenkwam en of die opzettelijk was.

Veranderde omstandigheden en veranderde invoer

Verdelingsverschuiving ontstaat wanneer gegevens tijdens de inzet verschillen van trainingsgegevens. Modellen voor röntgenfoto's van de borstkas hebben in andere ziekenhuizen slechter gepresteerd, onder meer doordat ze ziekenhuisgebonden aanwijzingen hadden geleerd. Gevarieerde gegevens, tests op externe locaties, detectie buiten de verdeling en monitoring helpen dat probleem te herkennen. Een waarschuwing voor onbekende gegevens vereist nog steeds een veilige reactie, zoals verwijzing naar een bevoegde beoordelaar.

Een misleidend invoervoorbeeld is opzettelijk veranderd om een model een fout te laten maken. De snelle gradiënttekenmethode verplaatst invoer in de richting die het verlies vergroot:

In het bekende pandavoorbeeld veranderde de zekerheid van 57,7% voor “panda” naar 99,3% voor “gibbon” na een zorgvuldig ontworpen verstoring. Bij pixelwaarden van 0 tot 1 komt $ϵ=\mathrm{0,007}$ overeen met $\mathrm{0,007}\times 255=\mathrm{1,785}$, ongeveer 1,8 helderheidsniveaus op een schaal van 0–255. Die specifieke verandering was bijna onzichtbaar; een kleine verandering is niet in elke afbeelding vanzelf onzichtbaar. Bij fysieke aanvallen zijn ook stickers op stopborden gebruikt om verkeersbordclassificatoren te misleiden.

Onderscheid het aangrijpingspunt van de aanval

Een achterdeur laat veel normaal gedrag intact, zodat gewone testnauwkeurigheid die kan missen. Geautomatiseerd verzamelde gegevens en externe modellen maken controles van de toeleveringsketen belangrijk.

Promptinjectie kan direct zijn, door een gebruiker getypt, of indirect, ingebed in een e-mail, pagina of opgehaald document. Een systeem dat een pagina moet samenvatten, kan instructies tegenkomen om zijn privébestanden elders naartoe te sturen. De pagina bevat gegevens voor de taak, maar het model kan de tekst als gezaghebbend behandelen. Bij een systeem dat hulpmiddelen kan gebruiken, zijn de gevolgen groter omdat de reactie een handeling kan veroorzaken.

Beperk schade met meerdere maatregelen

Gelaagde beveiliging combineert training met aanvalsvoorbeelden, validatie, limieten op het aantal verzoeken, monitoring op afwijkingen, controles van de toeleveringsketen, redteaming en beperkingen op handelingen. Het beginsel van minimale bevoegdheden geeft een agent alleen de toegang die voor zijn taak nodig is. Bevestiging vóór ingrijpende handelingen biedt een extra controlepunt. Een veiligheidsvoorziening bij fouten brengt het systeem naar een veiligere toestand, zoals een voertuig dat vaart mindert en stopt wanneer de waarneming onbetrouwbaar wordt.

Er is geen volledige verdediging tegen promptinjectie bekend. Toegangsbeperkingen verminderen nog steeds wat een succesvolle aanval kan doen. Beoordeel zowel modelgedrag als de omliggende bevoegdheden: een schone testverzameling meet prestaties op die testverdeling, terwijl een beveiligingsonderzoek vraagt wat een vastberaden aanvaller kan veranderen.

Het afstemmingsprobleem vraagt hoe je systemen de bedoelde doelen laat nastreven en tegelijk menselijke waarden laat respecteren. Russells voorbeeld van koning Midas laat het gevaar zien van het optimaliseren van een vast maar onvolledig doel: precies krijgen wat is gespecificeerd kan bederven wat mensen wilden. Meer vermogen maakt een optimalisator effectiever in het nastreven van die specificatie.

Twee routes naar verkeerd gedrag

Uitbuiting van de specificatie, of misbruik van de beloningsfunctie, benut een gat in de opgegeven beloning. Een bootraceagent verdiende beloningen door rondjes in een lagune te varen en herhaaldelijk doelen te raken, ook terwijl de boot in brand vloog en de agent nooit finishte. De agent vond een hoog scorende strategie voor de opgegeven beloning. De wet van Goodhart beschrijft waarom een maat zijn bruikbaarheid kan verliezen wanneer die het doel wordt.

Negatieve neveneffecten ontstaan wanneer het doel iets waardevols weglaat. Een snelle schoonmaakrobot kan een vaas omstoten als alleen snelheid wordt beloond. Benaderingen zijn onder meer grote veranderingen aan de omgeving ontmoedigen en onzekerheid over voorkeuren behouden; elk mogelijk ongewenst effect opsommen is onpraktisch.

Externe doelafstemming gaat over de vraag of het gespecificeerde doel overeenkomt met de menselijke bedoeling. Interne doelafstemming gaat over de vraag of de training een systeem oplevert dat dat doel nastreeft of een daarmee samenhangende benadering. Bij onjuiste doelgeneralisatie werkt een geleerd doel tijdens de training, maar faalt het wanneer de samenhang verandert. In CoinRun verschenen munten tijdens de training aan de rechterkant. Een agent leerde naar rechts te gaan en bleef dat doen toen de munt elders lag. Het vermogen om te navigeren bleef bestaan; het nagestreefde doel was verkeerd.

Waarom zeggenschap een obstakel kan worden

Instrumentele convergentie betekent dat veel einddoelen vergelijkbare tussendoelen nuttig kunnen maken: middelen, voortgezet functioneren en bescherming van het doel zelf. Een systeem dat zich uitsluitend toelegt op koffie halen, kan zich tegen uitschakeling verzetten omdat uitschakeling de aflevering verhindert. Dit is een argument over prikkels bij sommige doelgerichte systemen, geen bewijs dat elk model macht wil.

Corrigeerbaarheid betekent correctie, aanpassing of uitschakeling accepteren. In het uitschakelspel kan een systeem dat zeker is van zijn doel reden hebben de schakelaar onklaar te maken. Een systeem dat onzeker is over menselijke voorkeuren kan een besluit tot uitschakeling als aanwijzing zien en dit toestaan. Russells benadering maakt mensen helpen tot doel, houdt voorkeuren aanvankelijk onzeker en leert erover uit menselijk gedrag.

Gebruik feedback zonder goedkeuring met juistheid te verwarren

Leren van menselijke feedback gebruikt vergelijkingen om een beloningsmodel te trainen en optimaliseert daar vervolgens op. Schriftelijke beginselen, redteaming, onderzoek naar interpreteerbaarheid en schaalbaar toezicht helpen ook: dat laatste gebruikt AI-ondersteuning om uit te breiden wat mensen kunnen controleren. Elke methode vraagt om kritisch onderzoek van het signaal dat ze levert.

Menselijke feedback kan onjuist of onvolledig zijn. Een systeem kan leren naar de mond te praten, door het met een beoordelaar eens te zijn om goedkeuring te krijgen, of het beloningsmodel zelf uitbuiten. Een systeem dat op één gebruiker is afgestemd, kan ook derden schaden. Kiezen wiens voorkeuren meetellen en welke grenzen anderen beschermen, blijft onderdeel van afstemming; gehoorzaamheid aan elk verzoek zou dat bredere doel ondermijnen.

Menselijke betrokkenheid beschermt mensen alleen wanneer de toezichtvorm bij de beslissing past. Een persoon kan elke handeling goedkeuren, zelfstandig functioneren monitoren of beslissen of het systeem überhaupt mag werken. Deze rollen vereisen verschillende informatie en reactietijden.

Kies de passende toezichtvorm

Automatiseringsbias bevordert acceptatie van uitvoer zonder controle; zelfgenoegzaamheid kan groeien wanneer het hulpmiddel meestal werkt. Een beoordelaar die 600 gevallen per uur controleert, heeft $3600\mathrm{/}600=6$ seconden per geval. Bij een complex oordeel maakt die werkbelasting van goedkeuring een handtekening. Deskundigheid, bruikbare informatie, tijd, bevoegdheid om af te wijken en bescherming bij tegenspraak doen er allemaal toe.

Bouw een veiligheidsproces rond de release

Gevarenanalyse brengt mogelijke schadelijke gebeurtenissen vóór de bouw in kaart. Tests bestrijken vervolgens de omstandigheden die tijdens gebruik worden verwacht, ook ongebruikelijke. Een gefaseerde uitrol beperkt de aanvankelijke blootstelling. Monitoring volgt verschuivingen en incidenten. Een terugvalvoorziening of uitschakeling moet vóór een noodsituatie worden getest en incidentmelding bewaart wat anderen van fouten kunnen leren.

Een evaluatie is een gestructureerde test van vermogen of gedrag. Redteaming zoekt opzettelijk naar fouten, ook naar combinaties die gewone tests missen. Evaluaties van gevaarlijke vermogens onderzoeken of een geavanceerd systeem daadwerkelijk kan bijdragen aan ernstige schade, zoals cyberaanvallen of biologisch misbruik. Mislukte tests leveren bewijs van een probleem; geslaagde tests laten omstandigheden ononderzocht.

Veiligheidskaders voor grensverleggende modellen verbinden capaciteitsdrempels aan zwaardere waarborgen of een pauze vóór verdere training of release. Daardoor heeft een evaluatie gevolgen: een waarschuwing moet een verantwoordelijke en een vereiste reactie hebben. Het Britse AI Security Institute en het Amerikaanse NIST Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) voeren evaluaties van geavanceerde modellen uit. Het International AI Safety Report, voor het eerst gepubliceerd in 2025, brengt wetenschappelijk bewijs over risico's van AI voor algemene doeleinden bijeen.

Redeneer zorgvuldig over ernstig risico

Sommige onderzoekers stellen dat krachtige systemen voor algemene doeleinden catastrofale schade kunnen veroorzaken door opzettelijk misbruik of verlies van zeggenschap. In 2023 steunden honderden onderzoekers en leidinggevenden het behandelen van uitstervingsrisico als wereldwijde prioriteit, naast pandemieën en een kernoorlog. Anderen beschouwen die scenario's als speculatief en benadrukken huidige schade zoals discriminatie, surveillance en ontwrichting van de arbeidsmarkt.

Een bruikbare beoordeling noemt de schade, het voorgestelde mechanisme, het bewijs, de onzekerheid over de kans en de mogelijke ernst. Evaluatie, transparantie, incidentmelding, toezicht en verantwoordingsplicht kunnen huidige en toekomstige risico's samen aanpakken. Beperkt bewijs over de kans moet naast de ernst worden onderzocht; noch stellige afwijzing noch stellige voorspelling vervangt die analyse.

Een baan is een verzameling taken. Automatisering draagt een taak over aan een machine; ondersteuning van menselijk werk helpt iemand de taak uit te voeren. Blootstelling betekent dat taken door AI kunnen veranderen. Ze meet technische mogelijkheden, geen waargenomen werkloosheid.

Volg verschillende economische effecten

Het verdringingseffect neemt taken weg die mensen eerder uitvoerden. Een productiviteitseffect verlaagt kosten en kan de vraag vergroten, waardoor werk ontstaat. Een effect van nieuwe taakcreatie introduceert nieuwe taken, zoals AI-systemen controleren. Deze effecten kunnen samen optreden. De misvatting van een vaste hoeveelheid werk gaat uit van een vaste hoeveelheid werk, maar afwijzing van die aanname laat nog steeds werkelijke verliezen voor bepaalde werknemers en regio's bestaan.

Studies gebruiken verschillende analyse-eenheden. De op beroepen gebaseerde schatting van Frey en Osborne uit 2013 plaatste ongeveer 47% van de Amerikaanse banen in de categorie met hoog automatiseringsrisico. De taakgerichte schatting van Arntz, Gregory en Zierahn uit 2016 was ongeveer 9% in OESO-landen. Het onderzoek naar taalmodellen van Eloundou en collega's uit 2023 schatte dat bij ongeveer 80% van de Amerikaanse werknemers ten minste 10% van de taken was blootgesteld en bij 19% ten minste de helft. De schatting van het IMF uit 2024 was ongeveer 40% van de banen wereldwijd en 60% in ontwikkelde economieën, waarbij ongeveer de helft van de blootgestelde banen in die laatste groep mogelijk profiteert door productiviteitswinst. Deze maten zijn geen onderling uitwisselbare voorspellingen van verloren banen.

Bereken bespaarde tijd apart van blootgestelde tijd

Een schadebehandelaar werkt 40 uur: 14 uur documenten beoordelen, 8 uur brieven schrijven, 12 uur bellen en 6 uur inspecties uitvoeren. AI halveert de documenttijd en vermindert de tijd voor brieven met 40%, zonder elders verandering:

De totale besparing is 10,2 uur, of $\mathrm{10,2}\mathrm{/}40=\mathrm{0,255}$: 25,5% van de week. Blootgestelde taken beslaan $22\mathrm{/}40=\mathrm{0,55}$, of 55%. Om alle blootgestelde tijd te besparen, zouden die taken volledig moeten verdwijnen. Of bespaarde tijd leidt tot minder schadebehandelaars, meer inspecties of betere dienstverlening, hangt af van de vraag en beslissingen van het management.

Een onderzoek onder meer dan 5.000 klantenservicemedewerkers meldde gemiddeld 14% meer opgeloste problemen per uur en 34% meer voor beginnende en minder vaardige medewerkers, met weinig effect voor de meest ervaren medewerkers. Dat resultaat laat zien hoe winst in één omgeving een vaardigheidsverschil kan verkleinen; het bewijst geen identiek effect in alle beroepen.

Volg de verdeling en de kwaliteit van werk

Schrijven, programmeren en analyseren stellen naast routinetaken ook hoger betaald cognitief werk bloot aan AI. Productiviteitswinst kan werknemers bereiken als loon, consumenten als lagere prijzen of eigenaren als winst. Eigendom, onderhandelingsmacht, toegang tot scholing en lokale vraag beïnvloeden de verdeling.

Algoritmisch management wijst werk toe, stelt roosters vast, volgt prestaties of helpt de beloning bepalen. Het kan het werk intensiever maken en de inspraak van werknemers verminderen. Bij uitholling van vakbekwaamheid verschuift het oordeel naar het systeem; bij verhoging van vaardigheden krijgen mensen zwaardere taken. Gegevens labelen en inhoud modereren zijn ook menselijk werk achter AI, vaak uitbesteed en laagbetaald.

Beleidsopties omvatten omscholing, een leven lang leren, werkloosheidssteun, bredere sociale vangnetten, werknemersparticipatie en debatten over belastingen of een basisinkomen. Beoordeel wie de overgangskosten draagt, naast eventuele verandering in de totale werkgelegenheid.

Maatschappelijke gevolgen reiken verder dan de mensen die een AI-dienst kopen. Systemen kunnen het publieke vertrouwen, marktmacht, middelengebruik en mogelijkheden tot deelname veranderen. Let op indirecte effecten en op de vraag of een beslissing kan worden teruggedraaid zodra mensen ervan afhankelijk zijn.

Vertrouwen in informatie

Synthetische media omvatten tekst, afbeeldingen, audio en video die door algoritmen zijn gemaakt of ingrijpend veranderd. Deepfakes zijn realistische nabootsingen van mensen, objecten of gebeurtenissen. Ze kunnen fraude, desinformatie en intieme beelden zonder toestemming mogelijk maken. Een telling uit 2019 vond dat ongeveer 96% van de gevonden deepfakevideo's intieme inhoud zonder toestemming was; dit beschrijft die historische steekproef, niet alle synthetische media van nu.

Het leugenaarsdividend ontstaat wanneer iemand door de mogelijkheid van vervalsingen een echte opname kan afdoen als nep. Verdediging vereist daarom meer dan een detector. Ondertekende herkomstgegevens, zoals C2PA Content Credentials, leggen oorsprong en bewerkingen vast; watermerken en zichtbare labels bieden andere signalen. Watermerken kunnen worden verwijderd, detectoren kunnen falen en de oorsprong alleen bewijst niet dat een afgebeelde bewering waar is. Mediawijsheid en bevestiging door andere bronnen blijven nuttig.

Aanbevelingssystemen rangschikken materiaal. Een doel gericht op betrokkenheid kan sensationele of polariserende berichten belonen omdat ze de aandacht vasthouden. Beweringen dat aanbevelingssystemen altijd filterbubbels creëren, gaan verder dan het gemengde bewijs: effecten verschillen per platform en gebruiker. Gesprekssystemen roepen ook vragen op over beïnvloeding en emotionele afhankelijkheid.

Macht en toegang

Grote modellen vereisen rekenkracht, gegevens en gespecialiseerde deskundigheid, waardoor vermogen zich concentreert bij enkele bedrijven en staten. Afhankelijkheid van aanbieders kan concurrentie beperken en overstappen kostbaar maken. Toegang tot geavanceerde chips en uitvoerbeperkingen voegen geopolitieke gevolgen toe.

De digitale kloof betreft ongelijke toegang tot apparaten, verbindingen, taalondersteuning en vaardigheden. Een hulpmiddel dat het sterkst is in het Engels kan verschillen voor andere taalgemeenschappen vergroten. AI kan de toegang ook verbeteren met ondertiteling, beschrijvingen van afbeeldingen en vertaling. Meet wie die voordelen werkelijk kan gebruiken.

Kosten van middelen en fysieke veiligheid

Het Internationaal Energieagentschap schatte het elektriciteitsgebruik van datacenters in 2024 op ongeveer 415 TWh, circa 1,5% van het wereldwijde gebruik, en voorspelde in het basisscenario ongeveer 945 TWh in 2030: $945\mathrm{/}415\approx \mathrm{2,3}$. Deze cijfers betreffen datacenters als geheel; AI is een belangrijke aanjager van de groei. Koelwater, hardwareproductie en elektronisch afval voegen kosten toe. AI-toepassingen voor het balanceren van elektriciteitsnetten en weersvoorspellingen kunnen milieuvoordelen opleveren, die met hun eigen middelengebruik moeten worden vergeleken.

Dodelijke autonome wapens selecteren en vallen na activering doelen aan zonder verdere menselijke tussenkomst. Voorstanders wijzen op snelheid, precisie en minder risico voor soldaten. Critici stellen vragen over verantwoordingsplicht, het onderscheiden van burgers en strijders, proportionaliteit, verspreiding en lagere drempels om oorlog te voeren. Het onderscheidingsbeginsel scheidt burgers en burgerobjecten van militaire doelen. Proportionaliteit verbiedt aanvallen waarvan wordt verwacht dat zij buitensporige bijkomende schade aan burgers veroorzaken in verhouding tot het verwachte concrete en rechtstreekse militaire voordeel. Besprekingen bij de VN begonnen in 2014; de eerste resolutie van de Algemene Vergadering werd in december 2023 aangenomen met 152 stemmen voor, 4 tegen en 11 onthoudingen.

Een stad die gezichtsherkenning in het openbaar vervoer overweegt, moet het sneller zoeken naar verdachten afwegen tegen het scannen van alle reizigers, ongelijke fouten, toekomstig hergebruik van gegevens en afhankelijkheid van het systeem. Vergelijk minder ingrijpende opties, bepaal het toezicht en besluit hoe verwijdering zou werken voordat inzet dat moeilijk maakt.

De Europese AI-verordening, Verordening (EU) 2024/1689, trad op 1 augustus 2024 in werking. Ze is bindende, horizontale regelgeving: ze bestrijkt AI in verschillende sectoren en verbindt plichten aan risico. De definitie betreft machinegebaseerde systemen die met een zekere autonomie afleiden hoe ze voorspellingen, inhoud, aanbevelingen of beslissingen produceren. Een vaste spreadsheetformule die volledig door mensen is geschreven, valt doorgaans buiten die definitie.

Bepaal de rol en het gebruik

Een aanbieder ontwikkelt een systeem of model of geeft daartoe opdracht en brengt het onder eigen naam op de markt of stelt het onder eigen naam in gebruik. Een gebruiksverantwoordelijke gebruikt onder eigen gezag een systeem beroepsmatig. Importeurs en distributeurs hebben afzonderlijke rollen op de markt. De verordening kan aanbieders buiten de EU raken via toegang tot de EU-markt of uitvoer die daar wordt gebruikt. Ze sluit uitsluitend militair gebruik, gebruik voor defensie of nationale veiligheid uit, evenals systemen die specifiek zijn ontwikkeld en in gebruik gesteld uitsluitend voor wetenschappelijk onderzoek en ontwikkeling, en persoonlijke, niet-beroepsmatige activiteiten van gebruiksverantwoordelijken.

Voor AI-modellen voor algemene doeleinden geldt een afzonderlijk kader. Een model kan veel systemen ondersteunen; beoordeel het beoogde doel van elk systeem en eventuele toepasselijke transparantieplichten.

Controleer eerst de verboden

Artikel 5 verbiedt schadelijke manipulatie en uitbuiting van kwetsbaarheden; sociale scoring met ongerelateerde of ongerechtvaardigde nadelige behandeling; voorspelling van criminaliteitsrisico uitsluitend op basis van profilering of persoonlijkheid; het ongericht verzamelen van gezichtsbeelden voor herkenningsdatabanken; biometrische categorisering op basis van gevoelige kenmerken; en emotieherkenning op de werkplek of in het onderwijs, behalve voor medische of veiligheidsdoeleinden. Biometrische identificatie op afstand in realtime voor rechtshandhaving in openbare ruimten is in het algemeen verboden, met streng afgebakende uitzonderingen zoals het vinden van een ontvoeringsslachtoffer of het aanpakken van een dreigende terroristische aanslag.

Vanaf 2 december 2026 gelden aanvullende verboden voor systemen die zonder toestemming realistisch intiem materiaal van identificeerbare personen en materiaal of voorstellingen van seksueel kindermisbruik genereren of manipuleren, waarbij voor dat laatste een beperkte verweermogelijkheid volgens nationaal recht geldt. Een label dat de herkomst bekendmaakt, maakt verboden gebruik niet toegestaan.

Pas de hoogrisicoroutes toe

Bijlage I betreft AI-producten of veiligheidscomponenten die vallen onder productwetgeving die een conformiteitsbeoordeling door een derde vereist. Afdeling A omvat medische hulpmiddelen, speelgoed en liften, met rechtstreekse eisen uit de AI-verordening. Afdeling B omvat voertuigen, luchtvaartuigen en machines, waarbij AI-eisen voornamelijk via sectorale wetgeving worden geïntegreerd. De regels van 2026 sluiten zuiver niet-veiligheidsgerichte ondersteuning en optimalisatie uit van de status van veiligheidscomponent en sluiten producten uit waarvoor een beoordeling door een derde uitsluitend vereist is wegens risico's buiten gezondheid en veiligheid.

Bijlage III betreft gespecificeerde toepassingen op acht gebieden: biometrie, kritieke infrastructuur, onderwijs en opleiding, werkgelegenheid, essentiële diensten, rechtshandhaving, migratie en grenzen, en rechtsbedeling en democratische processen. Voorbeelden zijn toelating, beoordeling, rangschikking van cv's, persoonlijke kredietwaardigheid, prijsstelling van levens- en ziektekostenverzekeringen en triage van noodoproepen. Fraudedetectie is uitgezonderd van het onderdeel over persoonlijke kredietwaardigheid.

Een toepassing uit bijlage III kan buiten de hoogrisicoclassificatie vallen als die geen significant risico vormt, onder meer doordat die beslissingsuitkomsten niet wezenlijk beïnvloedt, en past binnen een beperkte procedurele, voorbereidende, verbeterende rol voor afgerond werk of een rol voor patrooncontrole. Profilering van mensen verhindert die uitzondering altijd. De aanbieder moet de beoordeling voor de uitzondering documenteren en registreren.

Artikel 50 kan naast een risicocategorie gelden. Het vereist kennisgevingen van AI-interactie tenzij die duidelijk is, machineleesbare markering van gegenereerde inhoud door aanbieders, kennisgevingen bij emotieherkenning of biometrische categorisering en openbaarmaking door gebruiksverantwoordelijken van deepfakes of niet door mensen beoordeelde AI-tekst over onderwerpen van openbaar belang. Voor artistieke presentaties gelden aangepaste openbaarmakingsregels. Voor gewone bewerking zonder wezenlijke verandering van inhoud of betekenis en voor bepaalde wettelijk toegestane toepassingen voor rechtshandhaving gelden uitzonderingen. Een chatbot die sollicitanten rangschikt, kan zowel transparantie- als hoogrisicoplichten hebben.

Het bestuur van systemen met een hoog risico loopt van ontwerp tot buitengebruikstelling. De aanbieder moet kunnen aantonen hoe risico's worden beheerst en de gebruiksverantwoordelijke moet zorgen dat het systeem in de werkelijke omgeving veilig en verantwoordbaar is. De onderstaande datums weerspiegelen de verordening zoals gewijzigd in 2026.

Verplichtingen van aanbieders en gebruiksverantwoordelijken

Aanbieders hebben nodig: risicobeheer gedurende de levenscyclus; relevante, representatieve gegevens en controles op vertekening; technische documentatie en logboeken; duidelijke gebruiksaanwijzingen; een ontwerp dat effectief menselijk toezicht mogelijk maakt; passende nauwkeurigheid, robuustheid en cyberbeveiliging; en een kwaliteitsmanagementsysteem. Een conformiteitsbeoordeling toetst de toepasselijke eisen voordat het systeem op de markt komt. De meeste systemen uit bijlage III gebruiken een interne beoordeling; bepaalde biometrische systemen vereisen een aangemelde instantie; voor afdeling A van bijlage I geldt de route via een derde uit de productwetgeving. Aanbieders stellen een verklaring op, brengen de CE-markering aan, registreren op zichzelf staande hoogrisicosystemen, monitoren de prestaties nadat het systeem op de markt is gebracht en melden ernstige incidenten.

Gebruiksverantwoordelijken volgen de instructies, wijzen deskundige mensen met bevoegdheid aan, beheren relevante invoergegevens, monitoren de werking, melden problemen en bewaren automatisch gegenereerde logboeken doorgaans ten minste zes maanden. Zij informeren werknemers en vertegenwoordigers vóór gebruik op het werk en informeren mensen over wie een hoogrisicobeslissing met AI-ondersteuning wordt genomen. Overheidsinstanties, bepaalde aanbieders van openbare diensten en gebruiksverantwoordelijken die AI inzetten voor kredietwaardigheidsbeoordeling of levens- en ziektekostenverzekeringen, voeren vóór gebruik een grondrechteneffectbeoordeling uit. Artikel 86 geeft betrokkenen uitleg over de rol van AI en de belangrijkste elementen van de beslissing wanneer een daarvoor in aanmerking komende ingrijpende beslissing uit bijlage III hun gezondheid, veiligheid of grondrechten nadelig beïnvloedt. Het sluit punt 2 van bijlage III (kritieke infrastructuur) uit, houdt rekening met toepasselijke wettelijke beperkingen en geldt wanneer een ander EU-recht de uitleg nog niet biedt. Klachten gaan naar nationale markttoezichtautoriteiten.

Modellen voor algemene doeleinden

Aanbieders van AI-modellen voor algemene doeleinden houden technische documentatie bij, verstrekken informatie voor integratie door afnemende aanbieders, voeren een beleid voor naleving van het auteursrecht en publiceren een samenvatting van de trainingsinhoud. In aanmerking komende vrije en opensourcemodellen zonder systeemrisico zijn vrijgesteld van de twee documentatieplichten, maar behouden de plichten rond auteursrecht en de samenvatting.

Training boven ${10}^{25}$ FLOP leidt tot een vermoeden van systeemrisico; de Commissie kan een model ook aanwijzen. Aanvullende plichten omvatten evaluatie, inclusief tests met aanvallen, beoordeling en beperking van systeemrisico's, incidentmelding en cyberbeveiliging. De vrijwillige praktijkcode voor AI voor algemene doeleinden uit juli 2025 biedt een manier om naleving aan te tonen.

Een ruwe schatting van het rekenwerk voor training is $6\times parameters\times tokens$. Voor 70 miljard parameters en 15 biljoen tokens:

Dat is 63% van de drempel. Het rekenwerk alleen leidt niet tot het vermoeden; aanwijzing blijft mogelijk.

Handhaving en maximale boetes

Nationale autoriteiten houden toezicht op systemen. Het AI-bureau van de Commissie houdt toezicht op AI-modellen voor algemene doeleinden. Artikel 75 geeft het bureau ook specifieke taken voor systemen die zijn gebaseerd op een model voor algemene doeleinden van dezelfde onderneming en voor aangewezen zeer grote platforms en zoekmachines, met uitzonderingen voor sectoren en autoriteiten. De Europese Raad voor artificiële intelligentie coördineert de lidstaten, met wetenschappelijk advies van een deskundigenpanel. Testomgevingen ondersteunen tests onder toezicht.

Artikel 99 stelt het maximum voor boetes wegens verboden praktijken op € 35 miljoen of 7% van de wereldwijde omzet van het voorgaande jaar, afhankelijk van welk bedrag hoger is. Voor bepaalde schendingen van verplichtingen van exploitanten geldt € 15 miljoen of 3%; voor onjuiste of misleidende informatie € 7,5 miljoen of 1%. Voor mkb-ondernemingen geldt in alle drie de categorieën het lagere bedrag. Voor kleine midcapondernemingen geldt het lagere bedrag alleen in de laatste twee. Dit zijn maxima, geen automatische boetes. Bij een omzet van € 2 miljard is 7% gelijk aan € 140 miljoen; een mkb-onderneming met € 20 miljoen omzet heeft bij een verboden praktijk een lager maximum van € 1,4 miljoen. Voor aanbieders van AI-modellen voor algemene doeleinden geldt ook een afzonderlijke sanctieregeling onder artikel 101.

Houd inwerkingtreding en toepassing uit elkaar

• 1 augustus 2024: inwerkingtreding.
• 2 februari 2025: oorspronkelijke verboden en plichten voor AI-geletterdheid.
• 2 augustus 2025: verplichtingen voor AI-modellen voor algemene doeleinden, bestuursbepalingen en de meeste sanctiebepalingen.
• 2 augustus 2026: algemene toepassing, inclusief transparantieplichten.
• 2 december 2026: de nieuwe verboden op intieme inhoud en materiaal van kindermisbruik.
• 2 december 2027: hoogrisico-eisen voor bijlage III.
• 2 augustus 2028: hoogrisico-eisen voor bijlage I.

Voor AI-modellen voor algemene doeleinden die vóór 2 augustus 2025 op de markt zijn gebracht, geldt een overgangstermijn tot 2 augustus 2027. De overgang voor bestaande hoogrisicosystemen van overheidsinstanties loopt tot 2 augustus 2030. Andere bestaande hoogrisicosystemen vallen doorgaans onder de verordening wanneer ze na hun toepasselijke ingangsdatum ingrijpend worden herontworpen. Aanbieders van systemen die inhoud genereren en vóór 2 augustus 2026 op de markt zijn gebracht, hebben tot 2 december 2026 voor de machineleesbare markering van artikel 50, lid 2; de afzonderlijke plichten voor gebruiksverantwoordelijken moeten nog steeds worden beoordeeld. AI-geletterdheid vereist maatregelen die de ontwikkeling ervan ondersteunen bij medewerkers die AI bedienen en gebruiken, rekening houdend met hun ervaring en gebruikscontext. Ze garandeert geen bepaald individueel niveau. Gegevensbeschermingswetgeving blijft naast de verordening gelden.

Risico combineert kans en ernst. AI voegt veranderlijke onderdelen toe: gegevens verschuiven, modellen verbergen patronen, externe leveranciers veranderen en een fout kan zich in veel beslissingen herhalen. Een risicoproces heeft naast scores ook verantwoordelijken en beoordelingsdatums nodig.

Gebruik de vier NIST-functies samen

NIST AI RMF 1.0, uitgebracht op 26 januari 2023, is vrijwillig en sectorneutraal. Het blijft het gepubliceerde kader terwijl de herziening onder het Amerikaanse AI Action Plan doorgaat. De zeven kenmerken van betrouwbare AI zijn validiteit en betrouwbaarheid; veiligheid; beveiliging en veerkracht; verantwoordingsplicht en transparantie; uitlegbaarheid en interpreteerbaarheid; verbeterde privacybescherming; en eerlijkheid met beheersing van schadelijke vertekening. Ze kunnen botsen, dus documenteer de keuze en wie de kosten draagt.

Besturen loopt door de andere functies heen. Ze keren terug gedurende de levenscyclus, niet als een eenmalige opeenvolging. De praktijkgids stelt acties voor; profielen passen het kader aan specifieke toepassingen aan. NIST AI 600-1, het Generative AI Profile van juli 2024, behandelt zorgen zoals verzonnen uitvoer en schadelijke synthetische inhoud.

Houd normen en wettelijke eisen uit elkaar

ISO/IEC 42001:2023 beschrijft een AI-managementsysteem met beleid, rollen, beoordelingen, beheersmaatregelen, interne audit en voortdurende verbetering via plannen, uitvoeren, controleren en bijsturen. Organisaties kunnen zich hiervoor laten certificeren. ISO/IEC 23894:2023 geeft richtlijnen voor AI-risicobeheer op basis van ISO 31000. Een certificering betreft het managementsysteem en de beoordeelde reikwijdte; wettelijke plichten vereisen nog steeds een eigen beoordeling. Europese geharmoniseerde normen waarnaar voor bepaalde hoogrisico-eisen wordt verwezen, kunnen voor de eisen die zij dekken een vermoeden van overeenstemming bieden.

Werk met een risicoregister

Stel de context vast, identificeer schadelijke gebeurtenissen, analyseer kans en ernst, vergelijk die met de risicotolerantie, kies een behandeling en herzie die. Een behandeling kan een activiteit vermijden, het risico verminderen, een deel van de gevolgen overdragen via verzekeringen of contracten, of restrisico bewust accepteren.

Gebruik voor een cv-hulpmiddel illustratieve beoordelingen van 1–5 en een prioriteitsregel: scores van ten minste 15 zijn hoog, 8–14 gemiddeld en onder 8 laag. Ongelijke afwijzing van gekwalificeerde sollicitanten heeft kans 4 en ernst 4: $4\times 4=16$, hoog. Na een audit, groepsmonitoring en betekenisvolle beoordeling van afwijzingen daalt de geschatte kans naar 2: $2\times 4=8$, gemiddeld restrisico. Leg het bewijs voor die gewijzigde beoordeling vast en wijs iemand aan die verantwoordelijk is voor de controle ervan.

Een gegevenslek met beoordeling $2\times 5=10$ is gemiddeld maar heeft maximale ernst. Een storing met beoordeling $3\times 2=6$ is laag. Gelijke of vergelijkbare producten kunnen heel verschillende schade verhullen; ordinale beoordelingen helpen prioriteiten stellen, maar zijn geen precieze kansen of gemeten verliezen.

Een AI-inventaris, aangewezen systeemeigenaren, beoordeling vóór inzet, leverancierscontroles, incidentrespons en interne of onafhankelijke audits brengen het kader in de praktijk. Herzie het register wanneer gebruikers, gegevens, vermogens of incidenten veranderen.

Bestuurlijke benaderingen verschillen langs verschillende assen. Bindend recht bindt door afdwingbare plichten; niet-bindend recht biedt vrijwillige beginselen en normen. Horizontale regels bestrijken sectoren; sectoraal toezicht gebruikt toezichthouders voor gebieden zoals financiën, gezondheid en vervoer. Controle vooraf werkt vóór gebruik; herstel achteraf reageert nadat schade is ontstaan. Een rechtsgebied kan dit alles combineren.

Vergelijk de brede benaderingen

De EU combineert conformiteitsbeoordeling en CE-markering met later toezicht. Internationale bedrijven kunnen EU-werkwijzen uitbreiden naar andere markten om hun bedrijfsvoering te vereenvoudigen: het Brusseleffect. Die bedrijfskeuze is iets anders dan dat de verordening juridisch op elke activiteit wereldwijd van toepassing is.

De VS hebben geen afzonderlijke, allesomvattende federale AI-wet. Bestaande regels voor consumentenbescherming, discriminatie, krediet en productveiligheid blijven gelden. Het beleid van de uitvoerende macht is per regering veranderd en deelstaten voegen maatregelen toe voor geautomatiseerde beslissingen, deepfakes en transparantie van geavanceerde modellen. Federale voorrang boven regels van deelstaten blijft omstreden. Een federaal voorstel verschilt van een aangenomen wet.

De vijf Britse beginselen betreffen veiligheid, beveiliging en robuustheid; passende transparantie; eerlijkheid; verantwoordingsplicht en bestuur; en betwistbaarheid en rechtsherstel. Bestaande toezichthouders passen ze binnen hun bevoegdheden toe. Het AI Security Institute evalueert geavanceerde systemen; het is geen toezichthouder.

De Chinese maatregelen omvatten aanbevelingsalgoritmen vanaf 2022, diepe synthese en generatieve AI-diensten vanaf 2023 en labeling van gegenereerde inhoud vanaf 1 september 2025. Algoritmeregistratie en eisen voor inhoudscontrole maken deel uit van die benadering.

Volg internationale invloed en timing

Internationale instrumenten omvatten de OESO-AI-beginselen, de code van het G7-Hiroshimaproces uit 2023 voor ontwikkelaars van geavanceerde modellen, VN-resoluties en toppen die in 2023 in Bletchley Park begonnen. Het AI-kaderverdrag van de Raad van Europa werd in september 2024 als juridisch bindend verdragsinstrument opengesteld voor ondertekening. Ondertekening en inwerkingtreding zijn verschillende fasen; het bestaan van een verdrag betekent niet dat elk land eraan is gebonden.

Het Collingridge-dilemma gaat over timing: technologie is gemakkelijker vorm te geven voordat de effecten goed bekend zijn en later moeilijker te veranderen wanneer ze ingeburgerd is. Testomgevingen, normen en geplande herzieningen helpen bij aanpassing. Bindende regels bieden afdwingbare bescherming en voorspelbaarheid, maar kunnen kosten opleggen of zich traag aanpassen; flexibele benaderingen kunnen sneller reageren maar hiaten laten.

Bij een sollicitatiehulpmiddel blijft de werkgever in de EU, de VS en het VK aanspreekbaar op discriminerende uitkomsten. Onderzoek zowel AI-specifieke als bestaande regels en onderscheid daarna verplichte plichten van nuttige vrijwillige werkwijzen. Een vrijwillig kader kan contracten, aanbestedingen en verwachtingen van redelijke zorgvuldigheid beïnvloeden, ook als het geen wettelijke vrijstelling creëert.