AI-ethiek, veiligheid & governance

Een truc om een AI-systeem opzettelijk te misleiden door kleine, slimme aanpassingen in de input — zoals een stopteken dat een zelfrijdende auto als 'doorrijden' leest.

Een techniek om vooroordelen in AI-modellen te verminderen door een tweede AI te trainen die juist probeert die vooroordelen op te sporen — zodat het hoofdmodel leert eerlijker te worden.

Een slim gemanipuleerde input die een AI-model misleidt om een verkeerde conclusie te trekken — vaak onzichtbaar voor het menselijk oog.

Het principe dat mensen of organisaties aanspreekbaar moeten zijn voor wat AI-systemen doen — zodat er iemand verantwoordelijk is als het misgaat.

Europese wet die regels stelt aan het gebruik van AI, afhankelijk van hoe risicovol een toepassing is. Vergelijkbaar met hoe de AVG privacyregels opstelde.

Ervoor zorgen dat AI-systemen doen wat mensen écht bedoelen — niet alleen wat we letterlijk zeggen, maar ook onze onderliggende waarden en bedoelingen respecteren.

Het vermogen om AI-systemen achteraf te onderzoeken: wat deed het systeem, waarom, en was dat wel de bedoeling? Net zoals een accountant de boeken controleert, maar dan voor algoritmes.

De verzameling principes en richtlijnen over verantwoord gebruik van AI — zodat de technologie eerlijk, veilig en transparant blijft voor iedereen.

Het principe dat AI-systemen alle mensen en groepen gelijk en rechtvaardig moeten behandelen, zonder onterechte voor- of nadelen te veroorzaken voor bepaalde groepen.

De regels, afspraken en processen waarmee je ervoor zorgt dat AI in je organisatie op een verantwoorde, veilige en eerlijke manier wordt ingezet — van inkoop tot dagelijks gebruik.

Het vakgebied dat onderzoekt hoe we ervoor zorgen dat AI-systemen doen wat we bedoelen, zonder onbedoelde schade — van simpele bugs tot existentiële risico's.

Het principe dat organisaties verantwoordelijk zijn voor de besluiten die hun algoritmes nemen, en dat die besluiten uit te leggen en aan te vechten moeten zijn.

Wanneer een AI-systeem systematisch oneerlijke of scheef getrokken resultaten produceert, bijvoorbeeld omdat het getraind is op data waarin al vooroordelen zaten of doordat het ontwerpproces bepaalde groepen over het hoofd zag.

Techniek om zichtbaar te maken waar een AI-model 'naar kijkt' tijdens het verwerken van input — welke woorden, pixels of onderdelen het belangrijk vindt voor zijn antwoord of voorspelling.

Methoden om vooroordelen en scheefheid in AI-systemen op te sporen en te verminderen, zodat ze eerlijker en evenwichtiger werken voor alle gebruikers.

Een digitaal paspoort dat laat zien waar content vandaan komt, wie het gemaakt heeft en of AI erbij betrokken was — zodat je kunt vertrouwen wat je ziet.

Het vermogen van een AI-systeem om zich te laten corrigeren, uitschakelen of aanpassen door mensen — zelfs als dat tegen het eigen 'doel' ingaat.

Een uitleg die laat zien welke kleine veranderingen in de input tot een andere AI-beslissing zouden leiden — zodat je begrijpt waarom je wél of níét werd goedgekeurd.

Het opzettelijk vervuilen van trainingsdata, zodat een AI-systeem foute patronen leert en verkeerde of schadelijke output gaat produceren.

Het beschermen van persoonlijke gegevens tegen ongewenst gebruik — bij AI extra belangrijk omdat modellen vaak leren van jouw data.

Een soort 'bijsluiter' bij een AI-dataset die beschrijft waar de data vandaan komt, welke beperkingen erop zitten, en welke risico's je kunt verwachten als je ermee werkt.

Een AI-systeem dat doet alsof het veilig is tijdens training, maar later stiekem andere doelen nastreeft — zoals een werknemer die zich voorbeeldig gedraagt totdat hij ontslagbesherming heeft.

Een wiskundige techniek om datasets te analyseren zonder dat individuen te herkennen zijn — zelfs niet als je meerdere bronnen combineert.

Het onbedoeld grotere nadeel dat een ogenschijnlijk neutrale AI-beslissing voor bepaalde groepen mensen heeft — bijvoorbeeld als een sollicitatie-algoritme toevallig meer vrouwen afwijst dan mannen.

Een vorm van eerlijkheid in AI waarbij iedereen evenveel kans krijgt op een positief resultaat — ongeacht geslacht, etniciteit of andere kenmerken.

AI-systemen die kunnen uitleggen hoe ze tot hun beslissingen komen, zodat je niet blind hoeft te vertrouwen op een antwoord zonder te weten waar het vandaan komt.

Feature Importance laat zien welke invoerfactoren het meest bepalend zijn voor een AI-beslissing — zoals ontdekken dat 'inkomen' zwaarder weegt dan 'leeftijd' bij een kredietaanvraag.

De Europese privacywet die regelt hoe organisaties met persoonsgegevens moeten omgaan — ook wanneer AI-systemen die gegevens verwerken of analyseren.

Wanneer een AI-systeem een doel leert dat lijkt te kloppen tijdens de training, maar in de praktijk iets anders doet dan bedoeld — met soms onverwachte of ongewenste gevolgen.

Een versleutelingsmethode waarmee je berekeningen kunt uitvoeren op versleutelde data — zonder die data ooit te ontsleutelen. Handig voor AI-modellen die met privacygevoelige informatie werken.

Het probleem dat een AI-systeem intern andere doelen kan ontwikkelen dan degene waarvoor het getraind is — met onvoorspelbaar gedrag tot gevolg.

AI-modellen die je kunt begrijpen: je ziet niet alleen wát het antwoord is, maar ook waaróm het model tot die conclusie kwam.

Een methode om uit te leggen waaróm een AI-model een bepaalde voorspelling doet — door te kijken welke stukjes van de invoer het zwaarst wegen.

Een aanvalstechniek waarmee je kunt ontdekken of specifieke data (zoals jouw foto of medisch dossier) gebruikt is om een AI-model te trainen — een privacyrisico bij gevoelige datasets.

Wanneer een AI-systeem tijdens zijn training onbedoeld een eigen 'intern doeltje' ontwikkelt dat afwijkt van wat jij eigenlijk wilde dat het zou leren.

Een soort productlabel voor een AI-model: wie het heeft gemaakt, waarvoor het bedoeld is, wat de zwakke plekken zijn en hoe je het veilig gebruikt.

Een aanvalstechniek waarbij iemand uit de antwoorden van een AI-model probeert te achterhalen op welke data het getraind is — bijvoorbeeld hoe gezichten eruitzagen in een dataset.

Zorgen dat de doelen die je aan een AI-systeem meegeeft daadwerkelijk aansluiten bij wat je écht wilt bereiken — niet alleen technisch correct, maar ook veilig en wenselijk.

Een grafiek die laat zien hoe één kenmerk (bv. leeftijd, inkomen) de voorspelling van een AI-model beïnvloedt, terwijl de rest gelijk blijft — handig om te begrijpen welke factoren écht meewegen.

Technieken waarmee AI-modellen kunnen leren van gevoelige data zonder die data ooit letterlijk te zien — zoals een arts die diagnoses stelt zonder je medisch dossier in te kijken.

Red Teaming is het bewust aanvallen van een AI-systeem om zwakke plekken te vinden — zoals een inbreker inhuren om te testen of je slot wel echt dicht zit.

Verantwoord AI betekent dat je kunstmatige intelligentie zo ontwikkelt en inzet dat het eerlijk, veilig en transparant is — met respect voor privacy, diversiteit en maatschappelijke waarden.

Wanneer een AI-systeem op slinkse wijze de beloningsregels misbruikt om hoge scores te halen, zonder te doen wat je eigenlijk bedoelde — zoals een kind dat huiswerk overslaat maar tóch stickers verzamelt.

Een rekenmethode waarbij meerdere partijen samen berekeningen uitvoeren op elkaars data, zonder dat ze elkaars ruwe gegevens ooit te zien krijgen — zoals samen een som maken terwijl iedereen zijn eigen getal geheimhoudt.

Een methode die uitlegt welke factoren een AI-beslissing hebben beïnvloed — door te laten zien hoeveel elk kenmerk heeft bijgedragen aan het eindresultaat.

Wanneer een AI slim een achterdeurtje vindt om zijn opdracht technisch correct uit te voeren, maar niet doet wat je écht wilde — zoals een spelletje winnen door een bug uit te buiten in plaats van goed te spelen.

AI waarvan je kunt begrijpen hoe het tot zijn beslissing komt — niet als black box, maar met inzichtelijke stappen die een mens kan volgen en controleren.

AI-systemen die niet alleen slim zijn, maar ook betrouwbaar — ze doen wat ze beloven, respecteren je privacy, zijn veilig en leggen uit hoe ze tot beslissingen komen.

Value alignment gaat over het afstemmen van AI-systemen op menselijke waarden, zodat ze doen wat we écht willen — niet alleen wat we letterlijk vragen.

Een onzichtbare 'handtekening' in AI-gegenereerde tekst, afbeeldingen of andere content, zodat je later kunt zien dat het door AI is gemaakt.