Wat is Trustworthy AI?

Wat is Trustworthy AI eigenlijk?

Stel je voor dat je een nieuwe medewerker aanneemt. Je wilt niet alleen dat die persoon het werk goed doet, maar ook dat je hem kan vertrouwen: dat hij eerlijk is, zich aan de regels houdt, uitlegt waarom hij bepaalde keuzes maakt, en geen geheime agenda heeft. Precies datzelfde geldt voor AI-systemen.

Trustworthy AI (betrouwbare AI) is een verzamelterm voor AI die aan een hele reeks criteria voldoet: het systeem moet veilig zijn, transparant over hoe het werkt, eerlijk in zijn beslissingen, en respect hebben voor je privacy. Het moet ook technisch robuust zijn — niet crashen of rare dingen doen bij onverwachte situaties — en je moet kunnen begrijpen waarom het tot bepaalde conclusies komt.

Het gaat dus niet alleen om of een AI-systeem slim genoeg is, maar vooral om of je het kunt vertrouwen in situaties waar het ertoe doet.

Waarom is dit belangrijk?

AI-systemen worden steeds vaker ingezet voor beslissingen die direct impact hebben op mensen: wie krijgt een lening, wie komt in aanmerking voor een baan, welke medische behandeling wordt aanbevolen. Als zo'n systeem een fout maakt, onduidelijk is over zijn werkwijze, of discriminerende patronen overneemt uit trainingsdata, kan dat grote gevolgen hebben.

Denk aan een recruitmenttool die CV's beoordeelt. Als die onbedoeld vrouwen lager scoort omdat het getraind is op historische data waarin vooral mannen werden aangenomen, dan is dat niet alleen oneerlijk — het ondermijnt ook het vertrouwen in de technologie. Trustworthy AI draait om het voorkomen van zulke situaties.

Bovendien: als gebruikers of klanten een AI-systeem niet vertrouwen, gebruiken ze het niet. Vertrouwen is dus ook een zakelijke noodzaak.

Waar bestaat betrouwbare AI uit?

De Europese Commissie heeft zeven principes geformuleerd die vaak als leidraad dienen:

• Menselijke controle — mensen blijven de eindverantwoordelijkheid houden, AI neemt niet autonoom kritieke beslissingen

• Technische robuustheid — het systeem werkt stabiel, ook in onverwachte situaties, en is beveiligd tegen manipulatie

• Privacy en datagebruik — persoonlijke gegevens worden beschermd en alleen gebruikt waarvoor toestemming is gegeven

• Transparantie — het is duidelijk hoe het systeem werkt en hoe het tot beslissingen komt

• Eerlijkheid — het systeem discrimineert niet op basis van irrelevante kenmerken zoals geslacht, etniciteit of leeftijd

• Maatschappelijke en ecologische verantwoordelijkheid — rekening houden met bredere impact, zoals energieverbruik of sociale gevolgen

• Verantwoording — er is altijd iemand die aanspreekbaar is als het misgaat

In de praktijk betekent dit: documenteren hoe je systeem werkt, testen op onbedoelde patronen, zorgen voor uitlegbaarheid, en inbouwen van veiligheidsmechanismen.

Een voorbeeld uit de praktijk

Een ziekenhuis gebruikt AI om röntgenfoto's te analyseren en mogelijke afwijkingen te markeren. Een betrouwbaar systeem zou:

• Duidelijk maken welke delen van de foto het verdacht vindt (visuele uitleg)

• Aangeven hoe zeker het is van zijn oordeel ("80% waarschijnlijkheid")

• Werken als beslissingshulp, niet als vervanging van de radioloog

• Getest zijn op verschillende populaties, zodat het niet alleen goed werkt voor de groep waarop het getraind is

• Voldoen aan medische privacyregels en veilig zijn tegen cyberaanvallen

Zo'n systeem helpt artsen beter werk te doen, zonder dat patiënten zich zorgen hoeven te maken over fouten, bias of privacyschendingen.

Waar kom je het tegen?

Je ziet het terug in:

• Certificeringen en normen zoals ISO/IEC 42001 voor AI-management, of de EU AI Act die eisen stelt aan hoogrisico-systemen

• Tools en frameworks zoals IBM Watson OpenScale, Google Model Cards, Microsoft Responsible AI Toolbox — deze helpen ontwikkelaars hun systemen te testen en documenteren

• Bedrijfsbeleid — grote organisaties publiceren AI-principes (bv. Google AI Principles, OpenAI Charter) waarin ze beloven betrouwbaar te ontwikkelen

• Overheidsinitiatieven — denk aan het Nederlands AI-coalitie dat richtlijnen opstelt, of de European AI Alliance

• Audits en toezicht — onafhankelijke partijen die AI-systemen beoordelen voordat ze in gebruik mogen

Wat kun je er zelf mee?

Of je nu AI gebruikt of ontwikkelt, deze principes helpen je om de juiste vragen te stellen. Bij het kiezen van een AI-tool kun je vragen: hoe transparant is de leverancier? Kunnen ze uitleggen hoe beslissingen tot stand komen? Wat gebeurt er met mijn data? Als ontwikkelaar kun je systematisch checken of je systeem aan de criteria voldoet voordat je het uitrolt.

Betrouwbaarheid is geen hokje dat je afvinkt, maar een continu proces. Door bewust met deze principes om te gaan, voorkom je dat je straks met je hoofd in je handen zit omdat je systeem iets deed wat je niet had voorzien — of omdat gebruikers het vertrouwen in je product verliezen.