Wat is Bagging?

Wat is bagging precies?

Stel je voor dat je drie vrienden vraagt om onafhankelijk van elkaar te schatten hoeveel snoepjes er in een pot zitten. De een schat te hoog, de ander te laag, maar het gemiddelde van hun schattingen komt vaak verrassend dicht bij de waarheid. Dat is in essentie bagging.

Bagging — kort voor 'bootstrap aggregating' — is een techniek waarbij je niet één AI-model traint, maar meerdere modellen tegelijk. Elk model krijgt een iets andere selectie van trainingsvoorbeelden te zien (willekeurig gekozen, met terugleggen uit je dataset). Wanneer je dan een voorspelling wilt doen, vragen we alle modellen om hun mening en nemen we het gemiddelde (bij getallen) of de meest gekozen optie (bij categorieën).

Het mooie: individuele modellen maken soms dezelfde fout, maar elk op andere plekken. Door hun antwoorden te combineren, middel je die fouten uit. Het eindresultaat is stabieler en betrouwbaarder dan wat één enkel model zou geven.

Waarom zou je bagging gebruiken?

Soms heb je een model dat erg gevoelig is voor kleine verschillen in de trainingsdata — verander je één voorbeeld, en de voorspellingen schieten alle kanten op. Dat heet 'hoge variantie'. Bagging dempt dat probleem aanzienlijk.

Denk aan een beslisboom die heel specifieke regels leert uit je data. Als je die boom op iets andere data zou trainen, kan hij compleet andere takken krijgen. Train je echter tien beslisbomen, elk op een andere steekproef, en neem je hun meerderheidsuitspraak, dan krijg je een voorspelling die veel minder grillig is.

In de praktijk zie je dat bagging vooral helpt bij:

• Situaties waar je beperkte data hebt en maximaal wilt benutten

• Modellen die snel 'oververhit' raken en te specifiek worden (overfitting)

• Toepassingen waar betrouwbaarheid belangrijker is dan snelheid

Een voorbeeld uit de praktijk

Een verzekeraar wil voorspellen welke klanten waarschijnlijk schade gaan claimen. Ze trainen vijftig beslisbomen, elk op een andere willekeurige selectie van 80% van hun historische klantdata. Elke boom leert iets andere patronen — de ene legt nadruk op leeftijd, de andere op woonplaats, weer een andere op claimgeschiedenis.

Wanneer een nieuwe klant zich aanmeldt, geeft elke boom een risico-inschatting. De verzekeraar neemt het gemiddelde van alle vijftig inschattingen. Omdat extreme voorspellingen van individuele bomen worden geneutraliseerd door de andere bomen, krijg je een stabielere risico-score.

Dit type ensemble — meerdere modellen die samenwerken — vormt bijvoorbeeld de basis van Random Forest, één van de meest gebruikte machine learning-methoden voor voorspellingstaken.

Waar kom je het tegen?

Bagging zit verwerkt in veel populaire machine learning-algoritmes:

• Random Forest — combineert bagging met beslisbomen

• Scikit-learn (Python-bibliotheek) — biedt BaggingClassifier en BaggingRegressor

• Kredietrisico-modellen bij banken en verzekeraars

• Medische diagnose-systemen die meerdere modellen raadplegen voor betrouwbaardere uitkomsten

• Fraudedetectie bij betaaldiensten, waar valse alarmen kostbaar zijn

In tools voor data-analyse zoals KNIME of RapidMiner vind je bagging vaak als standaard optie om je modellen robuuster te maken.

Hoe kun je ermee aan de slag?

Als je zelf machine learning toepast, overweeg dan bagging wanneer je merkt dat je model wisselvallige resultaten geeft. De meeste ML-bibliotheken hebben kant-en-klare bagging-functies. Het kost wat extra rekentijd (je traint immers meerdere modellen), maar levert vaak direct meetbaar betere prestaties op.

Zelfs als je geen programmeur bent: wanneer een data-analist of leverancier voorstelt om een 'ensemble-model' te gebruiken, vraag dan of ze bagging toepassen. Het is een teken dat ze serieus nadenken over betrouwbaarheid, niet alleen over snelheid.