Wat is Tanh?

Wat doet tanh eigenlijk?

Stel je voor dat je als tussenpersoon werkt: je ontvangt signalen van collega's en moet beslissen hoe sterk je die doorstuurt naar de volgende afdeling. Sommige signalen zijn zwak (misschien niet zo belangrijk), andere zijn sterk (urgent). Tanh is zo'n beslisser in een neuraal netwerk.

Tanh (spreek uit: 'tansh', afkorting van 'hyperbolische tangens') is een activatiefunctie — een wiskundig trucje dat ervoor zorgt dat neuronen in een AI-model niet zomaar alles doorgeven, maar slim filteren. Het neemt een getal aan (bijvoorbeeld 5, -2, of 100) en perst dat altijd tussen -1 en 1. Kleine getallen blijven klein, grote getallen worden afgevlakt naar de uitersten.

Waarom zou je hier iets aan hebben?

Zonder zo'n functie zou een neuraal netwerk gewoon optelsommetjes maken — dan kun je nog zo veel lagen toevoegen, het blijft lineair. Dat is alsof je een detective inhuurt die alleen ja/nee kan zeggen: te simpel voor complexe problemen. Tanh zorgt dat het netwerk non-lineair wordt, waardoor het patronen kan herkennen in foto's, tekst, geluid.

Het bijzondere aan tanh is dat het ook negatieve waarden kan doorgeven (tussen -1 en 0). Dat maakt het bijvoorbeeld handig bij tekst- of tijdreeksanalyse, waar 'minder' of 'tegengesteld' ook betekenis heeft. Denk aan sentimentanalyse: een woord kan positief (+0.8) of negatief (-0.6) bijdragen.

Hoe werkt het in de praktijk?

Stel je traint een model om handgeschreven cijfers te herkennen. Elk neuron in het netwerk krijgt input van vorige lagen — bijvoorbeeld "deze pixel is donker" en "die pixel is licht". Die signalen worden bij elkaar opgeteld, wat kan resulteren in een groot getal (bijvoorbeeld 12). Als je dat zomaar doorgeeft, worden de getallen later in het netwerk onhandelbaar groot.

Tanh grijpt in: het transformeert die 12 naar iets dicht bij 1. Een negatief getal zoals -8 wordt juist iets dicht bij -1. Zo blijven alle signalen netjes binnen één bereik, en kan het netwerk beter leren. Het is alsof je het volume van muziek normaliseert voordat je het naar een versterker stuurt — anders vervormt het.

Waar kom je het tegen?

Tanh wordt vooral gebruikt in:

• Recurrent Neural Networks (RNN's) — netwerken die met tijdreeksen of tekst werken, zoals taalmodellen of voorspellingsalgoritmes voor aandelen

• LSTM's en GRU's — geavanceerde varianten van RNN's die langetermijngeheugen modelleren

• Oudere feedforward netwerken — voor de opkomst van ReLU was tanh een populaire standaard

• Automatische vertaalsystemen en spraakherkenning, waar richting (positief/negatief) belangrijk is

In moderne deep learning-systemen zie je tanh minder vaak in gewone lagen — daar is ReLU (die alles onder 0 afkapt) populairder geworden omdat het sneller traint. Maar in specifieke contexten, vooral waar symmetrie rondom 0 nuttig is, blijft tanh een solide keuze.

Even samengevat

Tanh is geen magische formule, maar een praktisch hulpmiddel: het houdt getallen binnen een werkbaar bereik en geeft neurale netwerken de flexibiliteit om complexe patronen te leren. Als je ooit met RNN's of tijdreeksdata werkt, kom je het vanzelf tegen. En mocht je in documentatie lezen dat een model "tanh-activatie" gebruikt, weet je nu: dat betekent dat signalen worden afgeremd en geschaald tussen -1 en 1, zodat het netwerk niet uit balans raakt.