Neurale netwerken leren wat te onthouden en wat te vergeten

Geheugen is een kostbaar middel. Daarom onthouden mensen belangrijke vaardigheden en vergeten ze irrelevante zaken. Nu zijn machines ontwikkeld die hetzelfde kunnen en dat biedt vreemd genoeg ook voordelen.

‘Deep learning’, een geavanceerde vorm van machinaal leren, zorgt op dit moment voor een revolutie in de wereld van artificiële intelligentie en stelt ons in staat om complexe taken (zoals objectherkenning, automatische vertaling, spraakherkenning) eindelijk toe te vertrouwen aan machines.

Desondanks hinken nog heel wat aspecten van machinaal leren achterop vergeleken met waartoe mensen in staat zijn. Mensen kunnen immers continu bijleren (‘lifelong learning’), waarbij ze over de mogelijkheid beschikken hun geheugen constant te updaten met de meest belangrijke kennis door informatie te overschrijven die niet langer bruikbaar is. Oude, zelden gebruikte kennis wordt overschreven door recent binnengekomen informatie, terwijl voorkomen wordt dat belangrijke, frequent gebruikte kennis gewist wordt. Deze vaardigheid is belangrijk. Een groot deel van de haast eindeloze datastroom is irrelevant voor overleving en het is bovendien onmogelijk om al deze data te bewaren in ons beperkte geheugen. Daarom zijn mensen, net zoals andere wezens, geëvolueerd, om zo belangrijke vaardigheden te onthouden en onbelangrijke te vergeten.

Momenteel bestaat er geen betrouwbaar mechanisme om bij artificieel intelligente (AI) systemen vaardigheden prioriteit toe te kennen, te beslissen wat te onthouden en wat te vergeten. In AI-systemen heeft levenslang bijleren zich voornamelijk gefocust op het opslaan van kennis, eerder dan taken, en het tegengaan van vergeten. Ook bij computers is de geheugencapaciteit echter beperkt en de te leren informatie haast oneindig, waardoor kennis selectief moet worden bewaard of gewist.

Lees meer op Techniline.