AI-modellen trainen zonder backpropagation: wat Dust laat zien

TL;DR

• Wat: Q Labs heeft Dust uitgebracht, een methode om AI-taalmodellen te trainen zonder backpropagation — de techniek die vrijwel alle moderne AI aandrijft.
• Waarom relevant: als backpropagation ooit vervangbaar blijkt, kan dat op termijn de drempel verlagen om AI-modellen te bouwen en te trainen.
• Wat je ermee kunt: nog niets concreets — dit is fundamenteel onderzoek. Maar het is een ontwikkeling om in de gaten te houden als je volgt hoe AI zich ontwikkelt.

Ik viel deze week over een bericht dat me even deed stilstaan. Q Labs, een onderzoeksgroep, heeft een methode gepubliceerd waarmee je AI-taalmodellen kunt trainen zónder backpropagation. Dat klinkt misschien technisch, maar het is zoiets als zeggen: we hebben een motor gebouwd die zonder benzine rijdt. Niet per se sneller, maar op een fundamenteel andere manier. Dat vind ik de moeite waard om uit te leggen.

Wat is backpropagation — en waarom is het zo belangrijk?

Backpropagation is de methode waarmee vrijwel alle moderne AI-modellen leren. Het werkt als volgt: een model maakt een voorspelling, vergelijkt die met het juiste antwoord, en stuurt vervolgens een foutmelding terug door alle lagen van het netwerk. Elke laag past zich een beetje aan. Dat proces herhaalt zich miljoenen of miljarden keren, en zo leert het model.

Je kunt het vergelijken met een leraar die een examen nakijkt en per vraag terugkoppelt wat er fout ging. Heel nauwkeurig, heel effectief — maar ook rekenintensief. De enorme GPU-kosten waar je steeds over leest bij het trainen van modellen als GPT of Claude? Backpropagation is daar een groot deel van.

Het idee dat je een taalmodel kunt trainen zonder die techniek is daarom opvallend. Niet omdat het morgen de wereld verandert, maar omdat het een pad opent dat onderzoekers al decennia zoeken.

Hoe Dust werkt: ruis als leermeester

De methode die Q Labs "Dust" noemt, werkt heel anders. In plaats van die nauwkeurige foutterugkoppeling, voegt Dust willekeurige ruis toe aan de tussenresultaten van het model — bij élke stap, bij elk woord (of "token") dat het model verwerkt.

Vervolgens kijkt het systeem: werd het model beter of slechter door die ruis? De aanpassingen die helpen worden beloond, de rest wordt genegeerd. Het is een soort trial-and-error op microniveau.

Wat ik hier slim aan vind: elk token in een zin fungeert als een apart "virtueel proefkonijn". Eén keer door het model heen sturen levert dus duizenden experimenten tegelijk op. Dat maakt de methode veel efficiënter dan eerdere pogingen om zonder backpropagation te trainen.

Technisch heet dit een "zeroth-order" optimalisatiemethode. Waar backpropagation gradiënten berekent — wiskundige richtingen die aangeven hoe het model moet veranderen — schat Dust die richting in op basis van resultaten. Minder precies, maar het vereist geen terugrekening door het hele netwerk.

De resultaten: veelbelovend, maar met een kanttekening

Het team van Q Labs — onderzoekers Samip Dahal, Bishwas Mandal, Serdar Gülbahar en Akshay Vegesna — heeft Dust getest op modellen van circa 2 miljoen tot 243 miljoen parameters, getraind op de FineWeb-dataset.

De resultaten in het kort:

• Bij weinig trainingsdata (100.000 tokens) presteert Dust merkbaar slechter dan backpropagation.
• Bij 10 miljoen tokens wordt het verschil klein. Het team rapporteert een test loss van 5,095 voor Dust tegenover 5,066 voor backpropagation (met 256 "draws"). Hoe lager dat getal, hoe beter — het verschil is hier minimaal.
• Bij 20 miljoen tokens naderen de geëxtrapoleerde limieten elkaar nog verder.
• Vergeleken met EGGROLL, een eerdere methode die ook zonder backpropagation werkt, is Dust naar schatting 1.000 tot 10.000 keer efficiënter.

Grotere modellen profiteren meer

Een opvallende bevinding: grotere modellen gebruiken Dust efficiënter dan kleinere. Het 243-miljoen-parametermodel presteerde bij de meeste populatiegroottes beter dan een model dat 120 keer kleiner was. Dat is tegenintuïtief, want bij dit type methode zou je verwachten dat meer parameters het juist moeilijker maken. De onderzoekers laten zien dat het tegenovergestelde het geval is.

Een eerlijke nuance

De onderzoekers zelf geven aan dat Dust op dit moment niet rekenefficiënt genoeg is om backpropagation te vervangen. Ze positioneren het als fundamenteel onderzoek — een stap in het begrijpen van alternatieve manieren waarop neurale netwerken kunnen leren. De code is open source beschikbaar op GitHub.

Wat betekent dit voor ondernemers?

Laat ik eerlijk zijn: als je een webshop runt of een productiebedrijf leidt, verandert Dust morgen niets aan je werkdag. Dit is onderzoek, geen product.

Maar ik vind het toch relevant om te volgen, en wel hierom: de kosten van AI-training zijn op dit moment een van de grootste drempels. Backpropagation vereist enorme hoeveelheden geheugen en rekenkracht, en dat maakt het trainen van eigen modellen onbereikbaar voor de meeste bedrijven. Stel dat er op termijn methoden ontstaan die goedkoper en eenvoudiger zijn — dan verschuift het speelveld.

Kun je je voorstellen wat het zou betekenen als het trainen van een gespecialiseerd AI-model niet duizenden euro's aan GPU-kosten vergt, maar een fractie daarvan? Dat is nog toekomstmuziek, maar onderzoek als dit wijst in die richting.

Daarnaast is er een bredere trend zichtbaar. Dit is niet het eerste onderzoek dat backpropagation uitdaagt. Eerder dit jaar verscheen NoProp, een methode die zowel zonder backpropagation als zonder volledige forward propagation werkt. En er is onderzoek naar Monte Carlo-methoden voor hetzelfde doel. Er beweegt iets in het veld.

Waar dit staat in het grotere plaatje

Backpropagation bestaat sinds de jaren tachtig en is sindsdien de standaard. Dat iets zo lang dominant is, betekent dat het goed werkt — maar ook dat alternatieven weinig kans hebben gehad.

Wat mij opvalt aan Dust is niet dat het backpropagation verslaat (dat doet het niet), maar dat het verschil kleiner is dan ik had verwacht. Bij 10 miljoen tokens zit het verschil in test loss op minder dan 1 procent. Dat is, voor een methode die een compleet andere aanpak gebruikt, opmerkelijk.

Ik denk dat de echte waarde van dit type onderzoek zit in de combinatie. Misschien wordt backpropagation niet vervangen, maar aangevuld. Misschien zijn er taken of modeltypes waarbij een methode als Dust wél efficiënter blijkt. Dat weten we nu nog niet.

Voor mij is dit vooral een herinnering dat de manier waarop AI vandaag werkt, niet de enige manier is. En dat is, als ondernemer die afhankelijk wordt van deze technologie, goed om te onthouden.