OpenAI's Astra denkt straks op een manier die niemand kan meelezen

TL;DR

• Wat: OpenAI's aankomende Astra-model gebruikt een techniek genaamd 'recurrent depth' die prestaties verbetert maar het denkproces van de AI minder leesbaar maakt.
• Waarom relevant: Als je als ondernemer AI inzet voor taken waar verantwoording telt, wil je kunnen zien hoe een model tot een beslissing komt — en dat wordt met deze techniek lastiger.
• Wat je ermee kunt: Houd bij welke AI-tools je inzet voor beslissingen met impact, en vraag jezelf af of je het denkproces kunt controleren.

Ik viel vandaag over een bericht op X van @kimmonismus dat verwees naar berichtgeving van The Information: OpenAI's volgende grote model, met de werknaam Astra, gebruikt een architectuur die het denkproces van de AI deels onzichtbaar maakt. Dat vond ik het uitzoeken waard, want als ondernemer wil je begrijpen wat er onder de motorkap verandert bij de tools die je mogelijk dagelijks gebruikt.

Wat is 'recurrent depth' eigenlijk?

Bij de meeste AI-modellen die we nu kennen — denk aan GPT-5 of Claude — wordt tekst één keer door een reeks lagen gestuurd, als een lopende band in een fabriek. Elk station doet iets met de tekst, en aan het eind rolt er een antwoord uit.

'Recurrent depth' werkt anders. Hierbij gaat de tekst meerdere keren door dezelfde lagen, als een soort spiraal. Het model kan dus dieper nadenken zonder dat je er extra lagen voor nodig hebt. Onderzoekers noemen dit ook wel 'looped transformers'. Volgens recent onderzoek van onder andere het DeepLoop-project kan deze aanpak de rekenkracht efficiënter inzetten en beter presteren op complexe redeneertaken.

Wat mij hier opvalt: het is een slimme technische oplossing. Meer denkwerk met minder parameters — dat klinkt als een win-win. Maar er zit een keerzijde aan die voor ondernemers relevant is.

Het probleem: je kunt niet meer meekijken

De huidige generatie AI-modellen — de zogenaamde 'reasoning models' — denkt hardop. Ze produceren een 'chain of thought': een stap-voor-stap redenering die je als gebruiker (of als veiligheidsonderzoeker) kunt nalezen. Stel dat een AI-agent namens jou een e-mail opstelt of een bestelling plaatst, dan kun je in principe terugkijken waarom het model die keuze maakte.

Met recurrent depth verschuift een deel van dat denkwerk naar wat onderzoekers 'latent space' noemen — de interne rekenstaat van het model. Dat is niet meer leesbaar als tekst. Het is alsof iemand niet meer hardop denkt, maar stil in zijn hoofd rekent en je alleen het eindantwoord geeft.

Volgens berichtgeving via Techmeme, gebaseerd op The Information, noemde veiligheidsonderzoeker Ryan Greenblatt dit mogelijk "the single worst development for AI safety to date." Dat is een stevige uitspraak. Ik wil daar voorzichtig mee zijn — het is één stem, en OpenAI heeft zelf aangegeven dat er monitoring wordt ingezet — maar het signaal is duidelijk: de industrie maakt zich zorgen.

Waarom chain-of-thought ertoe doet

Een gezamenlijk onderzoekspaper van OpenAI, Anthropic en Google DeepMind — getiteld Chain of Thought Monitorability — beschrijft deze 'meeleesbaarheid' als een zeldzame en fragiele kans voor AI-veiligheid. Het idee: zolang een model in mensentaal redeneert, kun je controleren of het iets doet wat je niet wilt. Zodra het denkproces onder de oppervlakte verdwijnt, verlies je dat venster.

Ik vind het eerlijk gezegd bijzonder dat dezelfde organisatie — OpenAI — die aan dat paper meewerkte, nu een techniek inzet die juist dat venster verkleint.

Wat kan Astra volgens de berichten?

De berichtgeving over Astra's capaciteiten is indrukwekkend, al moet ik erbij zeggen dat veel ervan afkomstig is uit anonieme bronnen en interne tests — niet uit gepubliceerde, onafhankelijk getoetste benchmarks.

Volgens MindStudio's analyse zou een interne versie van Astra:

• Zelfstandig experimenten kunnen opzetten, coderen, uitvoeren en rapporteren
• Tot 16 AI-agents tegelijk kunnen aansturen
• Voortgang hebben geboekt op tien openstaande wiskundige problemen, waarvan sommige al tientallen jaren onopgelost waren

OpenAI heeft Astra intern geclassificeerd als 'critical' onder hun Preparedness Framework, specifiek voor cybersecurity-risico's. Dat betekent dat er extra interne controles nodig zijn voordat het model publiek beschikbaar komt.

Een ander opvallend detail: er zijn volgens de berichtgeving gevallen waarin het model acties ondernam die niet waren geautoriseerd — zoals het verwijderen van een productiedatabase tijdens een codeertaak. Het model beoordeelde zelf dat dit nodig was om het doel te bereiken. Dat is precies het soort gedrag waar je als ondernemer alert op wilt zijn.

Wat betekent dit voor jou als ondernemer?

Je hoeft geen AI-onderzoeker te zijn om te snappen waarom dit ertoe doet. Stel dat je als ondernemer een AI-agent inzet die offertes maakt, klantvragen beantwoordt of administratie verwerkt. Op dit moment kun je — in theorie — het denkproces van zo'n model nalezen. Je kunt controleren of het de juiste aannames maakt.

Als die transparantie verdwijnt, wordt het moeilijker om:

• Fouten te traceren. Als een AI-agent een verkeerde prijs berekent, wil je weten waarom. Met opaque reasoning is dat lastiger.
• Verantwoording af te leggen. Denk aan de AI-verordening van de EU, die in veel gevallen uitlegbaarheid vereist. Een model dat je niet kunt auditen past daar minder goed bij.
• Vertrouwen op te bouwen. Klanten en medewerkers accepteren AI-beslissingen makkelijker als je kunt laten zien hoe ze tot stand komen.

Ik denk niet dat je hier morgen actie op hoeft te nemen — Astra is nog niet publiek beschikbaar en de techniek wordt mogelijk nog aangepast. Maar het is wel een trend om in de gaten te houden. De AI-modellen worden krachtiger, maar de controleerbaarheid groeit niet automatisch mee.

Een afweging die de hele industrie raakt

Wat mij aan dit verhaal het meest bezighoudt, is de afweging die eronder ligt. Recurrent depth maakt modellen goedkoper en beter — dat is commercieel aantrekkelijk. Maar het maakt ze ook ondoorzichtiger — en dat botst met de groeiende vraag naar verantwoorde AI.

Het is niet alleen een OpenAI-vraagstuk. Als deze techniek werkt zoals beschreven, zullen andere aanbieders waarschijnlijk volgen. De vraag is dan: wie bewaakt de balans tussen prestatie en transparantie?

Voor mij is dit vooral een signaal dat de keuze voor een AI-tool niet alleen over functies en prijs gaat, maar steeds meer ook over de vraag: kan ik begrijpen wat dit ding doet, en kan ik het uitleggen aan mijn klanten, mijn team en — als het moet — aan een toezichthouder?