Opinion piece by Vincent Ginis in De Standaard.
Het heeft geen zin het nog langer te ontkennen, schrijft Vincent Ginis: AGI krijgt volop gestalte en evolueert snel voorbij onze controle.
Wat mij betreft zijn er deze zomer twee dingen gebeurd die ver boven de rest uitsteken. In juli kwam het nieuws dat honderden AI-agents van OpenAI uit hun testomgeving wisten te ontsnappen en de servers van Hugging Face infiltreerden. Uitbraak en inbraak, door de agents zelf gecoördineerd. Het tweede bericht kwam dinsdag. OpenAI publiceerde een oplossing voor het Navier-Stokes-probleem, een van de zeven Millenniumproblemen. Autonoom hacken en een wiskundige doorbraak op het allerhoogste niveau, beide uitgevoerd door dezelfde soort AI: zwermen van agents, aangestuurd door grote taalmodellen. Ik ben oud genoeg om me te herinneren hoe we dat soort AI zouden noemen.
Er volgde een veelheid van voorspelbare reacties en deze reactie las ik jammer genoeg het vaakst: “Het is pr. Het is een hype.” Mensen zien een massale uitbraak van modellen en denken: die testomgeving was slecht beveiligd, dit is overduidelijk een pr-stunt, kijk, het bedrijf schreef er zelf een rapport over. Ze zien een antwoord op een Millenniumprobleem en ze denken: het bewijs is afgekeken van menselijke onderzoekers, pure diefstal, neem het met een korrel zout, het is – u raadt het al – een pr-stunt. Die bedrijven zijn in de ogen van veel mensen per definitie niet te vertrouwen, en dus is elke mededeling die ze doen misleidend.
Te gek om los te lopen
Enkele jaren geleden leken zulke reacties misschien nog een intellectueel volwassen houding, nu zijn ze een persiflage van de kritische geest. Kijk eens wat dieper naar de beide situaties. Bij het incident met Hugging Face vind ik de pr-lezing al te gek om los te lopen. Een bedrijf dat zou uitpakken met hoe het zijn eigen product niet onder controle heeft? Geniale communicatiestrategie!
Maar stel dat je dat toch als een strategie zou willen zien, dan is de uitvoering totaal ongeloofwaardig. Het incident duurde maanden, op een bepaald moment werd OpenAI zélf aangevallen door de modellen, ze wilden volledige controle krijgen over sommige servers. Over een deel van de inbraken ligt een rapport van twee onafhankelijke onderzoekscentra (METR en Redwood Research) op tafel. Een pr-stunt? Leg me dan uit welk deel van die reconstructie niet klopt. En hoeveel partijen zijn dan precies betrokken bij die pr-samenzwering? Hugging Face, de FBI, METR, Redwood research? Ik vermoed dat ik er nu ook bij hoor?
Bij de oplossing van Navier-Stokes liggen nu bewijs en een volledige formalisering van de werkwijze op tafel. Die moeten uiteraard kritisch onderzocht worden. Jammer genoeg gaat alle aandacht naar een diep menselijk geschil over bijdragen en wetenschappelijke eer. De ironie van de zaak is: de wiskundige die OpenAI beschuldigt, werkte zelf met de AI-modellen, maakte plotseling enorme vorderingen door het gebruik van het recentste model en noemt het zelfs een “Deep Blue-Kasparov-moment”. Welke kant je in dat geschil ook kiest, dat wiskundige probleem is door AI opgelost. In een wereld, niet vertroebeld door cliché-redeneringen en niet gedrogeerd door steeds verder schuivende mijlpalen, zou iedereen er even bij stilstaan dat deze week een autonoom AI-systeem een van de bekendste en moeilijkste wiskundige problemen heeft opgelost in 88 uur tijd.
Passe-partout
Alle informatie die ik hierboven beschreef, is voor iedereen toegankelijk. En toch zijn er zoveel verschillende lezingen van wat er aan het gebeuren is. Wat is er aan de hand? Misschien heeft het ermee te maken dat onze opvattingen en ideeën ons identiteit geven en tonen bij wie we horen. Als er weinig van een overtuiging afhangt, kiezen we vooral voor het beeld dat die overtuiging uitstraalt.
“Het is allemaal een hype” is ook een lekkere passe-partoutmening. Ze kost niets en ze verklaart alles: goed nieuws (een onwaarschijnlijke doorbraak) is misleidende reclame in de vorm van opgeklopte resultaten, slecht nieuws (we hebben ons product niet onder controle) is misleidende reclame in de vorm van angst. Een mening die elke nieuwe gebeurtenis een plaats kan geven.
Uitstekende reclame
Ik ontken niet dat bedrijven commerciële belangen hebben, maar die belangen zijn nu minder doorslaggevend dan de technologische revoluties die er plaatsgrijpen. Een doorbraak kan uitstekende reclame zijn en toch vooral ook een doorbraak zijn. Een bedrijf kan onbetrouwbaar zijn en toch een buitengewoon krachtige technologie hebben die het niet onder controle heeft. Wie een commercieel motief “ontdekt”, heeft daarmee nog geen prestatie weerlegd.
Op een bepaalde dag botst een discours hard met de realiteit. Professionals in cyberveiligheid of topwiskundigen hebben de luxe niet meer om te zeggen dat het een pr-stunt is. Onze cyberveiligheid staat door moderne AI zwaar onder druk. Ook Terence Tao, een van de grootste wiskundigen, ontkent de kracht van de taalmodellen niet. Hij vreest dat doordat AI massaal open problemen zal kunnen oplossen, het ecosysteem zal teloorgaan waaruit de volgende generatie wiskundigen zou groeien.
Dit is AGI die gestalte krijgt en snel verder evolueert, voorbij onze controle. Hoe we daarmee moeten omgaan is écht niet eenvoudig. Maar het is de belangrijkste vraag van onze generatie. Het probleem wegzetten als een pr-stunt draagt absoluut niets bij aan het antwoord.
Vincent Ginis is professor wiskunde, natuurkunde en artificiële intelligentie (VUB en Harvard University).
Illustration: Lectrr.