Article with Vincent Ginis in De Tijd, by Roel Verrycken.
In korte tijd is AI geëvolueerd van een hallucinerende bot naar een op hol slaande technologie. Vanwaar nu plots de angst? Het punt waarop AI zichzelf exponentieel verbetert, komt dichtbij. En dan is ook het voortbestaan van de mensheid bedreigd.
In deze analyse onderzoekt De Tijd waarom de bezorgdheid over de ontwikkeling van artificiële intelligentie toeneemt. Centraal staan incidenten waarbij AI-systemen buiten hun opgelegde grenzen handelen, en het vooruitzicht van recursive self-improvement: AI die zelf steeds krachtigere opvolgers ontwikkelt.
Vincent Ginis licht toe hoe AI-modellen steeds complexere taken zelfstandig uitvoeren. Hij wijst op de exponentiële groei van de tijdsduur van taken die systemen kunnen overnemen en op de uitdaging om die vooruitgang veilig en onder menselijk toezicht te houden.
Volgens Ginis kan verdere zelfverbetering leiden tot een tempo van ontwikkeling dat mensen en organisaties niet meer kunnen volgen. Tegelijk bespreekt het artikel de mogelijkheden van zulke systemen om wetenschappelijk onderzoek te versnellen en oplossingen voor grote maatschappelijke problemen te vinden.
De 18 procent in de titel verwijst naar een in het artikel aangehaalde rondvraag onder AI-onderzoekers over het risico op het uitsterven van de mensheid. Het gaat om hun risico-inschatting.