This article with Vincent Ginis was published in De Morgen.
Een trouwalbum in The Simpsons-stijl of de aanslag op JFK in de animestijl van Studio Ghibli? Met OpenAI’s nieuwste beeldgenerator kan het allemaal. Maar is het bedrijf nu geen stap te ver gegaan met auteursrecht schenden?
Op het internet valt er dezer dagen niet naast te kijken: trouwfoto’s, familieportretten of zelfs een trailer van een The Lord of the Rings-film in de animestijl van het wereldvermaarde Studio Ghibli. Zelfs het Witte Huis sprong op de hype, en deelde prompt een Ghibli-afbeelding van immigratieagenten die een huilende Dominicaanse vrouw arresteren die fentanyl smokkelde. Kunnen wij ook, dacht het Israëlische leger, en het deelde Ghibli-afbeeldingen van soldaten die zich opmaken voor de strijd.
Het begon allemaal toen OpenAI vorige week een nieuwe beeldgenerator integreerde in zijn AI-model ChatGPT. Niets nieuws, zult u zeggen. Voor een stuk klopt dat. OpenAI heeft met DALL-E al sinds 2021 een programma dat op basis van beschrijvingen afbeeldingen kan creëren. In oktober 2023 voegde het bedrijf de nieuwste versie van DALL-E al toe aan zijn chatbot ChatGPT.
Toch bleven tot vorige week ChatGPT en DALL-E twee gescheiden systemen. Zo ging er heel wat belangrijke informatie verloren bij het omzetten van tekst naar beeld. Door de beeldgenerator en de chatbot nu te integreren, kan het nieuwe model veel complexere opdrachten aan.
“Dit is een grote stap vooruit”, zegt AI-onderzoeker Vincent Ginis (VUB). “Je hebt nu een model dat zich kan baseren op je chatgeschiedenis en wat er op het internet te vinden is, en zowel tekst en beeld kan genereren. Dit zal grote gevolgen hebben die zich niet zullen beperken tot één sector.”
Een stripverhaal maken op basis van een beschrijving van de verhaallijn, de personages en de tekst die ze zeggen: ChatGPT speelt het zo klaar. Een reclamefolder met foto’s en tekst, of een modelontwerp voor de website van je bedrijf? Idem. Of je reisfoto’s, je trouwalbum of je favoriete memes omzetten in de stijl van The Simpsons of Rick and Morty? Ook dat kun je nu veel vlotter doen.
Tekenaar ‘walgt’ van AI
Maar dat alles wordt dus ondergesneeuwd door de ware stortvloed aan AI-tekeningen in de stijl van Studio Ghibli. Filmfanaten kennen al langer het handgemaakte tekenwerk van Hayao Miyazaki door bekroonde films als Spirited Away of The Boy and The Heron. Maar het is zeer de vraag of Miyazaki vereerd is dat de rest van de wereld zijn werk via AI ontdekt.
De 84-jarige filmmaker is een notoir AI-criticaster. In een documentaire uit 2016 zei hij dat hij “walgde” toen hij een AI-demo te zien kreeg. “Ik heb sterk het gevoel dat dit een belediging is voor het leven zelf”, voegde hij eraan toe. Dat uitgerekend in zijn stijl nu beelden van 9/11 of de aanslag op JFK Kennedy viraal gaan, zal wellicht niet goed vallen bij Miyazaki.
Het roept de vraag op of OpenAI geen stap te ver is gegaan. Het bedrijf is al in tal van rechtszaken over auteursrecht verwikkeld, onder meer omdat het zonder toestemming artikels van media gebruikt heeft om zijn AI-modellen te trainen.
Ook over deze beeldgenerator is het laatste woord wellicht nog niet gezegd. Zelfs OpenAI lijkt niet goed te weten of het nu auteursrechten schendt door afbeeldingen te genereren die erg afgekeken zijn van Studio Ghibli. Als je de oudere beeldgenerator DALL-E vraagt om een afbeelding in Ghibli-stijl te creëren, krijg je de melding dat dat niet mogelijk is omdat Studio Ghibli “een auteursrechtelijk beschermde animatiestudio en haar artistieke stijl beschermd is”. OpenAI’s nieuwe tool doet het zonder morren.
Fraude
Toch is het volgens juridisch onderzoeker Thomas Gils (Kenniscentrum Data en Maatschappij/CITIP KU Leuven) moeilijk om dergelijke AI-modellen aan te klagen omdat ze afbeeldingen of tekst in een specifieke stijl genereren. “Het is een andere zaak als je afbeeldingen zou zien die rechtstreeks uit een film van Studio Ghibli lijken te komen. Maar een stijl is auteursrechtelijk niet beschermd, zowel in de Verenigde Staten als in Europa niet.”
Maar mogen bedrijven als OpenAI hun modellen dan wel trainen op basis van werken die ze niet bezitten – of dat nu artikels zijn van The New York Times of tekeningen van Studio Ghibli? Eerder deze maand vroegen OpenAI en Google daar nog expliciete toestemming voor van de Amerikaanse overheid. Volgens OpenAI is dat een kwestie van “nationale veiligheid”, omdat China anders vooruitloopt in de ontwikkeling van AI.
De EU zoekt naar manieren om die praktijk aan de kaak te stellen, al blijft dat een proces van lange adem. In de nieuwe ‘code of practice’ voor AI-bedrijven waar de EU aan werkt, staat dat techbedrijven moeten aantonen welke gegevens ze gebruikt hebben om hun AI-modellen te trainen. “Als die eis bindend wordt, dan kan dit het debat een heel andere richting uit sturen”, zegt Gils.
Mogelijke auteursrechtschendingen zijn niet het het enige probleem met de nieuwe beeldgenerator. Volgens Vincent Ginis is er nog een groter, veel acuter gevaar.
“Het is een tool die ook aanzienlijke mogelijkheden biedt om fraude te plegen. Betalingsbewijzen namaken of fake foto’s creëren van schade aan je auto om geld te eisen bij de verzekeraar wordt hiermee kinderspel. En volgens mij zijn we daar nog minder op voorbereid.”