Het Amerikaanse technologiebedrijf OpenAI heeft begin oktober haar nieuwste AI-videogenerator Sora 2 voorgesteld. Deze revolutie brengt ook problemen met zich mee. Nepnieuwsberichten die gecreëerd worden door Sora 2 gaan het internet rond en zaaien verwarring bij het volk. En hoe kunnen nieuwsredacties zich wapenen tegen deze toestroom aan nepnieuws?
Met de lancering van Sora 2, de nieuwste videotechnologie van OpenAI, is de grens tussen echt en nep opnieuw een stuk vager geworden. De tool kan in enkele seconden levensechte filmpjes genereren op basis van tekst, compleet met realistische belichting, gezichtsuitdrukkingen en bewegingen.
Dataverzameling
Sinds die lancering worden sociale media overspoeld met filmpjes die niet van echt te onderscheiden zijn. Waar vooral jongeren via TikTok vooral enthousiast zijn over de creatieve mogelijkheden, maken journalisten en onderzoekers zich zorgen over hoe makkelijk nepnieuws ermee kan worden verspreid.
“Het probleem is niet alleen wat er gecreëerd wordt, maar vooral op basis van welke data”, zegt Julian Peire, data-analist en AI-consultant bij Möbius Gent. “We weten vaak niet waarop zo’n model getraind is. Als blijkt dat dat grotendeels op materiaal van bestaande mediabedrijven is, dan opent dat juridische en ethische discussies.”
Redacties moeten zelf zorgen voor controle: eigen content genereren, die watermerken, en die laten verifiëren
Julian Peire
Watermerken als wapen tegen desinformatie
Peire verwijst naar de AI Act van de Europese Unie, die producenten van generatieve AI verplicht om transparant te zijn over hun trainingsdata. Maar volgens hem gaat de technologie veel sneller dan de regels kunnen volgen. “Het ontwikkelt zich sneller dan we kunnen bijhouden,” zegt hij. “Daarom moeten redacties zelf zorgen voor controle: eigen content genereren, die watermerken, en die laten verifiëren. Alleen zo kun je de herkomst van beelden nog garanderen.”
Watermerk
Om aan te tonen dat een video niet nep is, gebruiken nieuwsredacties vaak een watermerk: dit is een herkenbaar logo of teken dat zichtbaar in beeld wordt geplaatst. Dat watermerk bewijst dat de video echt afkomstig is van een betrouwbare bron en niet werd gemanipuleerd of gekopieerd door anderen. Het helpt zo om de echtheid van nieuwsvideo’s te beschermen tegen valse of misleidende beelden, die steeds vaker opduiken.
AI Act van de EU
De Europese AI-wet, die sinds augustus 2024 werd doorgevoerd, verplicht technologiebedrijven om transparant te zijn over hoe hun AI werkt en waarmee die getraind is. Voor redacties betekent dat extra houvast bij het controleren van beelden en bronnen. Nieuwsorganisaties zullen vaker watermerken moeten gebruiken om de herkomst van video’s en foto’s te kunnen aantonen. Tegelijk biedt de wet ook kansen: ze zorgt voor duidelijkere spelregels rond het gebruik van AI in de media en kan zo helpen om vertrouwen in journalistieke content te behouden.
Toch schieten die watermerken tekort, waarschuwt Sander Duivestein, trendwatcher en expert in artificiële intelligentie. “Een paar uur na de lancering van Sora 2 waren de eerste tools al beschikbaar om het watermerk te verwijderen,” vertelt hij. “Sterker nog: er bestaan nu ook programma’s die juist valse watermerken plakken op échte beelden. Het spel met de realiteit neemt groteske vormen aan.”
Volgens Duivestein verandert Sora 2 niet alleen hoe we beelden maken, maar ook hoe we waarheid beleven. “Het gaat niet meer om wat waar is, maar om wat het meeste engagement krijgt,” zegt hij. “Hoe vaker iets gedeeld wordt, hoe ‘echter’ het lijkt. Dat is een fundamentele verschuiving in onze informatiecultuur.”
Jong versus oud
Zowel Peire als Duivestein maken zich opvallend minder zorgen om jongeren dan om ouderen. “Jongeren groeien op met filters, deepfakes en virtuele werelden,” legt Duivestein uit. “Ze weten vaak beter dat niet alles wat ze zien echt is. Oudere generaties trappen daar sneller in.” Peire beaamt dat: “In het onderwijs wordt er al aandacht besteed aan AI-geletterdheid. Maar de grootste uitdaging ligt bij het publiek dat daar nooit in gevormd is.”
Iedereen kan nu zijn eigen Hollywoodfilm maken zonder miljoenenbudget
Sander Duivestein
Toch ziet Duivestein ook positieve kanten aan de technologie. Sora 2 kan volgens hem de creatieve sector democratiseren. “Iedereen kan nu zijn eigen Hollywoodfilm maken zonder miljoenenbudget,” zegt Duivestein. “Je kunt geschiedenislessen tot leven brengen of complexe situaties simuleren voor onderzoek of opleiding.”
Maar die voordelen wegen volgens hem voorlopig niet op tegen de risico’s. “Momenteel overheersen de negatieve klanken,” besluit Duivestein. “Misschien moeten we daar eerst doorheen, voordat we de positieve toepassingen echt kunnen omarmen.”
