AI: vriend en vijand van de factchecker

Foutieve informatie opsporen, beeld verifiëren en checken wanneer iemand leugens herhaalt. We zoomen in op wat AI betekent voor factchecken. Het is een vijand, maar soms toch ook een fijne vriend.

Even voorstellen, ik ben Shannon Bakker en neem voor een keer deze nieuwsbrief over van Nele. Ik ben docent datajournalistiek en factchecken aan de School voor Journalistiek in Utrecht en freelance journalist.

Tijdens deze verkiezingen wordt er volop gefactcheckt. Tim Hofman bestrijdt met BOOS migratiefabels op Instagram en TikTok, de Volkskrant heeft hun factcheckrubriek ‘Klopt dit wel’ weer in leven geroepen om uitspraken van politici te duiden en de vaste factcheckers bij Nieuwscheckers van de Universiteit Leiden en persbureau AFP gaan onverstoorbaar door.

Wat betekent AI nu voor journalisten die zich permanent of tijdelijk met factchecken bezighouden? Toen generatieve AI opkwam, was de angst groot dat AI voor een enorme toename van nepnieuws zou zorgen en dat factcheckers hier dus hun handen vol aan zouden hebben. Dat zien we voorlopig niet. EDMO, een samenwerkingsverband van Europese factcheckorganisaties en wetenschappers, constateerde deze zomer dat maar in 1,3 procent van de factchecks van hun leden generatieve AI een rol speelt. Eerder werd al gevonden dat AI-content hoogstwaarschijnlijk geen invloed heeft gehad op de Europese verkiezingen in 2024. Toch waarschuwen onderzoekers dat dit niet betekent dat we bij een volgende verkiezing immuun zijn voor AI-nepnieuws.

Je kan met AI namelijk wel vreselijk overtuigend nepnieuws maken. Dit liet BNR vorige week weer zien. Ze ontdekten dat Sora 2, het nieuwste beeldgeneratiemodel van OpenAI, zonder problemen nieuwsitems maakt die lijken op items van BNR zelf en de NOS.

BNR-journalisten hadden bijvoorbeeld een nogal overtuigend filmpje gemaakt waarin het medium verslag doet van een feest bij de VVD na een klinkende verkiezingsoverwinning op 29 oktober dit jaar, nepnieuws dus. OpenAI heeft in Sora 2 wel beveiliging ingebouwd om te voorkomen dat Engelstalige media worden nagedaan, maar de Nederlandse media lijken ze te zijn vergeten.

©Bert Verhoeff / Nederland, Rotterdam, 21-6-1980 - Opening van Poetry International. Publiek in het park voor de Euromast.

Beeld checken

Als je mogelijk AI-beeld wilt factchecken, dan zijn er inmiddels best wat technische tools voorhanden, zoals AIorNot en Illuminarty.ai. Het zijn in theorie fijne hulpmiddelen, alleen ze werken nog te slecht om erop te vertrouwen. Soms wordt AI niet gedetecteerd en soms wordt juist een beeld ten onrechte als nep aangemerkt.

Een nieuwe tool waar ik de afgelopen week mee heb gespeeld is Image Whisperer van online research expert Henk van Ess. Deze tool probeert ook AI-beeld te detecteren. Een verschil met andere tools is dat het ook de context meeneemt. Zo kan het programma een beeld als verdacht aanmerken, omdat het er onrealistisch gepolijst uitziet voor de situatie, denk daarbij aan een beeld dat de nasleep van een aanslag moet voorstellen. Ook geeft de tool uitleg over hoe het tot een beslissing komt. Ik heb het geprobeerd en ik krijg het voorlopig zelf niet voor elkaar om deze tool voor de gek te houden.

Zo detecteerde Image Whisperer dat ik had geprobeerd om een Utrechts park er Rotterdams uit te laten zien door de Euromast met AI op de achtergrond te plaatsen. Wat ik tof vond is dat Image Whisperer naast het oordeel ook echte foto’s uit de buurt van de Euromast liet zien, zodat ik ook handmatig nog kon nagaan wat er mis is met de foto. Daardoor hoef je dus niet geheel op de tool te vertrouwen, want ook voor deze tool geldt de waarschuwing dat die wel eens fouten maakt.

Politici checken

Hoe AI nog meer een vriend kan zijn in het factcheckproces, laat FullFact zien. Deze factcheckers uit het Verenigd Koninkrijk hebben een aparte afdeling opgericht om AI-software voor factcheckers te ontwikkelen. Hun software kan bijvoorbeeld supersnel detecteren wanneer een politicus een claim maakt die al eens door factcheckers is ontkracht.

Ook maakten ze met behulp van een taalmodel een programma om mogelijk checkbare claims te vinden. Het grote voordeel hiervan is dat je dus geen complete YouTube-talkshow van twee uur hoeft te kijken omdat er mogelijk schadelijke desinformatie in wordt gedeeld. Met AI-software heb je snel een overzicht of er iets checkbaars in de YouTube-video zit.

Helaas is deze software alleen toegankelijk voor factcheckers. Ben je dat niet en wil je in de komende weken zelf politici checken die langskomen in NPO-talkshows zoals Pauw en de Wit en Buitenhof, zonder alles in het geheel te kijken, dan kan je het Vlaams-Nederlandse FactRank gebruiken. Deze tool haalt automatisch mogelijk checkbare beweringen uit de transcripten van NPO-programma’s. Superhandig, alleen ook deze tool maakt wel eens een foutje. Als je echt gaat factchecken, is het dus handig om altijd het fragment even terug te kijken. Het blijft een wat onhandige vriend.

Lezen, luisteren, kijken…

… Als je tien minuten hebt

- Hoe het factchecken van AI-beeld in de praktijk gaat, liet het AFP vorige week mooi zien. Een video van een demonstrant die op de dag van de Rode Lijn-demonstratie rondging bleek oud en bovendien AI-gegenereerd.

- AI-versies van Eminem, Adele, Lady Gaga, Taylor Swift en Ed Sheeran zongen de afgelopen weken odes aan de onlangs vermoorde politiek activist en Trump-supporter Charlie Kirk. Deze odes werden bij elkaar opgeteld miljoenen keren bekeken. Het Amerikaanse Politifact dook verder in dit fenomeen.

- Nog een luchtige niet factcheckgerelateerde tip: de Techbrobot. Als er volgens Guardian-columnist Van Badham één groep mensen weg kan worden geautomatiseerd, zijn het techbro’s zoals Sam Altman en Elon Musk. Om dit te illustreren maakte ze dit satirische Bluesky-account.

Als je iets langer hebt

- Gaat ook niet over factchecken, wel heel belangrijk: wat willen politieke partijen met AI (en media, journalistiek en sociale media)? Journalist Trudy Brandenburg heeft dit inmiddels voor bijna alle partijen in kaart. Ben je nog een zwevende kiezer, lees haar stukken dan vooral op Villamedia. Hier vind je bijvoorbeeld het stuk over het CDA.

- Als je een beter beeld wilt krijgen van wat er rond factchecken gebeurt in Nederland, dan raad ik de nieuwsbrief van het Leidse factcheckinitiatief Nieuwscheckers van harte aan. AI komt in bijna iedere nieuwsbrief wel terug.

Tooltips

- Invid is al jaren hét Zwitsers zakmes voor het verifiëren van afbeeldingen en video’s. Met deze plugin is het bijvoorbeeld heel makkelijk om snel met meerdere zoekmachines tegelijk te achterhalen of een beeld al ergens anders op het internet staat.

- Niet één tool, maar een hele verzameling. Bellingcat stelde een handige lijst op van tools die handig zijn voor factcheckers.

Dat was hem ! Over twee weken informeert Nele je weer. Ik wens je een heel fijn weekend.