Hoe Reuters alle deepfake detectoren kraakte
Rustig is het nooit in de wereld van AI. In deze editie: gekraakte deepfake detectoren, 'de eerste AI-journalist van Nederland' die gelijk onderuitging en inspirerende voorbeelden van AI-gebruik.
Mocht je het gemist hebben..
De zoektocht naar de ideale redactie-assistent
‘Feitelijk en objectief’ zou hij zijn: AIfred, de eerste AI-journalist van Nederland werd groots aangekondigd. De tool zou nuance brengen – iets waaraan het volgens Christian Kromme (bedenker van de tool) ontbreekt in de media.
Te vroeg gejuicht, bleek al snel. Op de dag van de lancering ontlokte Stijn Bronzwaer (NRC) AIfred uitspraken over ‘de giftigheid van de mainstream media’. Ook aan ‘twee zo ongenuanceerd mogelijke argumenten waarom je geen kinderen moet vaccineren’ hielp AIfred de journalist graag. En zo ging de tool direct na lancering alweer offline: “Uit de antwoorden blijkt nu een vooringenomenheid die we binnen de media juist wilden bestrijden.”
Ondertussen biedt Media 52 met de tool Laio ook een redactie-assistent. Laio herkent relevante nieuwsonderwerpen, zoekt bronnen, schrijft en redigeert teksten en ontwerpt een afbeelding bij het verhaal. Zoals mede-oprichter en hoogleraar journalistiek Bart Brouwers het verwoordt: “Hebben we alle valkuilen en bezwaren opglost? Nee. Zijn we voor Laio nog steeds afhankelijk van de black box die OpenAI, Anthropic, Gemini en al die anderen ons hebben voorgeschoteld? Ja. Maar moeten we om die reden op onze handen blijven zitten tot het moment dat alle drempels zijn weggenomen en in de tussentijd toestaan dat andermaal buitenstaanders de koers van de journalistiek gaan bepalen? NEE!”
Wat Laio oplevert, is te zien op DGKI. Dat het niet altijd goed gaat, ook. Wat Laio echter slim doet volgens tech filosoof Aaron Mirck: realistische verwachtingen scheppen. Laio als redactiehulp in plaats van zelfstandig, objectief journalist. Brouwers berichtte deze week dat de eerste betalende klant een feit is.
Ook jij krijgt een AI-assistent..
..want Meta rolt haar nieuwste AI-model (Llama 3) uit op Instagram, Facebook en Whatsapp. Zo kun je binnenkort tekst of beeld genereren zonder de app te verlaten. In de EU is de assistent nu nog niet beschikbaar, maar de verwachting is dat dit niet lang meer zal duren.
Reuters kraakt alle deepfake detectoren
Met het snel realistischer worden van gemanipuleerd beeld en geluid, groeit de behoefte aan goede deepfake detectoren. Erg betrouwbaar blijken die helaas nog niet. Reuters Insititute testte een hele rits aan detectoren en ‘broke them all’, aldus onderzoeker Shirin Anlen. Ze voegde ruis toe, verwijderde meta-informatie of cropte een afbeelding. Stuk voor stuk manieren om de detectoren in de war te brengen, zo blijkt. Bottom line: Een kant-en-klare oplossing voor journalisten om met deepfakes om te gaan, laat op zich wachten. Onder welke voorwaarden kun je zo’n detector wel inzetten? De auteurs denken met je mee.
Nu we het toch over deepfakes hebben
Slechts één foto en een korte stemopname - dat is alles wat er nodig om met een nieuw model van Microsoft een deepfakevideo met kloppende lip sync te genereren. Oplettend publiek meldt dat tanden er nog wel eens vreemd uitzien in de verder redelijk overtuigende video’s. Microsoft erkent het risico op misbruik en lanceert de tool (nog) niet, net zoals ChatGPT besloot Voice Engine (waarmee je stemmen kunt klonen) besloot voorlopig achter slot en grendel te houden. De vraag is: voor hoelang?
Voorbeeld van Microsoft, gebaseerd op één minuut audio en één foto.
Copyright saga bereikt muziekindustrie
Het is onrustig in de creatieve sector sinds de opkomst van generatieve AI. Hollywood staakte, ChatGPT schudde de schrijvende beroepen wakker (Zijn wij nog van meerwaarde? Hoe zit het met copyright?) en beeldgeneratoren roepen soortgelijke vragen op bij kunstenaars, fotografen en art directors. Met de opkomst van muziektools als Suno en Udio, die binnen luttele seconden hele nummers opleveren, krabt ook de muziekindustrie zich – zacht uitgedrukt - achter de oren. Udio belooft muziek te verwijderen die onrechtmatig gebruikmaakt van de stemmen van artiesten als Depeche Mode, Spinvis en Stef Bos. Het AD maakte een rondgang langs muzikanten en DJ’s. Spraakmakers sprak met tech experts en hoogleraren over creativiteit en rechten. Veel gehoord: Het is tijd voor wetgeving.
Nieuws spotten is zo simpel nog niet
Het zou zo mooi zijn: een chatbot als hulpje om het belangrijkste nieuws voor je te selecteren. Niet alleen handig voor jou als journalist, maar zeker ook voor een publiek met weinig tijd of zin om nieuwsbronnen af te struinen. In theorie zou het moeten kunnen. Microsoft koppelt ChatGPT aan zoekmachine Bing. ChatGPT schrijft de zoekopdracht, Bing doet het zoekwerk, jij ontvangt de belangrijkste headlines van het moment. Althans, dat is het idee.
De praktijk is weerbarstiger, blijkt uit onderzoek van Reuters. In slechts 46-48% van de gevallen wist de chatbot überhaupt nieuws aan te wijzen. En in slechts 8-10% van de gevallen ging het daadwerkelijk om het meest belangrijke nieuws. Ook klopt de bronverwijzing van de chatbot vaak niet. We zullen ons nieuws voorlopig toch nog even zonder hulp van ChatGPT of Gemini bij elkaar moeten zoeken.
Lezen, luisteren, kijken..
..als je tien minuten hebt:
- In hoeverre moet je als journalist transparant zijn als je AI inzet? En hoe dan? Dertien Zweedse mediabedrijven brengen gezamenlijk advies uit.
- ‘Radicaliseren op Tiktok is kinderspel’, aldus Sam Ooghe (Humo). Het kostte hem in sommige gevallen slechts 15 minuten scrollen om te ontdekken hoe makkelijk de algoritmes van TikTok hem in een fuik in trekken van Neonazisme, zelfmoord of Jihadisme. Lees zijn verhaal hier of ga voor de samenvatting op X.
- Slim gebruik van Large Language Models: Pew Research Center onderzocht wie te gast waren in 24.000 podcastafleveringen. “Dit zou vijf mensen een hele maand werk kosten. Zonder pauzes.”
- New York Times deed ook iets slims met ChatGPT: met behulp van de tool plaatst NYT alle eigen verhalen automatisch op een kaart om te controleren of alle buurten genoeg aandacht krijgen. Dat ging niet zonder slag of stoot, maar lukte.
- Antonio Zappulla, CEO van Thomson Reuters, zet de belangrijkste lessen van International Journalism Festival voor je op een rijtje. Drie van de vijf gaan over AI.
- Proofnews onderzocht de kwaliteit van de verkiezingsinformatie die verschillende chatbots geven (tipje van de sluier: vaak misleidend, inaccuraat of ronduit schadelijk) én licht toe hoe ze dat aanpakten.
- Slechts 14% van de gebruikers van ChatGPT gebruikt de tool dagelijks. Dat is weinig vergeleken met de 51% op bijvoorbeeld sociale media. Een belangrijke oorzaak: misverstanden over de mogelijkheden van de tool. Zach Seward (NYT) geeft een voorbeeld van iets dat chatbot wél goed kan: data ordenen, bijvoorbeeld zo.
..als je wat langer hebt
- Een kijktip van AI- en media-expert Laurens Vreekamp: dit gesprek tussen Jesper Doub (voormalig directeur International News Partnerships van Meta) en Madhav Chinnappa (voormalig directeur News Ecosystem Development bij Google) over de verhouding tussen big tech en nieuwsorganisaties. ‘Het voelt als oproep. Ja, we kunnen het over democratie en de rol van techreuzen hebben. Maar snap nou eens hoe die platforms naar de wereld kijken.’
Tot slot: tooltips
- Beautiful.ai zet je aantekeningen in een vingerknip om in PowerPointslides, inclusief afbeeldingen en special effects
- Sophina helpt je ieder verhaal om te zetten in een (potentieel virale) Tiktokvideo. Jij levert de informatie, Sophina schrijft het script. De maker, Sophia Smith Galer, deelt hoe ze deze tool zonder programmeerervaring heeft kunnen maken. Ook vertelde ze erover op het International Journalism Festival in Perugia.