Wie neemt redactionele beslissingen - mens, machine of hybride?

Deze week in het AI-mediajournaal: hoe AI helpt AI-hallucinaties op te sporen, een chatbot die Google Maps doorzoekt en een stappenplan om je eigen AI-model te trainen.

Edgar Matobato (ANP)

Maar eerst even dit..

Veel AI-richtlijnen schrijven transparantie voor, zonder duidelijk te maken hoe en wat precies. Lastig, want op de loer ligt de transparantieparadox: hoe meer transparantie over het gebruik van AI, hoe minder geloofwaardig in de ogen van het publiek, suggereert deze studie van de universiteiten van Oxford en Minnesota.

Katharina Schell (Austria Press Agentur) gebruikte haar fellowship bij het Reuters Institute om tot concrete aanbevelingen te komen voor AI-transparantie. Ze stelt een systeem voor waarin we duidelijker maken wat AI precies gedaan heeft in het journalistieke proces in plaats van te kiezen voor generieke labels. Want dat gebruikers labels als "gemanipuleerd", "deepfake" of "niet echt" niet bijzonder betrouwbaar vinden, is niet heel verrassend. Hoeveel detail je geeft, bepaal je op basis van twee vragen:

1. Wie neemt de redactionele beslissingen – mens, machine of hybride?
2. Wat is de impact op redactionele autonomie – laag, medium of hoog?

Neem text-to-speech-toepassingen, zoals een AI-gegenereerde stem die een bestaand artikel voorleest. Omdat de inhoud van een journalist komt, liggen de redactionele beslissingen bij mensen en is de impact op de redactionele autonomie laag.

Heel anders is dat bij bijvoorbeeld conversational interfaces, waarin de gebruiker in gesprek kan met een chatbot. Omdat niet ieder antwoord door mensen gecheckt wordt (het gaat immers om live interactie) ligt de beslissing bij de machine en is de impact op de redactionele autonomie hoog. Dat vraagt om heel andere transparantie, betoogt Schell.

Je downloadt hier haar gehele rapport.

Katharina Schell (Austria Press Agentur)

Samenwerken helpt tegen hallucinaties

Een hardnekkig probleem van generatieve AI is de onzin die er regelmatig uitrolt, de zogenoemde hallucinaties. Onderzoekers van de Linux Foundation vroegen zich af of de kans op deze hallucinaties afneemt als meerdere AI-agents elkaars output controleren. Het antwoord daarop lijkt positief.

Een experiment met 310 test cases, waarin drie agents gezamenlijk een gestructureerde review doorlopen, laat zien dat de kans op hallucinaties vermindert met 96%.

Wat doen de media?

Met een hele verzameling aan AI-tools zette Jaemark Tordecilla de onderzoeksjournalistieke longread The Making Of Edgar Matabato om in een videoverhaal van 33 minuten (zie onder). Hier vertelt hij hoe hij dit in twee dagen voor elkaar kreeg.

• Every maakt extendable stories met een chatbot waaraan je vragen kunt stellen - niet alleen over het artikel, maar ook over alle bronmateriaal dat geraadpleegd is voor het artikel én het materiaal dat het artikel niet haalde.

• The Washington Post integreert AI in de comment sectie: het biedt onder meer samenvattingen van de belangrijkste reacties en labelt afzonderlijke commentaren, bijvoorbeeld als ‘clarifying’, ‘thoughtful’ of ‘provocative’.

• The Economist, Aftonbladet, Danish Broadcasting Corporation en Indian Express gebruiken AURA (zie onder), een tool die verhaalideeën haalt uit ongestructureerde datasets. AURA (een project van JournalismAI) doet onder meer voorstellen voor pitches, headlines en interviewkandidaten.

• Een slimme factcheck-hulp gebruiken de BBC, Deutsche Presse-Agentur, News UK en het Mexicaanse DataCritica. Checkmate transcribeert video’s live, markeert de passages die feitelijke beweringen bevatten en zoekt direct naar bronnen die journalisten kunnen gebruiken ter verificatie.

Lezen, luisteren, kijken..

..als je vijf minuten hebt:

• Henk van Ess test het nieuwe model van Google Gemini dat kan zoeken in Maps, op YouTube en je oude vertrouwde zoekmachine. Met nog wat meer verfijning zou dit wel eens een favoriete geolocatie-tool voor journalisten kunnen worden, voorspelt Van Ess.

• “AI is een geopolitiek wapen”, schrijft Sander Duijvesteijn in zijn nieuwsbrief RealFake. “De toekomst van AI wordt niet beslist door wie de slimste algoritmes heeft, maar door wie de toegang ertoe beheert.”

  ..als je iets langer hebt

• Je eigen AI-model trainen? Laurens Vreekamp helpt je op weg in zes stappen. Als je de oefendata gebruikt, kun je in vijf minuten al testen.

• Reuters zocht uit hoe het AI-gebruik op redacties in the Global South is. Opvallend: 80% van de participanten gebruikt AI, maar in 80% van die gevallen blijkt er geen AI-beleid of -richtlijn te zijn. Lees het gehele rapport of het interview met onderzoeker Damian Radcliff.

• AT5, PublicSpaces en de OBA slaan de handen ineen voor de talkshow Data Morgana. “Onder de belofte de wereld beter, eerlijker en efficiënter te maken verzamelen big tech bedrijven op grote schaal onze data. Maar wordt de wereld hier nu echt beter van, of is dit slechts een luchtspiegeling, een ‘data morgana’?”, schrijft presentatrice Julia Janssen op LinkedIn. Vanaf 5 februari om de week te zien op AT5 en via Display Europe in vijftien talen.

Tooltips tot slot

• Beleidsradar doorzoekt miljoenen pagina’s aan beleidsdocumenten voor je en neemt daarbij zelfs handgeschreven notities mee. Met de GPT kun je bovendien met documenten ‘in gesprek’ en samenvattingen van complexe teksten laten genereren.

• 1Password biedt gratis abonnementen voor journalisten. Daarmee zijn niet alleen je wachtwoorden veilig, maar ook andere gegevens. Zo kun je op reis travel mode inschakelen en daarmee gevoelige gegevens tijdelijk van je device halen. Zodra je de modus uitschakelt, staan je gegevens weer op je apparaat.

• Benieuwd of er interessante mensen zijn die je nog niet kent, maar wel in je netwerk wil hebben? Boardy belt je, stelt vragen en geeft advies over mensen om mee te netwerken.

• Steeds meer mensen stappen over naar Whatsapp-alternatief Signal. Vaak betekent dat wel dat je nóg een app hebt om bij te houden. Heel handig is de notification assistant Beepy die al je berichten bijhoudt in één app. Van Whatsapp, Instagram, Telegram, Signal en Slack tot SMS.

Dat was hem weer, over twee weken meer. Heb je tips, vragen of ideeën? Mail me! (Ngoutier@Villamedia.nl)