Andere smaken AI: het kan wel
‘De huidige AI is ontwikkeld door een handjevol atypische Amerikaanse mannen en wordt ons opgedrongen. Het is niet van ons, en niet voor ons’, schrijven Laurens Vreekamp en Gabriella Obispa in hun nieuwe boek Niet onze AI - Voorbij de beloften van big tech. Maar: ‘Dat hoeft niet zo te blijven.’ Voor deze nieuwsbrief spreek ik Laurens en Gabriella over hun boek. Verder: eindelijk een journalistieke benchmark en natuurlijk tooltips.
Jullie stellen dat AI “niet van ons en niet voor ons” is. Wat bedoelen jullie daar precies mee?
‘Big Tech ontwikkelt AI-systemen die hun eigen waarden, normen en vooroordelen weerspiegelen, terwijl ze claimen universele oplossingen te bieden. Zij bepalen en dicteren wat AI is en wordt, hoe we het gebruiken en hoe we erover denken. Het zijn systemen die onze levens bepalen, terwijl wij geen stem hebben gehad in hoe en waar het wordt toegepast en waartoe het is ontwikkeld. We vroegen ons af: hoe komt het dat we zo weinig andere, meer gevarieerde geluiden horen over AI? Welke andere perspectieven zijn er en wat betekenen die voor het AI-debat? Het boek biedt tegenwicht aan het dominante narratief uit Silicon Valley.
Het allergrootste misverstand over AI is dat het een puur technische kwestie zou zijn. AI is heel duidelijk ook een sociaal-maatschappelijk vraagstuk dat raakt aan macht, democratie en rechtvaardigheid. Maar het lijkt alsof je je moet verantwoorden wanneer je aarzelt, gezond kritisch bent en terecht vraagtekens stelt bij AI-toepassingen, omdat je blijkbaar tegen de stroom in gaat. Ons doel is om lezers mee te nemen in een wereld van AI vol nieuwe geluiden en perspectieven van niet-dominante groepen, van bijvoorbeeld juristen, filosofen en sociologen, die ook een grote diversiteit in achtergrond representeren. Zo willen we het debat verrijken.
Het boek is bedoeld voor iedereen, van media- of beleidsmaker tot docent, die beseft dat de toekomst niet vastligt en dat zij invloed hebben op de ontwikkeling van AI in de samenleving.’
Het boek biedt ook optimisme; een andere AI is mogelijk. Wat stemt jullie hoopvol?
‘We wilden niet sec de problemen en tekortkomingen van de technologie aankaarten (daarover gaat deel I van het boek, getiteld Hun AI), maar vooral ook mensen aan het woord laten die AI anders zien en die er anders mee omgaan. Dat is deel II van het boek: Onze AI. ‘Als wij niet zelf de toekomst uitdenken, dan gaat iemand anders het voor ons doen’, zegt onderzoeksjournalist Sahra Mohamed treffend.
In het laatste deel van het boek (Jouw AI), bieden we de lezer handelingsperspectief. Met oefeningen, vragen en een flowchart geven we de lezer handvatten en moed om nieuwsgierig en kritisch de toekomst in te gaan. Er zijn bijvoorbeeld oefeningen waarin je valkuilen ontdekt en valse beloften leert herkennen. Ook geef je in een opdracht je eigen invulling aan de letters A en I.’
Jullie hebben het in het boek over ‘andere smaken AI’. Waar moet ik dan aan denken?
‘We hebben er in totaal negen uitgewerkt in het boek. Een paar daarvan zijn:
Nauwkeurigheid boven snelheid. Onderzoeksjournalist Sahra Mohamed roept ons op om veel preciezer te zijn en om te vertragen - helemaal tegen de tijdgeest in. Heel verfrissend.
AI als maatwerk in plaats van massaproduct. Concreet voorbeeld uit het boek: filmstudenten die hun eigen, langzaam werkende, 3D-renderingssoftware zelf bouwen, zodat het past bij hun specifieke behoeften.
AI als collectieve spiegel. Sennay Ghebreab legt uit hoe we AI kunnen gebruiken om inzicht te krijgen in maatschappelijke processen en om introspectie te forceren bij organisaties over hun eigen vooroordelen en ongelijkheid. Zijn concrete voorbeeld: simulatiemodellen inzetten om te zien hoe mobiliteitsongelijkheid in de stad verbetert als tram- of buslijnen anders lopen.
AI als motor. We interviewden ondernemer en onderzoeker Ruben Brave. Zijn perspectief is diepgeworteld in de Winti-cultuur die hij van zijn moeder meekreeg: “De Surinaamse cultuur gaat uit van krachten die zich in jou manifesteren, die groter zijn dan jij. Je kunt de kracht hebben van een grote slang of adelaar. Technologie vergroot je denkkracht, je spierkracht. Dan ben jij een medium om die krachten in gang te zetten.” Het gaat erom dat je de krachten van anderen, die buiten jezelf liggen, aanspreekt en bundelt om meer mogelijkheden te zien en andere oplossingen te formuleren. Brave stelt: “Als je niet bezig bent met inclusie dan mis je innovatie.” Met andere woorden: dan doe je jezelf tekort in het oplossingsrepertoire. Deze spirituele benadering biedt een ander alternatief voor het westerse, technocratische denken over AI.
In het boek schrijven we: “Alle verschillende smaken - van nauwkeurigheid tot bedachtzaamheid, van bescheidenheid tot inclusie, van ecologisch bewustzijn tot digitale weerbaarheid – vormen samen een rijk palet aan alternatieven. Niet één ervan is dé oplossing, maar samen tonen ze dat er veel meer keuzes zijn dan de standaard menukaart die we voorgeschoteld krijgen vanuit Silicon Valley.”’
Jullie stellen ook dat twijfel geen zwakte is, maar een kracht. Hoe kunnen journalisten twijfel productief inzetten in hun werk?
‘Door te erkennen dat jouw positie niet de beste of belangrijkste is. Twijfel is je onderzoeksinstrument. Vraag door wanneer techbedrijven grootse beloftes maken, raadpleeg andere bronnen dan alleen de gebruikelijke techexperts, bied ruimte aan kritische stemmen uit de samenleving.
Een paar concrete aanbevelingen:
Stel nauwkeuriger vragen: Laat je als journalist niet meeslepen door algemene uitspraken zoals ‘alle banen gaan verdwijnen’, maar vraag gericht door. Welke banen? Op welke manier? In welke sectoren en regio’s? Voor wie? Wanneer? En onder welke voorwaarden?
Demystificeer AI. Als journalist moet je het verhaal ontleden tot de saaie kern: “een technologiebedrijf zegt dat ze jou een slimme assistent bieden, een tweede brein of een magische kracht, maar wat ze echt willen is zo veel mogelijk marktaandeel, kapitaal en macht verkrijgen door software te verkopen die ze vermommen als iets magisch - meer dan wat het in feite is en kan”. Zoals een van onze geïnterviewden, kunstenaar en onderzoeker Tiwánee van der Horst, zo mooi zegt: “We hoeven AI niet neer te zetten als een soort magische tool. Als wij er niet zijn, is de technologie er niet.”
Plaats AI in de context. AI wordt vaak gebruikt als containerbegrip, maar is in werkelijkheid een waaier van technologieën met verschillende toepassingen. Dus benoem of je te maken hebt met een tekstanalyse-algoritme, een groot taalmodel, gezichtherkenningssoftware of Excel-automatisering. En het allerbelangrijkst is om technologie in de sociale en culturele context te plaatsen. Wat doet technologie in het leven van mensen, op het werk, in de privésfeer of het onderwijs?
En tot slot: wees preciezer in je beeld- en taalgebruik. We moeten af van de ‘scifi-fantasie’, van de misleidende beelden van robots en blauwe hersenen. Vraag goed door over de beloften die techbedrijven doen en in hoeverre die worden waargemaakt.’
Wat was voor jullie zelf de grootste eye-opener bij het schrijven van dit boek?
‘Het interview met Sahra Mohamed waarin zij oproept om te vertragen, maar ook wat we leerden over Winticultuur en soorten kapitaal van Ruben Brave. Naast economisch en sociaal kapitaal, is er ook symbolisch kapitaal, wat Brave uitlegt als “eervolle zichtbaarheid”. Het gaat er in de journalistiek om wie we aan het woord laten over AI. Wie doet er eervol werk, maar krijgt niet vanzelfsprekend zichtbaarheid? Dat is de vraag waarmee we ons boek startten en die leidend is geweest bij het kiezen van onze geïnterviewden.
Ook interessant was het gesprek met mensen van Cybersoek, die ons inzicht gaven in de miljoenen Nederlanders die nu al moeite hebben om goed mee te komen in de digitale samenleving. Dat die angstig worden als het gaat over AI: het is een extra, overweldigende en onbegrepen ontwikkeling, waar ze liever verre van blijven. Het zijn vaak diezelfde mensen die de meeste impact van AI ervaren, maar er het minst over te zeggen hebben: ze hebben niet de tijd, worden niet gevraagd, zitten niet aan tafel en nemen de beslissingen niet.
Princeton professor Ruha Benjamin stelt dat technologie bestaande machtsverhoudingen weerspiegelt en reproduceert, maar dat je die met technologie ook kunt uitdagen. Benjamin doet dit op meerdere niveaus. Het eerste is dat van de verbeelding. Waarom vinden we met raketten naar de maan gaan ambitieus, maar het oplossen van armoede naïef?
In praktische zin doelt ze erop dat we dezelfde technologie die we gebruiken voor onderdrukking en controle, kunnen richten op de groep die daar normaliter geen hinder van ondervindt. Een voorbeeld hierbij is de installatie White Collar Crime. Uit het boek: “Een groep Amerikaanse kunstenaars ontwikkelde daartoe de live-applicatie White Collar Crime Risk Zones. Daarvoor gebruikten ze 7000 profielen van LinkedIn om een gezichtsherkenningsmodel te trainen dat personen op straat linkt aan financiële fraude. Over deze specifieke applicatie bleken veel mensen verrast, verbolgen of lacherig. Maar het is precies dezelfde technologie – met alle kenmerken en functies die rechtstreeks zijn ontleend aan daadwerkelijk bestaande voorstellen en praktijken – die personen op straat discrimineert en segregeert op basis van huidskleur, haarsoort, vermeend gendertype, kleur ogen en bouw. Omkeringen helpen om vanzelfsprekendheden en ongelijkheden bloot te leggen. Laten we daarom vooral goed naar onszelf kijken, en waarom en hoe wij systemen zo selectief ontwikkelen en inzetten.”’
En wat hoop je dat journalisten en andere mensen die in de media werken, meenemen uit Niet onze AI?
‘Dat je veel meer mensen moet betrekken bij de ontwikkeling, het inzetten en het bevragen van nieuwe technologische ontwikkelingen. Ook de journalistiek zou de burger/lezer/kijker/luisteraar/swiper veel vaker actief kunnen betrekken in verhalen over AI.’
De lancering van Niet onze AI - voorbij de beloften van big tech vindt plaats op dinsdag 18 november in Felix Meritis (Amsterdam) met panelleden Felienne Hermans, hoogleraar Vakdidactiek van de informatica aan de Vrije Universiteit Amsterdam, tech-ondernemer en investeerder Ruben Brave en Judith Zoë Blijden, oprichter van Is This Art Maybe en Senior Adviseur Hooghiemstra & Partners. Kaartjes koop je hier - het boek bestel je hier.
Lezen, luisteren, kijken..
..Als je tien minuten hebt:
Generative AI in the Newsroom testte of een LLM kan helpen nieuwswaardigheden op te sporen. Tipje van de sluier: prima als eerste filter, maar het oordeel van menselijke journalisten blijft nodig in de vervolgstappen.
Maurits Martijn (de Correspondent) legt uit waarom hij het woord AI niet meer gebruikt.
Het wemelt van de benchmarks die meten hoe goed modellen werken, maar het was nog wachten op eentje specifiek gericht op journalistieke prestaties van LLM’s. Generative AI in the Newsroom biedt een ‘cook book’ voor zo’n benchmark, gebaseerd op zaken als accuraatheid en actualiteit.
..Als je wat langer hebt:
Een interessante podcast van Bellingcat over de invloed van AI op Osint-werk. Ze lanceerden trouwens ook deze handige toolkit voor online investigation, met categorieën als geolocatie, conflict en wildlife. Doe er je voordeel mee!
Tijdens Media Van Morgen (6 november in Leiden) is er onder meer aandacht voor de invloed van algoritmen en Fediverse als alternatief voor bigtech. ‘De rook van de verkiezingen is nog aan het optrekken, maar één ding lijkt overduidelijk’, schrijft tech journalist Hugo Roosenschoon. ‘Algoritmen en sociale mediaplatforms hebben een enorme invloed op de politieke beeldvorming. Voor kleinere (journalistieke) partijen wordt aandacht krijgen steeds moeilijker. Hoe kan de journalistiek daarmee omgaan?’ Hij gaat in gesprek met Natali Helberger (hoogleraar Recht & Digitale Technologie), Ocky Wiemeijer (Head of Product bij NU.nl) en Eline Krak (videojournalist bij NRC). Aanmelden doe je hier.
Nog tijd op 14 en 15 november? De VVOJ houdt haar jaarlijkse conferentie die dagen in Leuven. Kaartjes koop je hier.
Tooltips tot slot
De EBU testte samen met twintig Europese publieke omroepen hoe accuraat chatbots nieuws weergeven (nog steeds niet best – in 45% van de gevallen zijn er fouten). Interessant is dat dit rapport ook kant-en-klare prompts biedt waarmee je zelf kunt testen en vergelijken hoe verschillende LLM’s reageren op nieuwsvragen.
In Google’s nieuwe AI Studio kun je AI-toepassingen bouwen zonder programmeerkennis, simpelweg door te prompten. Ezra Eeman (NPO) testte o.a. al een tool die helpt niche-verhaalideeën te bedenken. Een goede conversation starter: “Je kunt snel ideeën uitproberen, zien wat werkt en concrete voorbeelden evalueren met je team.” Handig!
Dat was hem weer. Over twee weken meer!
