Steeds vaker bekruipt me het gevoel dat we in een slechte aflevering van Black Mirror zijn beland. Een nieuwe, fantastische techontwikkeling brengt heel snel veel gemak, vreugde, vrijheid, of misschien wel zelfvertrouwen. We omarmen het. Met z’n allen. Want wie wil dat nou niet?
En het lijkt ook zo logisch. Bovendien: je zou wel gek zijn om het als enige links te laten liggen, terwijl de rest van de mensen om je heen allang op die denderende, prachtige hogesnelheidstrein is gesprongen. Totdat dan uiteindelijk en onvermijdelijk dat knappe staaltje technologie de hakbijl aan de wortel van de stam van onze samenleving blijkt te zijn.
Dan wil je van die trein af. Maar ja, hij rijdt al zo snel… Wie springt er dan nog?
Die trein, het laat zich raden, is AI. Binnen mijn kennissenkring was ik misschien wel de eerste die er idolaat van was. Ik sprong vol overgave op de LLM-trein (Large Language Model, red.). Ik kloonde mezelf met meerdere avatars: perfecte gelijkenis en míjn stem. Ik trainde een custom GPT om die digitale versies van mezelf bovendien een goed functionerend ‘brein’ te geven. En nu kan ik dus gesprekken voeren met een sceptische, een positieve en zelfs een bejaarde versie van mezelf, met een schat aan data in hun hersenpannetjes.
Toegegeven: voor mij is het puur werk. Ik neem die vrouwen mee het podium op en geef AI daarmee een gezicht tijdens mijn presentaties over de voor- en nadelen ervan. Maar steeds vaker gruwel ik van ze. Van waar ze voor staan.
De trein rijdt te hard op dit moment. Vorige week stond ik als moderator op een evenement waar men verzuchtte dat we van ‘human in the loop’ terug moesten naar ‘human in the lead’. Het thema was agentic AI. Oftewel: een AI die zelfstandig taken kan uitvoeren, kan inloggen in systemen, autonoom beslissingen kan nemen en in jouw naam bijvoorbeeld bestellingen kan doen.
Ik knikte toen ik het hoorde: ‘human in the lead!’ Jazeker! Yeah! Maar wat belachelijk eigenlijk dat we al zo ver waren afgedreven dat de mens niet meer per se de leiding had. Dat we dat eigenlijk al bijna hadden geaccepteerd.
Er werd ook besproken wat te doen met ‘rogue agents’ (in het Engels, want dat klinkt beter dan ‘losgeslagen agenten’). Het bedrijf had onderzoek gedaan en het bleek dat 90 procent van de bedrijven al AI-agents aan het werk had. Non Human Identities heten die agents. En dat zijn lastige medewerkers.
Voor mensen heb je een humanresourcesafdeling die ervoor zorgt dat een medewerker een contract krijgt en een toegangspasje. Bij ontslag wordt het contract netjes ontbonden en het pasje ingenomen. Per direct kom je dan nergens meer in of bij. Maar er bestaat nog niet zoiets als een non-humanresourcesafdeling. Een agent die niet meer wordt gebruikt, hoeft zich nergens te melden om de toegangsrechten weer in te leveren. Best een risico voor een bedrijf.
Ja, in zo’n wereld snak je wel naar een human in the lead, ja. Maar kom er nog maar eens om, over een paar jaar. Want die humans worden nu al op sommige plekken vervangen.
Mijn pessimisme werd nog eens extra gevoed toen ik zag dat de Kids Top 20 terugkeert; een muziekprogramma dat aan de wieg stond van presentatoren als Monique Smit, Buddy Vedder en Kim-Lian van der Meij. Na 23 jaar was dat programma door bezuinigingen van de buis gehaald en nu maakt het een doorstart vanuit het productiebedrijf, maar uitsluitend op sociale media.
En wie is de presentator? Wie is het nieuwe talent, het nieuwe rolmodel voor onze kinderen, over wie ze denken: zo word ik later ook? Juist, een AI-avatar. Jess heet ze. En ik kan alleen maar denken: no.
Vivianne Bendermacher was hoofdredacteur van onder meer KIJK en VIVA en richtte daarna samen met Tamira van Roeyen Techionista op, waarmee zij honderden vrouwen begeleidde richting een baan in IT en technologie. Inmiddels is zij spreker en adviseur op het gebied van AI, diversiteit en digitale inclusie.
