Effectief Leiderschap in een tijdperk van Artificial Intelligence

Bewaking en beheer van Data, Algoritmes en AI-toepassingen

1643

Cover stories · Boeken

Met de komst van ChatGPT in december 2022 zijn de gesprekken binnen en buiten organisaties rondom het thema artificial intelligence in een stroomversnelling gekomen. De AI-tool werd binnen twee maanden al door 100 miljoen mensen gebruikt. Daarmee groeide het sneller dan TikTok en Instagram. Opeens zijn de mogelijkheden en onmogelijkheden van deze chatbot en het daarachterliggende taalmodel (Generative Pre-trained Transformer-versie 4) van OpenAI onderwerp van gesprek en discussies.

Hoe moet het onderwijs omgaan met deze technologie?
Doordat ChatGPT heel goed verslagen kan schrijven brengt het onderwijsinstellingen en docenten wereldwijd in een lastig parket. Door de komst van ChatGPT gaan In Australië universiteiten hun studenten weer verplichten om examens en verslagen met pen papier te schrijven.
Hebben we nog wel copywriters, journalisten en marketeers nodig in de toekomst?
‘’It took ChatGPT 30 seconds to create, for free, an article that would take me hours to write’’ Bron Henry Williams, freelance writer

Bovenstaande vragen poppen nu op doordat ChatGPT een hype is, de vragen die je veel minder hoort zijn vragen als:

Hoe betrouwbaar zijn de antwoorden van ChatGPT eigenlijk?
Op welke data is het model getraind?
Waarom is de keuze voor die specifieke data gemaakt en door wie?
Hoe werk ChatGPT eigenlijk?
Is te achterhalen hoe het tot een bepaald antwoord komt?
Wat gebeurt er eigenlijk met de vragen die ik stel?

Dit zijn de vragen die gaan over de onderliggende data, algoritmes en het toepassen van artificial intelligence. In dit artikel wil ik bestuurders handvatten aanreiken hoe het gebruik van data, algoritmes en artificial intelligence in de organisatie bewaakt en gewaarborgd kan worden.

Data

Veel organisaties zijn al een aantal jaren bezig om meer datagedreven te werken. Oftewel in plaats van keuzes met name op kennis en ervaring te baseren, deze steeds meer te baseren op feiten die voortkomen uit data.

ChatGPT noemt het: Datagedreven werken betekent het nemen van beslissingen en uitvoeren van acties op basis van gegevens en feiten in plaats van op basis van intuïtie of persoonlijke ervaring alleen. Het gaat om het gebruik van data om inzicht te krijgen in de werkelijkheid en het nemen van beslissingen op basis van deze inzichten.
Gemeente Hengelo spreekt liever over ‘datagedreven sturing’: sturend handelen door het systematisch verzamelen, beheren, analyseren en interpreteren van data.

Als de organisatie haar keuzes meer op data gaat baseren, hoe kan een bestuurder dan het gebruik van data bewaken en borgen?

Type aandachtspunten	Vragen en/of acties
Kennis en ervaring	Is de bestuurder in staat om de juiste waarde te hechten aan het belang van data voor de organisatie? Beschikt de bestuurder over voldoende kennis om de data governance in de organisatie te bewaken? Wordt bij data issues (data lekken, data privacy) adequaat opgetreden? Kennis vergaren: De bestuurder moet een basiskennis opdoen over het werken met data. Belangrijke aspecten zijn Type data en datavraagstukken Data management en data governance Wetgeving
Belang van data voor de organisatie vaststellen en bewaken	Vanuit de bestuurlijke rol zouden onder andere de volgende vragen gesteld kunnen worden: Wat is de waarde van data voor de organisatie? Is het van strategisch belang? Hoe is het data management ingericht? Hoe wordt de kwaliteit van de data geborgd? Hoe is de toegang tot de data geborgd? Hoe is de data governance ingericht: Zijn de rollen, taken en verantwoordelijkheden belegd? In hoeverre is het inrichten van een data governance-raad noodzakelijk Is er een databeleid opgesteld? Zijn er regels en richtlijnen vastgesteld voor het verzamelen, verwerken en delen van data? Hoe en hoe vaak wordt de naleving van deze regels en richtlijnen geborgd en wanneer wordt gerapporteerd? Worden verbeteracties opgevolgd Welke incidenten die betrekking hebben op het gebruik van data, hebben er plaatsgevonden, hoe zijn die opgevolgd en hoe is geborgd dat het niet nogmaals plaatsvindt. Welke maatregelen worden getroffen om bias in de datasets te voorkomen Is het team dat de data selecteert divers genoeg?
Kennisdeling	Leren van andere organisaties in het eigen netwerk, zodat het ‘’wiel’’ niet opnieuw uitgevonden hoeft te worden en men van de fouten en uitdagingen van anderen leert. Kennis delen met andere organisaties zodat er een data ecosysteem kan ontstaan waarin ook met andere organisaties data gedeeld zou kunnen worden.

Een Data Governance-raad neemt strategische beslissingen over het definiëren, produceren en gebruiken van bedrijfsdata.
Bron: Non-invasive data governance, Robert S. Seiner.

Algoritmes

Een algoritme is een ‘’systematisch stelsel om rekenkundige bewerkingen uit te voeren, en de volgorde daarvan’’, wat in de context van computerprogramma’s wordt uitgelegd als een eindigende reeks instructies om van een gegeven begintoestand naar een beoogd doel te komen (bron: Artificial Intelligence In Actie, M.F. Serrurier Schepper)

Alledaagse voorbeelden van algoritmes

Recept voor een appeltaart: Door het volgen van de stappen in het recept kom je van de gegeven begintoestand; losse appels, suiker, meel etc, naar de boogde appeltaart.
Ikea handleiding: door het volgen van de plaatjes kom je (als het goed is 😉) van een set losse planken naar het beoogde doel van een kast.

Chat GPT schrijft: Een algoritme is een reeks stappen of instructies die een computer of ander systeem volgt om een bepaalde taak uit te voeren. Het kan worden beschouwd als een soort recept dat specifieke input omzet in output. Algoritmen kunnen bijvoorbeeld worden gebruikt om berekeningen uit te voeren, gegevens te sorteren of zoekopdrachten uit te voeren.

Met de toename van het meer datagedreven werken neemt ook het gebruik van algoritmes toe. Hiermee wordt ook het risico groter dat algoritmes onbedoeld tot discriminerende of negatieve uitkomsten voor bepaalde groepen leiden.

Bij iedereen staat het verkeerde gebruik van algoritmes bij de Toeslagen affaire nog vers op het netvlies maar ook op geslacht wordt met regelmaat gediscrimineerd. Zo heeft bijvoorbeeld een Amerikaans koppel allebei een Apple Card, de creditcard van Apple. Echter zij krijgt een veel lager krediet aangeboden dan hij.

Gelukkig worden mensen in organisaties zich steeds bewuster van het onbedoelde negatieve effect van het gebruik van algoritmes. En vooral bij overheidsinstanties is die bewustwording groot.

Amsterdam heeft een nieuwe missie: geen enkel algoritme dat in de stad wordt gebruikt mag discrimineren, vals spelen of andere ongewenste beslissingen nemen. Bron: FD, 1 maart 2019

Tevens heeft de overheid in 2022 een algoritmeregister gecreëerd. Op deze website publiceren overheidsorganisaties de algoritmes die zij gebruiken in hun werk.

Als de organisatie meer gebruik maakt van algoritmes, hoe kan een bestuurder dan het gebruik daarvan bewaken en borgen?

Type aandachtspunten	Vragen en/of acties
Kennis en ervaring	Beschikt de bestuurder over voldoende kennis om het gebruik van algoritmes op de juiste risico’s te beoordelen? Heeft de bestuurder de juiste beheersmaatregelen getroffen en wordt bij issues adequaat opgetreden? Kennis vergaren: De bestuurder moet een basiskennis opdoen over het gebruik en de werking van algoritmes. Specifiek de werking van machine learning algoritmes en neurale netwerken.
Belang van algoritmes voor de organisatie vaststellen en bewaken	Vragen die vanuit de bestuurlijke rol gesteld kunnen worden: Is er een beleid voor het gebruik van algoritmes? Waar en waarvoor in de organisatie wordt gebruik gemaakt van algoritmes? Is het gebruik ervan gedocumenteerd? En waar is het gedocumenteerd? Zijn er processen in de organisatie waar besluiten volledig worden genomen op basis van een algoritme (er is dus geen mens meer in de loop) In hoeverre kan de uitkomst een negatief effect hebben op de klant/burger etc. Worden ook machine learning algoritmes gebruikt? Wordt er gebruik gemaakt van neurale netwerken (black-box modellen) Is het belang van transparantie voor de eindgebruiker/degene op wie het impact heeft meegenomen in de besluitvorming? Bias Minimalisatie: Hoe wordt ervoor gezorgd dat de algoritmes die worden gebruikt niet gebaseerd zijn op onjuiste of ongelijke veronderstellingen of vooroordelen. Is bij het selecteren van de data rekening gehouden met het voorkomen van bias? Is het van waarde om een externe partij in te schakelen om de algoritmes op bias te analyseren?
Kennisdeling	Communiceren naar het netwerk over het belang van verantwoord gebruik van algoritmes.