Bij human in the loop beoordeelt een professional de output van AI voordat een beslissing definitief wordt. Maar menselijke betrokkenheid is nog geen menselijke controle: daarvoor zijn kennis, mandaat én veiligheid nodig om AI tegen te spreken.

Een dashboard signaleert een risico. Een AI-systeem adviseert om een aanvraag af te wijzen. Een taalmodel produceert binnen enkele seconden een overtuigende analyse. De medewerker twijfelt.

Mag die medewerker ingrijpen? En belangrijker: durft diegene dat ook?

Dat is de centrale vraag in mijn working paper Beyond Psychological Safety: Algorithmic Psychological Safety Climate in AI-Enabled Organizations. Daarin introduceer ik Algorithmic Psychological Safety Climate (APSC): de gedeelde ervaring dat medewerkers AI-uitkomsten kritisch mogen bevragen, fouten kunnen melden, open kunnen zijn over hun eigen AI-gebruik en geautomatiseerde beslissingen kunnen laten heroverwegen — zonder dat dit ten koste gaat van hun positie of geloofwaardigheid.

Als technologie gezag krijgt

Psychologische veiligheid gaat over de ruimte om vragen te stellen, fouten toe te geven en een afwijkende mening te geven. In organisaties die met AI werken, ontstaat een nieuwe machtsverhouding.

Een risicoscore, dashboard of AI-advies oogt al snel objectief. Daardoor kan een uitkomst overtuigender overkomen dan de kwaliteit van de onderliggende data en aannames rechtvaardigt.

Een algoritme hoeft geen formele macht te hebben. Het krijgt macht zodra mensen het niet meer tegenspreken.

Naast human in the loop bestaat human on the loop. Daarbij neemt het systeem grotendeels zelfstandig beslissingen en houdt de professional toezicht, met de mogelijkheid om in te grijpen of het proces stil te zetten.

De termen worden in de praktijk niet altijd consequent gebruikt, maar het verschil is relevant. Een human in the loop moet elke beslissing betekenisvol kunnen beoordelen. Een human on the loop moet afwijkingen tijdig kunnen herkennen en daadwerkelijk kunnen ingrijpen. In beide situaties heeft de professional nodig:

• kennis om AI-uitkomsten te beoordelen;
• mandaat om ervan af te wijken of in te grijpen;
• tijd en aandacht om twijfel te onderzoeken;
• veiligheid om kritiek, fouten en incidenten te melden.

Ontbreken deze voorwaarden, dan wordt de human in the loop vooral iemand die een machinaal besluit van een menselijke handtekening voorziet. De human on the loop dreigt een toezichthouder op afstand te worden die formeel verantwoordelijk is, maar feitelijk weinig controle heeft.

Van spreekruimte naar correctieruimte

Mijn onderzoek bouwt voort op het werk van Amy Edmondson over psychologische veiligheid en verbindt dit met inzichten over AI-governance, menselijk toezicht en professionele autonomie. Ook de Europese AI-verordening en het NIST AI Risk Management Framework benadrukken het belang van AI-geletterdheid, menselijke controle, monitoring en duidelijke verantwoordelijkheden.

Maar toezicht op papier is nog geen effectief toezicht. Een override-knop heeft weinig waarde wanneer medewerkers niet weten wanneer ze die mogen gebruiken, bang zijn voor de gevolgen of merken dat er niets met hun signalen gebeurt.

APSC vertaalt psychologische veiligheid daarom naar vier vormen van correctieruimte:

1. Bevragen – mogen medewerkers de bronnen, aannames en grenzen van een AI-uitkomst onderzoeken?
2. Melden – kunnen zij fouten, bias en onverwachte effecten eenvoudig registreren?
3. Open zijn – kunnen zij hun AI-gebruik en twijfels bespreken zonder direct als lui, lastig of ondeskundig te worden gezien?
4. Corrigeren – kunnen zij afwijken, ingrijpen, een beslissing laten heroverwegen en bijdragen aan verbetering van het systeem?

De menselijke feedbackloop verdient dus minstens zoveel aandacht als het technische systeem.

De businesscase van tegenspraak

APSC is geen vriendelijk cultuurprogramma naast AI-governance. Het is een voorwaarde voor betrouwbare AI-governance.

De businesscase laat zich niet samenvatten in één rendementscijfer. De waarde zit vooral in het sneller herkennen, bespreken en herstellen van fouten. Organisaties die AI invoeren zonder ruimte voor tegenspraak, vergroten het risico op herstelwerk, vertraging, juridische procedures, reputatieschade, uitsluiting en verlies van professioneel vertrouwen.

Eindverantwoordelijken dienen daarom vooraf te bepalen:

• welke fouten en onzekerheden acceptabel zijn;
• welke beslissingen actieve menselijke goedkeuring vereisen;
• wanneer toezicht op afstand verantwoord is;
• wie een AI-uitkomst mag overrulen of een systeem mag stilzetten;
• hoe afwijkingen en incidenten worden vastgelegd;
• hoe snel signalen worden onderzocht;
• hoe medewerkers kunnen zien dat hun meldingen verschil maken.

Wie alleen adoptie, snelheid en productiviteitswinst meet, kijkt vooral naar de voorkant van AI. De kwaliteit van de menselijke controle blijft dan buiten beeld.

Geen wondermiddel

Een kritische kanttekening is nodig. APSC komt voort uit een scoping review en theoretische integratie. Het concept is nog geen empirisch gevalideerd meetinstrument. Het onderzoek bewijst dus niet dat meer APSC automatisch leidt tot betere prestaties of minder incidenten.

Bovendien raakt het aan bestaande concepten zoals psychologische veiligheid, employee voice, procedurele rechtvaardigheid, vertrouwen in AI en verantwoord AI-bestuur. Geen enkel cultuurconcept kan slechte data, ondoorzichtige modellen of zwakke governance repareren.

De waarde van APSC zit daarom niet in de claim dat het alles verklaart. De waarde zit in de scherpe vraag die het op tafel legt:

Wat gebeurt er wanneer een medewerker zegt dat de AI-uitkomst niet klopt?

Wordt die twijfel serieus onderzocht? Krijgt de medewerker steun? Kan de beslissing worden herzien? Mag de professional het systeem stilzetten? En leert de organisatie ervan?

De echte test van AI-volwassenheid

De volwassenheid van een organisatie blijkt niet uit het aantal ingevoerde AI-toepassingen of het percentage medewerkers dat een chatbot gebruikt.

De echte test is:

• Hoe vaak worden AI-uitkomsten ter discussie gesteld?
• Hoe snel worden signalen onderzocht?
• Hoe vaak worden beslissingen herzien?
• Kunnen toezichthouders tijdig ingrijpen?
• Ervaren medewerkers dat hun tegenspraak verschil maakt?

De sterkste AI-organisaties zijn niet de organisaties waarin mensen het systeem altijd volgen. Het zijn organisaties waarin professionals weten wanneer ze AI kunnen volgen, wanneer ze moeten twijfelen en wanneer ze moeten ingrijpen.

De beslissende vraag is daarom niet alleen:

Hebben we een human in the loop of een human on the loop?

Maar vooral:

Heeft die professional voldoende kennis, aandacht, mandaat en veiligheid om de loop te onderbreken?

Het volledige working paper, Beyond Psychological Safety: Algorithmic Psychological Safety Climate in AI-Enabled Organizations, is beschikbaar via SSRN.

APSC is een theoretisch concept dat verder empirisch moet worden getoetst. De menselijke auteur blijft eindverantwoordelijk voor de inhoud, duiding en publicatie van deze bijdrage.

Danique D. Scheepers

Chat intussen met mijn GPT Psychologische Veiligheid op de Werkplek.