In een overleg blijkt dat een offerte grotendeels met AI is opgesteld. Dat is niet erg, vindt iedereen, en dat klopt waarschijnlijk ook. Dan vraagt iemand of de bedragen erin zijn nagerekend. Het blijft even stil.

Niemand heeft iets fout gedaan. Er was alleen nooit afgesproken wie de uitkomst controleert, want er was ook nooit afgesproken dat het instrument gebruikt zou worden. Het gebruik was er eerder dan het besluit.

Dat is het patroon. Veel organisaties gebruiken AI inmiddels op meerdere plekken. Soms zichtbaar, via goedgekeurde middelen. Soms ongemerkt, via medewerkers, leveranciers of functies die meekomen met bestaande software. Dat gebruik kan waardevol zijn, maar het ontwikkelt zich sneller dan de organisatie bestuurlijk kan overzien.

Het risico is niet dat AI wordt gebruikt. Het risico is dat onduidelijk blijft waarvoor AI wordt gebruikt, welke informatie erin gaat, welke uitkomsten worden vertrouwd, en wie verantwoordelijk blijft.

Waarom dit bestuurlijk relevant is

AI raakt niet alleen techniek. AI raakt besluitvorming.

Zodra AI wordt gebruikt voor analyse, selectie, beoordeling, communicatie of klantcontact, ontstaat een bestuurlijke vraag: waarop baseert de organisatie haar besluiten, en wie kan uitleggen hoe die tot stand kwamen?

Dat geldt ook bij ondersteunend gebruik. Een concepttekst, een klantreactie, een analyse of een beslisadvies beïnvloedt echte keuzes. Als niemand scherp heeft waar menselijke beoordeling verplicht blijft, ontstaat schijnzekerheid.

AI verandert daarmee de verhouding tussen snelheid en verantwoordelijkheid. U kunt sneller werken, en moet tegelijk kunnen blijven uitleggen wat is gebruikt, wat is gecontroleerd, en wie eigenaar is van het besluit.

Wat ik typisch zie

  • er is geen beleid, en dus is er ook geen overtreding, en dus komt het onderwerp nooit op de agenda
  • medewerkers gebruiken AI omdat het werk anders niet af komt, en melden dat niet, want er is niets om aan te melden
  • klantinformatie gaat een dienst in waarvan niemand de voorwaarden heeft gelezen
  • een leverancier heeft AI toegevoegd aan een bestaande dienst en dat gemeld in een release-notitie die niemand las
  • uitkomsten worden gebruikt als onderbouwing zonder dat iemand ze heeft nagerekend
  • er is één enthousiaste medewerker die veel automatiseert, en niemand weet precies wat
  • een experiment is stilzwijgend structureel geworden, zonder besluit en zonder eigenaar
  • de organisatie kan aan een klant niet uitleggen of, en waar, AI in de dienstverlening zit
  • de vraag komt pas op tafel wanneer een klant ernaar vraagt in een contractonderhandeling.

Het gevolg is dat het gebruik vooruitloopt op de besluitvorming. De organisatie gebruikt AI, maar kan niet uitleggen waar, hoe, met welke gegevens en onder wiens verantwoordelijkheid.

Welke vragen dit oproept

AI vraagt niet eerst om een beleidsprogramma. Het vraagt eerst om helderheid over gebruik, verantwoordelijkheid en grenzen.

  • Waar wordt AI feitelijk gebruikt, ook bij uw leveranciers?
  • Welke informatie gaat erin, en wat zegt de overeenkomst daarover?
  • Welke uitkomsten beïnvloeden beslissingen, communicatie of dienstverlening?
  • Waar is menselijke beoordeling verplicht, en is dat ergens vastgelegd?
  • Wie is eigenaar wanneer een uitkomst onjuist blijkt?
  • Wat kunt u een klant vertellen over uw eigen AI-gebruik?
  • Welke toepassingen zijn acceptabel, beperkt toegestaan of niet toegestaan?
  • Wat is er nodig om te kunnen reconstrueren hoe een besluit tot stand kwam?
  • Welke beslissingen over AI zijn nog niet expliciet genomen?

Deze vragen brengen AI terug naar bestuurbare proporties. Niet als hype of experiment, maar als vraag over besluitvorming, gegevens, eigenaarschap en bewijs.

Wat een Reality Check hier oplevert

Een Reality Check onderzoekt niet alle AI-mogelijkheden en geeft geen advies over middelen. Hij begint bij een concrete bestuurlijke vraag en maakt zichtbaar waar AI-gebruik raakt aan risico, verantwoordelijkheid en aantoonbaarheid.

Bij dit onderwerp levert dat bijvoorbeeld op:

  • scherp beeld van het AI-gebruik binnen de gekozen scope, inclusief wat via leveranciers binnenkomt
  • onderscheid tussen toegestaan, informeel en onbekend gebruik
  • zicht op welke informatie de organisatie verlaat en onder welke voorwaarden
  • vaststelling waar menselijke beoordeling verplicht hoort te zijn
  • signalering van besluiten die nog niet expliciet zijn genomen
  • besluitpunten voor directie of bestuur, scherp genoeg om de afweging zelf te kunnen maken
  • helder eigenaarschap voor AI-gebruik en de risico's daarvan.

Wat een Reality Check niet levert, is een kosteninschatting, een implementatieplan of een keuze van middelen. Die keuzes blijven van u.

De waarde zit niet in het blokkeren van AI. De waarde zit in het zichtbaar maken waar AI invloed heeft op besluiten, gegevens en verantwoordelijkheid.

Kern

AI-gebruik is niet riskant omdat het nieuw is. Het wordt riskant wanneer gebruik, rechten en uitkomsten sneller groeien dan besluitvorming, eigenaarschap en bewijs.

AI neemt geen risicobereidheid, eigenaarschap of verantwoording over.