Hypothese Werken met AI · 1 min lezen
Wiens naam staat bij het besluit?
Een spoor van AI-ondersteund werk is pas nuttig als het noemt wie besliste, en als we weten met wiens rechten de agent werkte.
Foto: Gabrielle Henderson op Unsplash
Na de workshop waarover ik schreef in Groen is nog niet klaar, bleven er twee vragen hangen.
Wie besliste?
Als een team met een AI-tool werkt, bedient meestal één persoon de tool terwijl de anderen overleggen. Dan komt in het verslag al snel de naam van wie typte te staan, in plaats van wie de keuze maakte.
Dat klinkt klein, maar een spoor van besluiten is alleen nuttig als het de juiste persoon noemt. “Het team” is geen eigenaar, en wie toevallig typte ook niet.
Met wiens rechten?
Collega’s die dagelijks met AI-agents werken, wezen op iets eenvoudigs: een agent werkt met jouw inloggegevens. Alles wat jij mag, mag hij ook. Regels in een projectbestand helpen, maar ze zijn geen sandbox.
Foto: Maria Ziegler op Unsplash
OWASP noemt dit excessive agency: meer rechten of vrijheid dan de taak nodig heeft. Het advies is niet nieuw: geef zo min mogelijk rechten, en houd een mens betrokken bij alles met echte impact.
Wat ik nu vraag
Als ik hoor “we gebruiken AI, maar alles is herleidbaar”, wil ik twee dingen vragen:
- Laat het verslag zien wie besliste, of alleen wie typte?
- Wiens rechten gebruikte de agent?
Ik heb nog geen volledige antwoorden. Daarom is dit een notitie.
Een fout gevonden?
Meld het zoals je dat in een sprint zou doen. Correcties worden hier bijgehouden.
Correcties
Nog geen.
