Waarom AI-systemen weerstand oproepen?

Snelheid en efficiëntie maken processen niet automatisch legitiem. Wanneer beslissingen ondoorzichtig zijn, ontstaat afstand en weerstand. Duurzame digitalisering vraagt om systemen die uitleg geven, menselijke betrokkenheid mogelijk maken en vertrouwen creëren.

Efficiëntie is geen legitimiteit

Waarom snelle systemen zonder uitleg weerstand oproepen

Automatisering wordt vaak ingezet om processen sneller en consistenter te maken. Dat lukt in veel organisaties. Besluiten worden vlotter genomen en de uitvoerbaarheid neemt toe. Toch blijkt snelheid alleen niet voldoende voor draagvlak.

Wanneer systemen beslissingen nemen zonder inzicht te geven in hun werking, ontstaat afstand. Zeker wanneer de gevolgen direct merkbaar zijn. Mensen willen begrijpen hoe een besluit tot stand is gekomen, ook als de uitkomst ongunstig is.

In veel digitale systemen is die uitleg lastig te geven. De afwegingen zijn niet zichtbaar vastgelegd. Het is onduidelijk welke gegevens doorslaggevend waren. Dat maakt het moeilijk om verantwoordelijkheid te plaatsen of correcties toe te passen.

Die onduidelijkheid leidt tot weerstand. Niet tegen automatisering zelf, maar tegen het gevoel dat processen niet aanspreekbaar zijn. Wie een besluit ontvangt, wil weten waar hij terechtkan en hoe herstel mogelijk is.

Bestuurlijke frictie ontstaat wanneer systemen sneller zijn ingericht dan de verantwoording eromheen. Bezwaarprocedures nemen toe en besluitvorming komt onder druk te staan. De beoogde efficiëntiewinst verliest daarmee zijn waarde.

Legitimiteit vraagt om systemen die ruimte laten voor uitleg en menselijke betrokkenheid. Niet als uitzondering, maar als onderdeel van het ontwerp.

Bij Xuntos zien we efficiëntie als belangrijk, maar niet als leidend criterium. In publieke en gereguleerde contexten bepaalt acceptatie het succes van digitalisering. Begrijpelijke systemen worden duurzaam gebruikt.

Automatisering vraagt daarom om meer dan snelheid. Ze vraagt om vertrouwen.

Wetenschappelijke inzichten over weerstand op AI acceptatie

Uit recente studies blijkt dat acceptatie van AI kan afnemen na hypegolven, met meer vraag naar menselijke controle. Hoe komt dat? Weerstand komt vaak door:

  • gebrek aan vertrouwen
  • ethische zorgen
  • ongelijkheid tussen groepen

Hoe kan je dan toch de stap maken naar succesvolle adoptie:

  • change management
  • transparantie
  • lerende organisatiecultuur

Bron: arxiv.org

AI-adoptie groeit, maar governance blijft achter

Governance goed inregelen door het inzetten van verantwoorde AI zal de weerstand dalen.

Ondanks de versnellende adoptie lijkt de governance nog geen logische stap voor veel bedrijven. Terwijl 57% van de organisaties zich in een gevorderd stadium van AI-adoptie bevindt, heeft slechts 27% een uitgebreid AI-governance framework opgezet. De verdeling naar maturiteit is veelzeggend: 2% heeft helemaal geen beleid, 15% werkt ad-hoc zonder formele governance, 56% is bezig met het ontwikkelen van beleid, en amper 27% heeft een uitgebreid framework met actieve handhaving en regelmatige reviews. Dit gebrek aan governance kan volgens het onderzoek veel organisaties ervan weerhouden het volledige potentieel van AI te benutten, met ongebruikte rendementen als gevolg.

Kortom veel pilots worden opgeschaald naar productie, maar organisaties worstelen nog met:

  • governance en regelgeving
  • training en vaardigheden
  • infrastructuur en security

Bron: dutchitleaders.nl

Aan de slag met verantwoorde AI

Bij Xuntos is samen, schaalbaar. verantwoord de basis wat wij doen. Hoe kan je governance goed regelen? Dat begint bij het fundament. We starten eerst met een analyse voor een gedegen plan van aanpak. Daarbij analyseren we data, processen en risico’s en vertalen die naar een concrete architectuurschets.
Lees meer over onze aanpak bij

Kennismaken

Heb je vragen? Of wil je samen sparren?

We denken graag met je mee hoe jouw organisatie digitaal kan versnellen. Of het nu gaat om een UX, technische uitdaging of AI oplossingen. Stuur een berichtje en we nemen zsm contact met je op.