Volledige automatisering is een verleidelijke belofte. Maar bij serieuze bedrijfsbeslissingen – die betrekking hebben op risico’s, marges, compliance en klanten – volstaat AI alleen vaak niet. In de Italiaanse IT-sector neemt de invoering van Human-in-the-Loop-processen een hoge vlucht: in techbedrijven met minder dan 250 werknemers is het gebruik van AI HITL voor data-analyse in zes maanden tijd met 40% gestegen, van 6,3% naar 8,8% tot september 2025, volgens gegevens van Software Oasis. Dit is geen technisch detail. Het is een strategisch signaal.
De reden is simpel. AI blinkt uit in het verwerken van grote hoeveelheden gegevens, snelheid en herhaling. Mensen blinken uit wanneer context, inzicht en verantwoordelijkheid nodig zijn. Als je deze twee werelden van elkaar scheidt, krijg je ofwel vertraging, ofwel fouten. Als je ze goed combineert, maak je van analytics een sterker besluitvormingssysteem.
Daarom wordt 'human-in-the-loop'-AI-analyse steeds meer een operationeel model, en niet langer alleen een technologische categorie. Voor veel Italiaanse kleine en middelgrote ondernemingen is het ook de meest realistische manier om AI in te voeren zonder vanaf nul een team van datawetenschappers op te bouwen. Dit verklaart ook waarom prompt engineering op zichzelf weinig zin heeft wanneer het echte probleem niet ligt in het genereren van een antwoord, maar in het nemen van een betrouwbare beslissing.
Een volledig geautomatiseerd systeem werkt prima, zolang de wereld zich maar gedraagt zoals verwacht. Het probleem is dat het bedrijfsleven, klanten, toeleveringsketens en fraude zich nooit strikt aan een vast stramien houden. Eén afwijking, een wetswijziging of een dubbelzinnig signaal is genoeg om ervoor te zorgen dat een statistisch gezien correcte uitkomst vanuit zakelijk oogpunt een verkeerde beslissing wordt.
Hier ligt de kern van de HITL-aanpak. Er wordt niet uit bureaucratische voorzichtigheid een menselijke controleur ‘achteraf’ ingeschakeld. Het proces wordt zodanig herontworpen dat de AI wordt ingezet op de gebieden waar deze het sterkst is, en alleen menselijke tussenkomst vraagt waar dat echt van belang is.
Het doel is niet om de automatisering te vertragen. Het is om te voorkomen dat de automatisering fouten maakt bij beslissingen die het meest kosten.
Voor een ervaren bedrijfsleider verandert hierdoor de vraag. Niet langer „hoeveel kan ik automatiseren?“, maar „welk deel van de beslissing moet contextueel, verklaarbaar en beheersbaar blijven?“. Juist daar biedt AI-analyse met menselijke inbreng een concurrentievoordeel, vooral in de financiële sector en de detailhandel, waar snelheid en inzicht hand in hand moeten gaan.
Voor een bedrijf is HITL geen extra technische functie. Het is een operationeel model om te bepalen wie wat doet binnen het systeem en tussen de mensen in de analytische workflow.
Bij 'human-in-the-loop'-AI-analyses onderzoekt de AI grote hoeveelheden gegevens, stelt een classificatie, een voorspelling of een waarschuwing op, en stuurt vervolgens alleen die gevallen door naar de mens die contextueel inzicht vereisen. Dit gebeurt bijvoorbeeld wanneer het signaal dubbelzinnig is, de economische waarde van de beslissing groot is, of wanneer het regelgevingsrisico een automatische reactie zonder controle niet toelaat.
De relatie lijkt op die tussen een lijnpiloot en de automatische piloot. De machine neemt het gestandaardiseerde en herhaalbare deel goed voor zijn rekening. De mens houdt toezicht op de knooppunten waar ervaring, context en verantwoordelijkheid van belang zijn.
Concreet werkt de cyclus als volgt:
Hier komt het verschil tussen theorie en ROI om de hoek kijken. Een goed HITL-systeem stuurt niet alles door voor handmatige controle. Als het dat wel zou doen, zou het het schaalvoordeel van automatisering tenietdoen. Als het daarentegen altijd de beslissing aan het model zou overlaten, zou het bedrijf worden blootgesteld aan de duurste fouten. De meerwaarde ontstaat door een slimme selectie van de punten waarop menselijke tussenkomst daadwerkelijk invloed heeft op het economische resultaat of het risicoprofiel.
Voor een Italiaanse kmo is dit aspect belangrijker dan de geavanceerdheid van het algoritme. In de financiële sector betekent dit dat een analist alleen dossiers met afwijkende patronen of inconsistente documentatie hoeft te controleren. In de detailhandel betekent dit dat de category manager of de e-commerceverantwoordelijke alleen waarschuwingen ontvangt over prijzen, voorraad of klantverloop die het systeem niet met voldoende zekerheid kan interpreteren. Platforms zoals ELECTE dit schema ook zonder een intern team van datawetenschappers haalbaar, omdat ze de operationele feedback omzetten in een gestructureerd onderdeel van het proces.
Om verwarring te voorkomen, is het raadzaam om drie modellen te onderscheiden.
| Model | Hoe werkt het? | Waar past het het beste |
|---|---|---|
| Menselijke tussenkomst | De persoon grijpt actief in bij de geselecteerde gevallen | Beslissingen met grote gevolgen, financiën, kritieke detailhandel |
| Human-on-the-loop | De persoon houdt toezicht en grijpt alleen in bij escalaties | Volwassen processen met grote volumes |
| Zonder menselijke tussenkomst | Het systeem beslist zelf | Herhalende werkzaamheden met een laag risico |
Het verschil is van architectonische aard, niet van semantische aard. Het bepaalt de reactietijden, de operationele kosten, de kwaliteit van de beslissingen en de mate van controle die het management over het proces behoudt.
Een handige regel is simpel. HITL is zinvol wanneer de kosten van een gerichte controle lager zijn dan de potentiële kosten van een automatische fout. Daarom wordt het gemakkelijker toegepast in processen waarin een klein aantal fouten de marge kan aantasten, tot onenigheid met de klant kan leiden of een complianceprobleem kan veroorzaken.
Kortom, bij human-in-the-loop AI-analyse worden mensen niet uit voorzorg ingezet. Mensen krijgen juist die taken toegewezen waarbij hun oordeel de meeste economische waarde en meer managementcontrole oplevert.
Voor een bedrijfsleider gaat het er niet om uit voorzichtigheid extra menselijke controle in te bouwen. Het gaat erom menselijk inzicht in te zetten op die punten waar automatisering aan economische efficiëntie inboet. HITL werkt wanneer het de kosten van fouten sterker verlaagt dan dat het de proceskosten verhoogt.
Dit verandert de manier waarop de waarde van AI-analytics moet worden geïnterpreteerd. Een puur automatisch model maximaliseert schaalbaarheid en snelheid. Een ‘human-in-the-loop’-model maximaliseert de balans tussen automatisering en de kwaliteit van de besluitvorming in de stappen die van invloed zijn op marges, risico’s en intern vertrouwen. Voor veel Italiaanse kmo's, vooral in de financiële sector en de detailhandel, is dit een strategisch verschil. Het heeft geen zin om volledige automatisering na te streven. Het is belangrijk om de stromen met een hoog volume goed te automatiseren en mensen in te schakelen in gevallen die kunnen leiden tot verliezen, geschillen of verkeerde commerciële keuzes.
De waarde zit hem in de knelpunten van het proces, niet in de menselijke controle op zich.
Drie voordelen komen steeds weer terug:
Het zakelijke resultaat is duidelijk: minder beslissingen die automatisch worden goedgekeurd zonder controle op die punten waar fouten het meest pijn doen.
Een nuttige analogie is die van de industriële kwaliteitscontrole. Geen enkel serieus bedrijf zet een inspecteur op elk onderdeel als het defect zeldzaam en goedkoop is. Maar geen enkel bedrijf laat partijen ongecontroleerd doorgaan als een fout kan leiden tot retourzendingen, boetes of reputatieschade. HITL past dezelfde logica toe op beslissingen op basis van gegevens. Het neemt steekproeven, filtert en escaleert alleen wanneer het risico dat rechtvaardigt.
Daarom is deze aanpak ook interessant voor bedrijven die geen team van datawetenschappers hebben. Platformen zoals ELECTE de operationele complexiteit doordat ze de feedback van medewerkers die zich bezighouden met kredietverlening, prijsstelling, voorraadbeheer of klanten omzetten in een beheersbare stap binnen de workflow, in plaats van een apart technisch project.
De voordelen komen niet vanzelf. Een slecht ontworpen proces blijft een slecht ontworpen proces, ook al is er een menselijke controleur bij betrokken.
Dit zijn de meest voorkomende risico's:
Een HITL-project mislukt vaak om een heel concrete reden. Het bedrijf voegt mensen toe aan een geautomatiseerd proces zonder de beslissingspunten, de reactietijden en de criteria waarop een zaak wordt doorgestuurd voor beoordeling, te herzien.
Er is ook sprake van een fout in de managementaanpak. Sommige teams beschouwen HITL als een tijdelijke fase, die alleen nuttig is totdat het model ‘goed’ genoeg is om zelfstandig te functioneren. Bij processen met grote impact gaat deze aanname zelden op. Op het gebied van kredietverlening, fraudebestrijding, assortimentsbeheer of promotionele prijsstelling is selectieve supervisie geen restkostenpost die moet worden geëlimineerd. Het is een vast onderdeel van het bedrijfsmodel, omdat het de winst- en verliesrekening beschermt en beslissingen verdedigbaar maakt.
De vraag is dus niet of we naar nul toezicht moeten streven. De vraag is waar toezicht het meeste rendement oplevert en waar het juist een remmende werking heeft zonder waarde toe te voegen. Van dit onderscheid hangt een groot deel van het rendement af, vooral voor kleine en middelgrote ondernemingen die AI-analyses moeten implementeren met beperkte middelen en doelstellingen die op korte termijn meetbaar moeten zijn.
In de financiële sector komt de waarde van HITL vooral tot uiting in zaken die het zwaarst wegen op de winst-en-verliesrekening en de wettelijke aansprakelijkheid. Niet in standaardprocedures, die de automatisering prima aankan, maar in beslissingen met een hoge mate van onduidelijkheid, waarbij een fout tijd, reputatieschade of auditmaatregelen tot gevolg heeft.
Het duidelijkste voorbeeld is de strijd tegen witwassen. Het model analyseert grote hoeveelheden transacties, signaleert afwijkende patronen en stelt prioriteiten voor de verschillende gevallen. De analist grijpt alleen in wanneer er een beoordeling nodig is. In de praktijk fungeert de AI als een supersnel filtersysteem, terwijl de compliance officer zich bezighoudt met de uitzonderingen die context, ervaring en het vermogen vereisen om een beslissing te onderbouwen.
Laten we eens kijken naar een zakelijke klant wiens transacties afwijken van het normale patroon. Een automatisch systeem kan dit geval als verdacht classificeren omdat het een statistische afwijking waarneemt. Een analist kan die afwijking daarentegen in verband brengen met een reorganisatie binnen het bedrijf, een seizoensgebonden fase in de bedrijfsactiviteiten of documentatie die al in de interne systemen aanwezig is.
Hier wordt de werkelijke ROI gegenereerd.
Als elke afwijking als een volwaardig risico wordt behandeld, leidt dit bij de bank tot meer valse positieven, vertraagt het de controleteams en gaat er tijd verloren die beter aan echt kritieke gevallen kan worden besteed. Als het model daarentegen de grensgevallen eruit filtert en de medewerker deze valideert, verlaagt de instelling de operationele kosten van de controle zonder dat dit ten koste gaat van de kwaliteit van het toezicht. Voor een financiële kmo of een organisatie met beperkte compliance-teams is dit van groter belang voor de haalbaarheid van het proces dan de theoretische nauwkeurigheid van het model.
Voor wie wil zien hoe dit thema ook in de praktijk wordt toegepast, biedt deze video een nuttig overzicht:
Bij kredietverlening is de logica vergelijkbaar, maar het managementvoordeel is nog duidelijker zichtbaar. Een scoringsmodel kan snel een groot aantal gestructureerde variabelen verwerken. Sommige profielen blijven echter moeilijk te beoordelen met standaardregels, bijvoorbeeld freelancers, micro-ondernemingen, bedrijven met een uitgesproken seizoensgebonden karakter of vermogenssituaties die niet erg lineair zijn.
In deze gevallen leidt HITL tot verbetering van drie operationele resultaten:
Voor een ervaren bedrijfsleider is dit het strategische punt. HITL voegt niet simpelweg een menselijke handtekening toe aan het einde van het proces. Het herontwerpt de besluitvormingsstroom om de expertise juist daar te concentreren waar automatisering de grootste kans op fouten biedt of waar de regelgevende impact het grootst is.
Op regelgevend vlak is het raadzaam een voorzichtige houding aan te nemen. Het is niet gepast om een specifieke verplichting van de Consob met betrekking tot HITL op het gebied van AI-analytics als een vaststaand feit te beschouwen zonder dat daar in de regelgeving een directe en verifieerbare verwijzing naar staat. De richting is echter duidelijk: bij compliance, controle en kredietverlening nemen de verwachtingen toe op het gebied van traceerbaarheid, menselijk toezicht en de onderbouwing van geautomatiseerde beslissingen.
Voor Italiaanse kmo’s is dit onderscheid van groot belang. Een goed ontworpen HITL-project vereist niet per se een intern team van datawetenschappers. Het vereist een platform dat twijfelgevallen doorstuurt, feedback verzamelt, audittrails bijhoudt en het werk van de financiële en risicoteams vereenvoudigt. Hier ELECTE tools zoals ELECTE de toegangsdrempel. Ze maken van HITL een meetbaar proces in plaats van een theoretisch concept, met concrete voordelen op het gebied van controletijden, de kwaliteit van beslissingen en de nalevingskosten.
In de detailhandel is de duurste fout niet het gevolg van een abstract onjuiste prognose. Ze ontstaat wanneer een prognose weliswaar correct is op basis van historische gegevens, maar niet aansluit bij de werkelijke context van de winkel, de regio of de promotieweek. Daarom heeft de ‘human-in-the-loop’-benadering een directe operationele meerwaarde. Deze benadering brengt commercieel inzicht in situaties waarin het model op zichzelf het verleden weliswaar nauwkeurig interpreteert, maar het heden met vertraging.
Een retailer gebruikt AI om de vraag, nabestellingen en de voorraadverdeling tussen kanalen en winkels in te schatten. Het model herkent seizoensinvloeden, uitverkooptrends, effecten van eerdere promoties en omloopsnelheid per SKU. De category manager ziet echter signalen die zelden direct in de datasets terechtkomen: een bericht op sociale media dat de vraag doet stijgen, een lokaal feest, een vertraging bij de leverancier, een agressieve campagne van een concurrent in hetzelfde gebied.
Het gaat er niet om het model altijd te corrigeren. Het gaat erom alleen in te grijpen wanneer de kosten van de fout hoger zijn dan de kosten van een handmatige controle. In de detailhandel komt dit vaak voor bij seizoensproducten, artikelen met een hoge winstmarge, promotionele lanceringen en lokale assortimenten.
Voor een Italiaanse kmo levert dit concrete voordelen op. Minder voorraadtekorten bij producten die echt goed verkopen. Minder kapitaal dat vastzit in slechtlopende artikelen. Minder gedwongen kortingen aan het einde van de cyclus. In de praktijk werkt HITL als een verkeerstoren: de AI regelt het dagelijkse verkeer, terwijl de commercieel verantwoordelijke zich bezighoudt met uitzonderlijke gevallen die van invloed kunnen zijn op de marge en de dienstverlening.
Door de vertraging bij de invoering wordt deze aanpak des te relevanter. Volgens ISTAT maakt slechts een beperkt deel van de bedrijven met ten minste 10 werknemers gebruik van kunstmatige intelligentie, met grote verschillen naar bedrijfsgrootte en sector, zoals blijkt uit het officiële onderzoek naar het gebruik van ICT in bedrijven: ISTAT, Bedrijven en ICT. Voor veel kmo's is het probleem niet om te begrijpen of AI nuttig is. Het is het invoeren ervan zonder een speciaal technisch team op te zetten. Een platform dat de manager bij het besluitvormingsproces betrekt, vermindert deze drempel.
Hetzelfde geldt voor prijsstelling en marketing, waar pure automatisering weliswaar de snelheid kan verhogen, maar ook tot kortzichtige keuzes kan leiden.
Hier komt een strategisch punt naar voren dat vaak wordt onderschat. In de detailhandel is het niet de bedoeling om elke afzonderlijke prognose te optimaliseren. Het gaat erom herhaalbare beslissingen te nemen die de marge, de voorraadbeschikbaarheid en de commerciële consistentie waarborgen. HITL verschuift het menselijke werk van repetitieve taken naar uitzonderingen met een grote impact.
Voor een e-commercebedrijf of een lokale winkelketen is dit verschil belangrijker dan de complexiteit van het model. Een voorspellend systeem geeft alleen een signaal. Een ‘human-in-the-loop’-systeem helpt het team om eerder een beslissing te nemen, met meer context en minder operationele weerstand. En juist hier ELECTE oplossingen als ELECTE interessant voor het MKB. Ze maken een proces haalbaar dat tot voor enkele jaren geleden voorbehouden leek aan retailers met interne datawetenschappers en bedrijfsbudgetten.
Een HITL-model heeft alleen zin als de werkstroom begrijpelijk is voor de besluitvormers. Als het doorlopen ervan datawetenschappers, handmatige zoekopdrachten of ingewikkelde technische stappen vereist, haken veel kleine en middelgrote ondernemingen al af voordat ze beginnen.
Op een goed ontworpen platform zou het proces er ongeveer zo uit moeten zien:
Koppeling met gegevensbronnen
, CRM, ERP, e-commerce, werkbladen en financiële systemen worden in dezelfde informatiestroom geïntegreerd.
Automatische signaalanalyse
De AI verwerkt de gegevens en genereert voorspellingen, waarschuwingen, rapporten en afwijkingen.
Toekenning van betrouwbaarheid en prioriteit
Niet elk inzicht is even waardevol. Sommige zijn duidelijk, andere moeten nog worden geëvalueerd.
Selectieve escalatie naar de gebruiker
Onduidelijke gevallen of gevallen met grote impact komen terecht in een controledashboard.
Menselijke feedback
De manager keurt het inzicht goed, corrigeert het of wijst het af, waarbij de context zichtbaar blijft.
Continu leren
Het systeem gebruikt die feedback om het model in de loop van de tijd te verfijnen.
Deze redenering sluit aan bij de architectuur van de actieve feedbackloop die in de geverifieerde bronnen wordt beschreven: de AI vraagt om menselijke validatie op de punten waar de onzekerheid het grootst is, in plaats van controle over de gehele dataset te eisen. Dit is de stap die HITL haalbaar maakt, en niet alleen theoretisch correct.
Voor een mkb-bedrijf is het niet zozeer de vraag of ze ‘AI moeten gebruiken’. Het gaat erom dat ze het kunnen gebruiken zonder een speciale technische afdeling op te zetten. Daarom is de interface net zo belangrijk als het model zelf.
Een effectieve aanpak zou het volgende moeten bieden:
Als de auditor een model zonder context moet interpreteren, wordt de cirkel doorbroken. Als hij inzicht, motivatie en impact in dezelfde ruimte ziet, wordt de cirkel een beslissing.
Dat is nu juist het cruciale punt. Het HITL zou van kleine en middelgrote ondernemingen niet moeten verlangen dat zij zich aan de technologie aanpassen. Het platform zou de analytische complexiteit moeten vertalen naar een proces dat een financieel, operationeel of retailmanager in een paar stappen kan aansturen.
HITL-projecten leveren waarde op wanneer ze de kosten van besluitvorming verlagen, niet wanneer ze een extra controleniveau toevoegen. Voor een Italiaanse kmo gaat het er niet om overal een menselijke controle in te bouwen. Het gaat erom te bepalen op welke punten menselijk inzicht kostbare fouten corrigeert, uitzonderingen sneller afhandelt en het model op de lange termijn nuttiger maakt.
Daarom is de volgorde waarin je te werk gaat belangrijker dan de oorspronkelijke ambitie. Een goed eerste gebruiksscenario heeft drie kenmerken: zichtbare economische impact, voldoende historische gegevens en een beslissing die vandaag de dag al afhangt van de ervaring van een persoon. Financiën en detailhandel vallen vaak onder dit profiel. Bij handelskrediet kan bijvoorbeeld een gerichte herziening van dubbelzinnige gevallen beoordelingsfouten verminderen zonder de hele stroom te vertragen. In de detailhandel geldt hetzelfde principe voor nabestellingen, promotionele prijsstelling en het beheer van voorraadafwijkingen.
| Criterium | Waarom het belangrijk is |
|---|---|
| Economische gevolgen van de fout | Het bedrijf kan de waarde van de correctie berekenen |
| Beschikbaarheid van historische gegevens | Het model kan uitgaan van signalen die al in de processen aanwezig zijn |
| Het bestaan van reeds bestaande menselijke oordeelsvorming | Feedback moet je niet verzinnen. Je moet het gestructureerd geven |
Hier staat de ROI op het spel.
Als het menselijke team bij elke beslissing ingrijpt, wordt de AI slechts een tussenstap. Als het alleen ingrijpt bij zaken met een hoge mate van onzekerheid of grote impact, bereikt het bedrijf een heel ander effect: minder operationele belasting bij eenvoudige zaken en meer aandacht voor zaken die het economische resultaat daadwerkelijk beïnvloeden. Dit is de logica die eerder al werd genoemd. Door de feedback op de juiste punten te concentreren, maakt de organisatie beter gebruik van zowel de tijd van de mensen als de capaciteit van het model.
De tweede best practice betreft het ontwerp van het punt waarop menselijke tussenkomst plaatsvindt. In veel implementaties ligt het probleem niet bij het algoritme, maar bij de onduidelijkheid van het proces. Als niet duidelijk is wie er goedkeuring geeft, op basis van welke drempels en op basis van welke informatie, leert de lus niets. Het systeem verplaatst de weerstand dan alleen maar van de ene stap naar de andere.
Voorafgaand aan de livegang is het raadzaam om vier operationele elementen vast te stellen:
Een vuistregel helpt om te bepalen of het project klaar is: als de revisor niet weet waarom die zaak aan hem is toegewezen, is de implementatie nog niet klaar.
Er is nog een veelvoorkomende fout bij kleine en middelgrote ondernemingen. Men denkt dat het management moet worden getraind in de wiskunde van het model. In werkelijkheid is er iets anders nodig: het vermogen om een afwijking te herkennen, de plausibiliteit van het inzicht te beoordelen en consistente feedback te geven. Dat is een belangrijk verschil. Een category manager hoeft het algoritme niet te trainen. Hij moet herkennen of een voorstel voor een nieuwe bestelling voorbijgaat aan een lokale promotie, een leverancierswissel of een voorraadtekort dat al bekend is bij het team.
Platforms zoals ELECTE deze aanpak toegankelijker, juist omdat ze de technische complexiteit achter een gebruiksvriendelijke interface verbergen. Voor veel kleine en middelgrote ondernemingen ligt hier het strategische voordeel. Ze hoeven geen team van datawetenschappers samen te stellen om AI-analyses goed te kunnen gebruiken, maar stellen hun financiële en retailafdelingen in staat om het systeem binnen de dagelijkse workflow aan te passen, te valideren en te verbeteren.
De kwaliteit van de implementatie wordt gemeten aan de hand van enkele concrete indicatoren: de tijd die nodig is om uitzonderingen te beoordelen, het percentage aanvaarde aanbevelingen, de vermindering van terugkerende fouten en de economische impact van de correcties. Als deze cijfers niet verbeteren, automatiseert het project alleen maar de output. Het leidt nog niet tot betere beslissingen.
Een goede 'human-in-the-loop'-AI-analyse vereist slechts een beperkt aantal menselijke ingrepen, die goed getimd en traceerbaar zijn. Op die manier is de samenwerking tussen mens en machine niet langer een technische belofte, maar wordt het een operationele discipline met meetbare resultaten.
Wanneer AI wordt ingezet in een proces dat betrekking heeft op kredietverlening, prijzen, fraude of compliance, verschuift de kernvraag. Het gaat niet alleen om de vraag of het model een nauwkeurige voorspelling oplevert. Het gaat erom of het bedrijf kan nagaan hoe die voorspelling tot een besluit heeft geleid, wie dat besluit heeft goedgekeurd en op basis van welke criteria.
Hier is governance geen administratief niveau dat achteraf is toegevoegd. Het werkt als het controlesysteem van een productielijn: als de controlepunten goed zijn gedefinieerd, voorkomt het bedrijf kostbare fouten voordat deze de klant, de accountant of de toezichthouder bereiken. Bij hybride AI ligt de waarde van menselijke tussenkomst ook hierin: een proces inzichtelijk maken dat bij pure automatisering het risico loopt ondoorzichtig te blijven.
Het eerste knelpunt is de vertekening. In de financiële sector, zoals eerder al opgemerkt, ligt het probleem niet alleen in de historische gegevens, maar ook in de manier waarop het model die gegevens omzet in operationele signalen. Een goed ontworpen ‘human-in-the-loop’-controle helpt bij het opsporen van afwijkingen die het systeem als normaal beschouwt omdat het die uit het verleden heeft geleerd.
De menselijke inbreng lost het probleem echter per definitie niet op. Zonder operationele discipline verplaatst het het probleem alleen maar naar een ander niveau. Een controleur kan een beslissing verbeteren, maar kan ook mechanisch de aanbevelingen van het model overnemen of subjectieve voorkeuren invoeren die moeilijk te detecteren zijn.
Daarom is het voor kleine en middelgrote ondernemingen die een daadwerkelijk rendement op hun investering willen behalen uit HITL-projecten in de financiële sector en de detailhandel, raadzaam om drie elementen te beschouwen als onderdelen van het proces, en niet als auditformaliteiten:
Dit onderscheid heeft directe economische gevolgen. Als menselijke feedback niet wordt bijgehouden en niet hergebruikt kan worden, betaalt het bedrijf twee keer. Eerst voor de technologie. Vervolgens voor een handmatige controle die geen leerproces oplevert.
Het tweede knelpunt is de verantwoordelijkheid. Bij een gevoelige beslissing volstaat het voor een auditor, een zakelijke klant of een risicobeheerfunctie niet om te zeggen dat "het algoritme dit heeft voorgesteld". Er is een transparante besluitvormingsketen nodig: de gebruikte input, de drempel die tot escalatie heeft geleid, menselijke tussenkomst en de uiteindelijke beslissing.
Vanuit het oogpunt van de AVG is deze aanpak nuttig omdat het eenvoudiger wordt om aan te tonen dat gegevens tot het minimum worden beperkt, dat de toegang wordt gecontroleerd en dat er toezicht wordt gehouden op beslissingen die betrekking hebben op gevoelige informatie. Dit garandeert niet automatisch naleving. Het vermindert echter een kwetsbaarheid die kenmerkend is voor AI-projecten in het MKB: het hebben van een model dat technisch weliswaar functioneert, maar dat op documentair vlak moeilijk te verdedigen is.
Hier lopen veel initiatieven vast. Niet vanwege beperkingen van het algoritme, maar omdat niemand heeft vastgelegd wie een aanbeveling mag corrigeren, in welke gevallen, op basis van welk bewijs en met welke uiteindelijke verantwoordelijkheid.
Voor een bedrijfsleider is de toets eenvoudig: kan deze beslissing op een samenhangende manier worden uitgelegd aan een interne auditor, een klant of een toezichthoudende instantie? Als het antwoord onzeker is, is het risico niet theoretisch. Het is reëel.
Om deze maatregelen op een pragmatische manier in te voeren, zonder dat dit voor kleine teams tot onbeheersbare complexiteit leidt, is ook de gids van ELECTE verantwoorde AI en de ethische implementatie van kunstmatige intelligentie een nuttig hulpmiddel.
De belangrijkste les is deze: AI-analyse met menselijke tussenkomst is geen noodoplossing in afwachting van een ‘meer autonome’ AI. Het is vaak de meest volwassen methode om data-analyse om te zetten in betrouwbare, verklaarbare en bedrijfsrelevante beslissingen.
AI zorgt voor schaalbaarheid, snelheid en patroonherkenning. Mensen houden zich bezig met uitzonderingen, verantwoordelijkheden en context. Wanneer deze twee niveaus samenwerken, krijgt het bedrijf niet alleen meer automatisering. Het krijgt ook betere besluitvorming.
Als je ruwe gegevens wilt omzetten in betrouwbaardere beslissingen zonder de operationele complexiteit te vergroten, ontdek dan hoe ELECTE, een AI-aangedreven data-analyseplatform voor het MKB, een Human-in-the-Loop-aanpak kan ondersteunen met een gepersonaliseerde demo.
.svg)
.svg)
.svg)
