Kort antwoord

Kies lokaal om een concrete reden

Een lokaal AI-systeem kan zinvol zijn als documenten de eigen omgeving niet mogen verlaten, de taak vaak terugkomt en je organisatie het beheer kan dragen. Denk aan het voorstellen van velden uit inkomende formulieren, waarna een medewerker ze controleert. De locatie van het model is echter maar één onderdeel. Scanners, OCR, bestanden, indexen, logs, back-ups en medewerkersaccounts vormen samen de gegevensstroom. De Autoriteit Persoonsgegevens eist bij persoonsgegevens ook op eigen apparatuur een doel, passende beveiliging en beperkte verwerking.

Begin met de werkvraag: welke documentsoort, welke velden, welke foutgevolgen en hoeveel menselijke controle? Soms is een gewone sjabloon, regel of zoekfunctie goedkoper en beter uitlegbaar. Vergelijk die optie met een beheerde externe dienst en een lokale oplossing op dezelfde testset. Lokale installatie is pas een voordeel wanneer de gegevensgrens en het beheer daadwerkelijk aantoonbaar verbeteren.

Proceskeuze

Welke documenttaak is geschikt voor een eerste proef?

Kies één taak met duidelijk controleerbare uitkomst: haal bijvoorbeeld factuurdatum, documentnummer en bedrag uit een vaste documentstroom. Laat het systeem een voorstel met bronlocatie maken, geen definitieve boeking. Leg per veld een regel vast: bij onleesbaarheid of tegenstrijdigheid gaat het document naar een medewerker. Start niet met een combinatie van alle mappen en documenttypen; dan weet je niet waar fouten ontstaan.

Meet de huidige verwerking eerst: welke handmatige stappen bestaan, waar ontstaan correcties en wat is de doorlooptijd? Stel daarna dezelfde vragen bij de proef. Gebruik fictieve of toegestane documenten. Een fout op een bedrag of persoonsgegeven weegt zwaarder dan een op een minder belangrijk label. Het NIST-profiel voor generatieve AI benadrukt taakgebonden evaluatie en monitoring, omdat plausibele uitvoer onjuist kan zijn.

Gegevensstroom

Verlaten gegevens echt de eigen omgeving niet?

Teken de route van scan tot archief. Controleer of OCR, model, embeddings, foutmeldingen, telemetrie en back-ups lokaal blijven of alsnog een externe dienst gebruiken. Beperk de toegang tot de documentenmap, de zoekindex en de beheerinterface per rol. Test met een netwerkmeting of de afgesproken uitgaande verbindingen uit staan. Noem een installatie pas lokaal in de zin die voor jouw organisatie telt nadat deze route is geverifieerd.

Sla prompts en documenten niet onbeperkt op 'voor later'. Spreek vast welke informatie nodig is voor foutanalyse, hoe lang die blijft en wie haar mag inzien. Als de organisatie persoonsgegevens verwerkt, blijven grondslag, doelbinding, rechten van betrokkenen en eventuele DPIA-vraag bestaan. De AP-hulp bij generatieve AI adviseert vooraf te onderzoeken of de taak zonder persoonsgegevens kan.

Beveiliging

Welke controles horen bij eigen apparatuur?

Wijs een beheerder aan voor gebruikersrechten, updates, kwetsbaarheden, back-ups en hersteltests. Scheid de AI-dienst van andere bedrijfsapplicaties en geef haar alleen toegang tot de benodigde documenten. Beperk schrijfrechten: een model dat velden voorstelt, hoeft het bronsysteem niet te wijzigen. Test ook wat er gebeurt bij een defecte schijf, onbereikbare service of mislukte update. Het NCSC noemt tijdig patchen en het uitschakelen van onnodige functies als basis voor beschermde systemen.

Behandel een ontvangen document als onbetrouwbare invoer. Een PDF kan tekst bevatten die probeert de AI-instructie te veranderen. De OWASP-richtlijn over prompt injection beschrijft dit risico bij externe documenten. Scheid documentinhoud van systeeminstructies, controleer uitvoer en laat geen documenttekst opdrachten geven aan bestanden, e-mail of andere systemen. Een lokaal model is niet vanzelf bestand tegen deze aanval.

Toetsbaar voorbeeld

Hoe vergelijk je lokaal met de huidige werkwijze?

Fictief voorbeeld: een administratiekantoor ontvangt maandelijks vergelijkbare formulieren. Het team maakt dertig synthetische documenten: heldere scans, scheve foto's, ontbrekende velden, correcties met pen en dubbele documentnummers. Een medewerker stelt vooraf de juiste waarden per document vast. De lokale oplossing doet alleen voorstellen. Het team vergelijkt per veld de uitkomst met de referentie en registreert fouten, onduidelijke gevallen en benodigde hersteltijd.

Vergelijk die resultaten met handmatige verwerking en eventueel een goedgekeurde externe oplossing op precies dezelfde documenten. Leg vooraf vast dat een verkeerd bedrag nooit automatisch wordt overgenomen en dat een onduidelijk document naar menselijke controle gaat. Meet daarnaast CPU/geheugen, beschikbaarheid en onderhoudswerk, want die bepalen de totale inzet. Dit is een voorgestelde proef, geen uitgevoerd benchmark of kostenberekening.

Besluit

Wanneer levert lokale AI genoeg op?

Een lokale inrichting past wanneer de afgesproken gegevensgrens aantoonbaar werkt, de taak nauwkeurig genoeg is voor de afgesproken review, en iemand eigenaar is van onderhoud en incidenten. Leg vast wat het systeem wel en niet doet, welke documenten het mag lezen, hoe medewerkers fouten corrigeren en wanneer de toepassing tijdelijk uitgaat. Herhaal de test na een modelwissel, nieuwe documentsoort of aangepaste OCR. Een andere component kan de uitkomst of de gegevensroute veranderen.

Kies voorlopig handmatige verwerking of een eenvoudiger hulpmiddel als de foutlast hoog is, beheer ontbreekt of bronlocaties niet verifieerbaar zijn. Wie wil weten of eigen apparatuur bij de bestaande omgeving past, kan eerst de uitleg over lokale AI lezen en daarna een afgebakende installatie op locatie bespreken. De keuze blijft afhankelijk van de eigen gegevens, infrastructuur en beheerdiscipline.

Verantwoording

Bronnen en controle

Auteur
Jesse Dekkers, Redactioneel verantwoordelijke, Palisade. Verantwoordelijk voor de inhoud en actualisering van deze Palisade Kennisgids.
Inhoudelijke controle
Jesse Dekkers op 25 oktober 2026
Werkwijze
Redactionele werkwijze, 25 oktober 2026: primaire richtlijnen van AP, NIST, NCSC en OWASP verwerkt in een praktische beslis- en testmethode. Het formulierenvoorbeeld is fictief; er is geen productproef, hardwaremeting of klantresultaat uitgevoerd.