Een chatbot geeft antwoord. Een agent doet iets: hij zoekt een order op, maakt een conceptmail, zet een factuur klaar of werkt een dossier bij. Om dat te kunnen, krijgt hij toegang tot uw systemen en uw informatie. Precies daar ontstaat bij veel organisaties de aarzeling. Wilt u dat al die gegevens langs een externe AI dienst gaan? Een lokale agent haalt die zorg weg. Het taalmodel draait op uw eigen server en de gegevens verlaten uw netwerk niet.
Wat een lokale AI agent voor u doet
De sterkste voorbeelden zijn de klussen die nu tijd kosten maar weinig denkwerk vragen. Een agent die binnenkomende e-mail sorteert, de klantgegevens erbij zoekt en een conceptantwoord klaarzet. Een agent die inkoopfacturen naast de bestelling en de ontvangst legt en alleen de afwijkingen voorlegt. Een agent die nieuwe dossiers controleert op ontbrekende stukken. Een agent die een melding in het ticketsysteem leest, de juiste categorie kiest en de eerste stappen uitvoert. Telkens doet de agent het voorwerk en beslist een mens bij de punten die ertoe doen.
Hoe zo'n agent is opgebouwd
Een agent bestaat uit drie delen. Het taalmodel begrijpt de opdracht en beslist welke stap volgt. De gereedschappen zijn de koppelingen met uw systemen, zoals het opzoeken van een klant of het aanmaken van een concept. De regie bepaalt de volgorde, houdt bij wat er al gedaan is en stopt als er iets niet klopt. Voor de koppelingen gebruiken wij steeds vaker het open standaardprotocol MCP, zie MCP server bouwen. Voor de regie gebruiken we, afhankelijk van de klus, n8n op uw eigen server of een maatwerk applicatie.
Welke lokale modellen kunnen dit werk aan?
Niet elk open model is goed in het gebruiken van gereedschap. Modellen uit de families Qwen, Llama en Mistral zijn daar inmiddels behoorlijk sterk in, en ze draaien op hardware die voor een middelgrote organisatie haalbaar is. Een eerlijke kanttekening: bij lange ketens van veel stappen maken lokale modellen sneller een fout dan de grootste commerciële modellen. Wij ontwerpen een lokale AI agent daarom met korte, overzichtelijke taken en controles tussendoor. Liever drie kleine agents die betrouwbaar werken dan één grote die af en toe verdwaalt.
Grenzen aan wat de agent zelf mag
De belangrijkste ontwerpkeuze is niet technisch. Wat mag de agent zelf doen en waar moet een mens akkoord geven? Lezen en voorbereiden mag vaak zelfstandig. Iets versturen, betalen of verwijderen bijna nooit zonder bevestiging. Wij geven de agent alleen de rechten die hij nodig heeft, met een eigen account zodat elke handeling herleidbaar is. Alles wat hij doet wordt vastgelegd, zodat u achteraf kunt zien waarom hij een keuze maakte. Zo blijft een fout een fout die u ziet, en geen fout die ongemerkt doorwerkt.
Lokaal, in de cloud of een combinatie
Een lokale AI agent past het best bij werk met vertrouwelijke informatie, zoals personeelsdossiers, klantgegevens of financiële stukken. Voor taken met openbare of weinig gevoelige informatie kan een clouddienst soms slimmer zijn, omdat die modellen nog wat sterker zijn in complexe planning. Wij bouwen agents zo dat het model verwisselbaar is. U kunt dus lokaal beginnen en voor een specifieke stap een ander model inzetten, of andersom. Meer over agents in het algemeen leest u bij AI agent bouwen.
Testen voordat de agent echt aan het werk gaat
Een agent gaat bij ons nooit direct live. Eerst draait hij een paar weken mee in de schaduw: hij doet het werk, maar een medewerker controleert elke uitkomst voordat er iets gebeurt. Zo meten we hoe vaak hij het goed heeft, waar hij twijfelt en welke situaties hij niet herkent. Pas als de resultaten overtuigen, krijgt hij meer zelfstandigheid. Ook daarna blijven we meekijken, want processen en systemen veranderen.
Een lokale AI agent laten bouwen
Onze AI specialisten bouwen de agent, richten het model en de koppelingen in en zorgen voor de overdracht aan uw beheer. U spreekt direct met de mensen die het werk doen. Een eerste agent voor één afgebakende taak staat doorgaans binnen zes tot tien weken. Stel uw vraag, en vertel welk werk u het liefst kwijt wilt.
Verwant: Freelance AI consultant, Lokale LLM laten hosten.