Een AI-assistent die binnen je muren blijft.

Waarom een eigen AI-omgeving

De afdeling vastgoed en facilitair van een zbo wilde generatieve AI beschikbaar maken voor haar medewerkers zonder afhankelijk te worden van commerciële cloudleveranciers. Werkdocumenten, contracten en interne kennis mogen de eigen infrastructuur niet verlaten. Tegelijkertijd zag de organisatie dat teams om zich heen ChatGPT gebruikten voor werk waar dat onvoldoende veilig is. Er was behoefte aan een volwaardige AI-assistent die net zo makkelijk werkt als ChatGPT maar volledig op eigen infrastructuur draait. Geen data die weglekt, geen leverancier waar je aan vastzit en volledige regie over welke modellen worden gebruikt en waarvoor.

Wat we bouwden

Facilitech bouwde samen met SevenLab een AI-platform op basis van Open WebUI. Dat is een open source alternatief voor de ChatGPT-interface dat je volledig zelf host. Vanuit één omgeving kunnen medewerkers wisselen tussen meerdere open modellen. We zetten er vier naast elkaar. gpt-oss-120b van OpenAI voor zware redeneertaken, Qwen 3.5 van Alibaba voor multimodale taken en werk waarin de AI zelfstandig meerdere stappen zet, GLM-5.2 van Z.ai voor lange documenten dankzij zijn contextvenster van 1 miljoen tokens en Gemma 4 van Google voor snelle vraag en antwoord. Zo houden we grip op kwaliteit, snelheid en kosten. Voor lichte taken een klein model, voor zwaar redeneerwerk een groter model.

De assistent kan documenten inladen en bevragen via RAG. Handleidingen, contracten en interne documentatie dienen zo als bron voor het antwoord. Grote verzamelingen gaan via retrieval en kleinere documenten volledig in context. Op deze basis bouwden we varianten per rol. Eén voor projectdocumentatie, één voor investeringsanalyses en één voor onderhoudsscenario's. Elke variant heeft een eigen system prompt, eigen kennisbank en eigen instellingen. Via het Model Context Protocol koppelden we de assistent aan interne informatiesystemen zodat medewerkers hun eigen data rechtstreeks kunnen bevragen. Denk aan een vraag die begint bij interne projectdocumentatie en eindigt bij een controle in een informatiesysteem. Internetzoeken hebben we bewust uitgeschakeld zodat alles binnen de eigen omgeving blijft.

Wat het oplevert

Medewerkers werken nu met een AI-assistent die aanvoelt als ChatGPT maar volledig binnen de eigen infrastructuur draait. Geen documenten meer naar externe partijen en de organisatie weet precies waar haar data staat. Door meerdere open modellen naast elkaar te draaien blijft de organisatie flexibel en houdt ze grip op kosten en prestaties. Een klein model waar het kan en een groot model waar het moet. De varianten per rol zorgen dat teams direct starten met een AI die is toegespitst op hun werk. Facilitech begeleidt de organisatie bij het uitbreiden van kennisbanken, toevoegen van nieuwe modellen en aansluiten van meer interne systemen. Zo groeit de omgeving mee met wat het werk vraagt.