Werken met lokale AI-modellen: makkelijker dan je denkt

Wat is een lokaal AI-model?  

Lokale AI-modellen zijn programma's die volledig op je eigen computer draaien, zonder internetverbinding. Deze programma’s werken hetzelfde als online AI-tools zoals ChatGPT, Gemini of Claude: je hebt een chatvenster waarin je jouw vraag of opdracht kunt geven. Je kunt ook bestanden uploaden.  

Er zijn lokale AI-modellen voor allerlei toepassingen: tekst, beeld, video, audio, spraak etc. We beschrijven in dit artikel voornamelijk toepassingen van tekst omdat die het meest worden gebruikt.  

Wat zijn de voor- en nadelen van lokale AI-modellen?

Lokale AI heeft een aantal duidelijke voordelen, maar kent ook nadelen. Een overzicht: 

Kleine lokale AI-modellen gebruiken over het algemeen ook minder energie dan grote online AI-modellen. Maar de milieu-impact van AI is van zoveel meer factoren afhankelijk dat we dit niet als voordeel durven te noemen.  

Wat kun je met lokale AI-modellen? 

Lokale modellen werken het beste wanneer je ze een concrete en niet te complexe taak of opdracht geeft. Bijvoorbeeld:  

• Het herschrijven van een subsidieaanvraag 
• Het uitwerken van notities over vertrouwelijke informatie  
• Het aanpassen of opstellen van een contract met een leverancier  
• Het stellen van vragen aan interne vertrouwelijke documenten (projectplan, subsidieaanvraag, personeelshandboek) 
• Aantekeningen van een functioneringsverslag uitwerken 

Waar lokale AI minder sterk in is: taken die veel creativiteit, complexe redenering of actuele kennis vereisen. Ook in het ophalen van informatie is lokale AI minder sterk om dat de database minder groot is dan online modellen. Voor een uitgebreide data-analyse of een strategisch advies doe je er verstandig aan om een krachtig online model te gebruiken.  

Lokale AI kan daarmee een alternatief zijn voor specifieke taken. Voor een groot deel van het dagelijkse schrijf- en denkwerk is het goed genoeg. 

De drie belangrijkste programma’s 

Een programma is de omgeving waarin je werkt, vergelijkbaar met een mediaspeler. Een AI-model is de inhoud die je daarin laadt, vergelijkbaar met een muziekbestand. 

Er zijn drie programma’s die het makkelijkst zijn om mee te beginnen. Binnen de programma’s kun je eenvoudig de meest gebruikte AI-modellen downloaden.  

Welke AI-modellen zijn er? 

De meest gebruikte en gratis open-source taalmodellen op dit moment (zomer 2026) zijn: 

Er worden regelmatig nieuwe open-source taalmodellen gelanceerd en de kwaliteit ervan wordt steeds beter. Zorg dus dat je op de hoogte blijft van nieuwe ontwikkelingen. Taalmodellen worden aangeboden in verschillende groottes: hoe groter het model, hoe ‘slimmer’. Maar ook hoe meer rekenkracht je computer nodig heeft.  

Zo begin je zelf 

Wil je zelf aan de slag met lokale AI-modellen? Volg dan dit eenvoudige stappenplan: 

Stap 1. Kies een programma en installeer het. Ollama is de meest gebruikte.  

Stap 2. Open het programma en zoek naar een model. Begin met Llama 3, Gemma 4 of Mistral. Kies het grootste mogelijke model dat werkt met jouw werkgeheugen.   

Stap 3. Download het model, deze wordt opgeslagen op je computer. 

Stap 4. Stel een vraag of geef een opdracht, net als bij ChatGPT of Copilot. 

Stap 5. Experimenteer en ontdek wat werkt en wat niet.  

Conclusie 

Maak bewust een afweging: wanneer gebruik je lokale modellen, en wanneer kies je voor een online dienst? Voor hoge kwaliteit, complexe analyses of taken waarbij je de beste kwaliteit nodig hebt, zijn online modellen beter. Voor gevoelige of vertrouwelijke taken — personeelsinformatie, subsidieaanvragen, contracten is lokaal de logische keuze.  

Leg die keuze vast in een AI-beleid. Maak als organisatie afspraken over wanneer medewerkers welk type AI gebruiken. Dat geeft duidelijkheid en helpt iedereen verantwoord aan de slag te gaan. 

De drempel is lager dan je denkt. Binnen een halfuur kun je aan de slag!