Anthropic-CEO Dario Amodei haalde eind juni een discussie open die op r/LocalLLaMA scherp werd ontleed: open-weight is volgens hem geen echte open source, want je kunt niet “in het model kijken”. Los van die semantiek is één ding onmiskenbaar: de open-weight modellen zelf worden razendsnel beter — en juni 2026 leverde een uitzonderlijk sterke lichting op.
Dit is wat er staat, wat het verschil maakt en hoe je ze lokaal draait.
Wat open-weight je geeft wat propriëtair niet geeft
Een model als Claude of GPT-5 draait op de servers van Anthropic of OpenAI: je data gaat naar hun systemen en je betaalt per token. Open-weight modellen werken anders. De gewichten — het “brein” van het model — download je zelf en draai je op eigen hardware. Je data verlaat je machine niet, je betaalt geen token-kosten, en finetunen op eigen data kan.
💡 Beginner-tip: je hoeft geen programmeur te zijn om een lokaal model te draaien. Ollama (gratis, open source) regelt de installatie en start modellen met één commando. Denk eraan als een lokale ChatGPT die je zelf beheert.
De lichting van deze zomer
GLM-5.2 (Z.ai) is de nieuwe koploper. Sinds de release van de gewichten op 16 juni staat het bovenaan de Artificial Analysis Intelligence Index voor open-weight modellen met een score van 51 — vóór MiniMax-M3 (44), DeepSeek V4 Pro (44) en Kimi K2.6 (43) (Bron: Artificial Analysis). Het is een MoE-model van ruwweg 750 miljard parameters (±40 miljard actief per token), MIT-gelicentieerd, met een contextvenster van 1 miljoen tokens. De keerzijde: lokaal draaien vraagt serieuze hardware; voor de meeste mensen is dit een API-model.
MiniMax M3 (juni 2026) combineert een 1-miljoen-token contextvenster met native multimodaliteit — handig voor grote documentensets of beeld-plus-tekst-analyse.
DeepSeek V4 (april 2026) biedt eveneens 1 miljoen tokens context onder MIT-licentie. De Pro-variant is enorm op papier, maar activeert per berekening maar een fractie van zijn parameters — efficiënter dan de grootte doet vermoeden.
Voor gewone hardware zijn twee opties het meest praktisch:
- Gemma 4 26B A4B (Google) is een MoE-model dat per token maar 4 miljard parameters activeert — snel op consumentenhardware, met een 256K-token contextvenster (Bron: Google AI for Developers). Prima voor dagelijks tekstwerk. De kleinere 12B is er voor wie minder RAM heeft.
- Mistral Small 4 — compact, vlot, sterk in instructievolging. De voorkeurskeuze voor productie-achtige setups zonder GPU-overhead.
Lokaal draaien via Ollama
Installeer Ollama via ollama.com, open een terminal en typ:
ollama run gemma4Ollama downloadt het model automatisch en start een lokale chat. Je kunt ook de lokale API aanroepen op localhost:11434 — compatibel met de OpenAI API-structuur, waardoor tools die met ChatGPT werken direct kunnen overschakelen naar je lokale model.
Met ollama list zie je welke modellen je hebt; ollama rm <naam> verwijdert ze. Downloadgroottes lopen van ~2 GB (kleine modellen) tot honderden GB’s voor de grootste varianten — check ollama.com/library voor de exacte grootte en beschikbare varianten per model.
⚡ Gevorderden: liever een grafische interface dan de terminal? LM Studio doet hetzelfde werk met een GUI, inclusief GGUF-checkpoints voor de Gemma 4-familie. Voor wie wil begrijpen wat er onder de motorkap gebeurt: de uitleg hoe een taalmodel van binnen werkt op hetlaatsteainieuws.nl legt de basis.
Wanneer open-weight, wanneer propriëtair?
Open-weight loont bij privacy-gevoelige data (documenten die je niet wilt uploaden), kostenbeheer (veel queries die via een API duur worden) en offline gebruik. Propriëtaire modellen zoals Claude blijven sterker bij complexe meerstaps-redenering en taken waar je de allerbeste kwaliteit nodig hebt zonder tijd om te testen en finetunen.
De slimme aanpak: lokale modellen voor routinetaken, propriëtaire modellen voor het werk waar dat laatste beetje kwaliteit telt.
Checklist: ben je klaar?
- Ollama geïnstalleerd via ollama.com
- Eerste model gedownload (
ollama run gemma4) - Getest of je hardware het model vlot draait (anders: kleinere variant)
- Lokale API geprobeerd op
localhost:11434als je tools wilt koppelen - Bepaald welke taken lokaal blijven en welke naar een cloud-model gaan