Kosten van LLM’s — waarom AI geld kost en hoe je bespaart #

Elk antwoord wordt afgerekend in tokens en rekentijd; kosten ontstaan vooral bij inference (het draaien), en je beheerst ze met slimmere prompts, het juiste model en technieken als caching en quantization.

Inhoud #

Waar de rekening vandaan komt #

Tokens — je betaalt per input- én outputtoken. Lange prompts, geplakte documenten en uitgebreide antwoorden tikken aan. Code/niet-Engels kost meer tokens ([[kernbegrippen-llm]]).
Inference vs. training — training is “het restaurant bouwen”; inference is “elke maaltijd koken” — dáár betaal je per keer voor.
Modelgrootte & hardware — grotere modellen geven vaak betere antwoorden maar zijn trager/duurder; GPU’s zijn schaars.
Lange context — [[attention-en-transformers|attention schaalt kwadratisch]]: meer context = meer rekenwerk.

Hoe je bespaart (de praktische hefbomen) #

Token-budget bewaken — knip overbodige instructies, dubbele documenten en breedsprakige voorbeelden weg.
Kleinste model dat volstaat — eenvoudige taken op een snel/goedkoop model, harde taken op een [[kernbegrippen-llm|reasoning model]]. (“Niet elke vraag heeft een filosoof nodig; soms hoef je alleen het weer te weten.”)
Prompt caching / KV caching — herhaalde, stabiele prefixen (systeemprompt, beleid, tooldefinities) niet steeds opnieuw verwerken. Zet stabiele content vóór de variabele content.
Quantization — gewichten in lagere precisie (INT8/INT4): kleiner, sneller, goedkoper, met beperkt kwaliteitsverlies. Maakt ook lokaal/on-device draaien mogelijk.
MoE-modellen — veel capaciteit, maar per token activeert er maar een deel → betere prijs/prestatie.
Batching & streaming — beter GPU-gebruik resp. lagere gevoelde latency (gebruiker ziet tekst direct verschijnen).
LoRA/QLoRA — goedkoop fine-tunen zonder het hele model te hertrainen.

De kern-afweging #

AI-architectuur is afweging-management: accuraatheid, snelheid, kosten, veiligheid en gebruikservaring trekken aan hetzelfde touw. Optimaliseer bewust per use case.

Illustratief praktijkverhaal: een startup zag de maandrekening van $47k naar $9k dalen door quantization, MoE, KV-cache-hergebruik en slim batchen — een richtinggevend voorbeeld, geen vaste benchmark.

Sleutelinzichten #

Voor zakelijke doelgroepen is “AI kost geld per token” een eyeopener — koppel het aan concrete besparingstips.
De meeste winst voor niet-technische gebruikers: kortere/scherpere prompts en het juiste model kiezen.
Quantization/MoE/caching zijn de termen die in zakelijke AI-gesprekken vallen — handig om uit te kunnen leggen.

Inzetbaar voor #

Training (zakelijk): “Wat kost AI eigenlijk?” met de token-uitleg + 5 bespaartips.
Infographic: “Waar gaat je AI-budget heen?” (tokens, model, context, inference).
Blog: “5 manieren om je AI-kosten te halveren.”

Gerelateerd #

[[kernbegrippen-llm]] — tokens, quantization, MoE, inference
[[hoe-llms-werken]] — waarom tokens de eenheid zijn
[[attention-en-transformers]] — waarom lange context duur is
[[modellen-vergelijken]] — prijs/prestatie per model

Bronnen #

[[RAW/Understanding LLM Concepts Why LLMs Cost So Much (And How to Fix It).md]] — Priya Srivastava, praktijkverhaal + optimalisaties (2026-04)
[[RAW/Modern AI and LLM Concepts.md]] — inference, latency, quantization, caching, MoE