Het landschap van generatieve AI ontwikkelt zich in een ongekend tempo. Om schaalbare en betrouwbare applicaties te bouwen, is het essentieel om te begrijpen uit welke lagen de moderne AI-stack is opgebouwd. Dit is de directory van de belangrijkste categorieën.
1. Modelproviders
Dit zijn de organisaties die de krachtige basismodellen (LLM's) trainen en beschikbaar stellen. Zij leveren de ruwe intelligentie en redeneerkracht via API's. De keuze voor een model bepaalt grotendeels de capaciteiten van je uiteindelijke applicatie.
- Anthropic (bekend van de Claude-modellen)
- OpenAI (bekend van de GPT-reeks)
- DeepSeek (sterk in kostenefficiënte en open-weight modellen)
2. Inference & Hosting
Inference-providers leveren de rekenkracht (GPU's en cloudinfrastructuur) die nodig is om AI-modellen daadwerkelijk te draaien. Vooral bij open-source modellen is gespecialiseerde en schaalbare hosting cruciaal voor snelle responstijden en betaalbare verwerking.
- Together AI
- Hugging Face (Inference Endpoints)
- Groq
3. Vector-databases
Om modellen context te geven via Retrieval-Augmented Generation (RAG), worden teksten omgezet in wiskundige vectoren. Vector-databases zijn specifiek gebouwd om deze data efficiënt op te slaan en razendsnel semantische zoekopdrachten uit te voeren over miljoenen documenten.
- Pinecone
- Weaviate
- Qdrant
4. Agentframeworks
Frameworks bieden de orchestratielaag waarmee je LLM's kunt koppelen aan externe tools, geheugen en logica. Hierdoor kunnen modellen niet alleen tekst genereren, maar ook zelfstandig meervoudige taken plannen en uitvoeren als autonome 'agents'.
- LangChain
- LlamaIndex
- AutoGen
5. Evaluatietools
Naarmate AI-applicaties complexer worden, is het meten van de outputkwaliteit onmisbaar. Evaluatietools helpen ontwikkelaars bij het monitoren van hallucinaties, het testen van prompts en het garanderen van consistente prestaties in productieomgevingen.
- LangSmith
- Ragas
- TruEra