Het ecosysteem van open-source (en open-weights) Large Language Models ontwikkelt zich in hoog tempo. Voor ontwikkelaars bieden deze modellen een onafhankelijk, lokaal draaibaar en kostenefficiënt alternatief voor gesloten API's. Hieronder vind je een overzicht van de meest invloedrijke modellen en hun specifieke kenmerken.
Llama, ontwikkeld door Meta, is de onbetwiste pionier onder de krachtige open-weights modellen. De derde generatie (Llama 3) biedt modellen variërend van 8B tot 70B (en 400B in ontwikkeling) parameters.
De Europese startup Mistral AI verraste de markt met zeer efficiënte modellen. Hun 'Mixtral' modellen maken gebruik van een Sparse Mixture of Experts (MoE) architectuur, wat zorgt voor hoge prestaties bij relatief lage rekenkracht-eisen tijdens inferentie.
De Qwen-modellenfamilie presteert opvallend sterk over een breed scala aan groottes (van 0.5B tot 72B). Qwen 2 heeft significante stappen gezet in wiskundige capaciteiten en meertaligheid.
Gemma is gebouwd op dezelfde technologie en onderzoek als Google's Gemini-modellen. Gemma 2 (beschikbaar in formaten zoals 9B en 27B) excelleert in zijn gewichtsklasse en biedt robuuste prestaties op gangbare consumentenhardware.
Wil je zien hoe deze open-source modellen presteren ten opzichte van elkaar in specifieke taken? Bekijk onze AI Benchmark Hub voor objectieve vergelijkingen en de laatste evaluaties van het LLMnet ecosysteem.