granite3-moe:1b im LLM-Testsuite-Report
Modellbeschreibung
Die IBM-Granite-Modelle mit 1B und 3B Parametern sind die ersten Granite-Mixture-of-Experts-Modelle (MoE) von IBM, die für Anwendungen mit geringer Latenz entwickelt wurden.
| Modellfamilie | granite3-moe |
|---|---|
| Kontext | 4K |
| Input | Text |
| Größe | 822 MB |
| Familiengrößen | 1b, 3b |
Readme-Auszug
Granite-Mixture-of-Experts-Modelle
Die IBM-Granite-Modelle mit 1B und 3B Parametern sind die ersten Granite-Mixture-of-Experts-Modelle (MoE) von IBM, die für Anwendungen mit geringer Latenz entwickelt wurden.
Die Modelle wurden mit mehr als 10 Billionen Datentokens trainiert. Die Granite-MoE-Modelle eignen sich besonders für die Bereitstellung in Anwendungen auf dem Gerät oder für Situationen, die eine sofortige Inferenz erfordern.
Parametergrößen
1B:
ollama run granite3-moe:1b
3B:
ollama run granite3-moe:3b
Unterstützte Sprachen
Englisch, Deutsch, Spanisch, Französisch, Japanisch, Portugiesisch, Arabisch, Tschechisch, Italienisch, Koreanisch, Niederländisch und Chinesisch (vereinfacht)
Fähigkeiten
Zusammenfassung Textklassifikation Textextraktion Fragebeantwortung Retrieval-Augmented Generation (RAG) Codebezogene Aufgaben Funktionsaufrufe Mehrsprachige Dialoganwendungen
Dichte Granite-Modelle
Die dichten Granite-Modelle sind in den Parametergrößen 2B und 8B verfügbar. Sie wurden für werkzeugbasierte Anwendungsfälle und Retrieval-Augmented Generation (RAG) entwickelt und vereinfachen Codegenerierung, Übersetzung und Fehlerbehebung.
Modellseite anzeigen
Weitere Informationen
Entwickler: IBM Research GitHub-Repository: ibm-granite/granite-3.0-language-models Website: Granite-Dokumentation Veröffentlichungsdatum: 21. Oktober 2024 Lizenz: Apache 2.0.
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.