granite4:latest im LLM-Testsuite-Report
Modellbeschreibung
Granite 4 bietet verbesserte Fähigkeiten beim Befolgen von Anweisungen und bei Werkzeugaufrufen und ist dadurch in Unternehmensanwendungen effektiver.
| Modellfamilie | granite4 |
|---|---|
| Kontext | 128K |
| Input | Text |
| Größe | 21 GB |
| Familiengrößen | 350m, 1b, 3b |
Readme-Auszug
Granite-4.0-Modelle
Granite-4.0-Modelle werden aus ihren Basismodellen mit einer Kombination aus freizügig lizenzierten offenen Anweisungsdatensätzen und intern gesammelten synthetischen Datensätzen feinabgestimmt. Sie verfügen über verbesserte Fähigkeiten beim Befolgen von Anweisungen und bei Werkzeugaufrufen und sind dadurch in Unternehmensanwendungen effektiver.
Bitte beachten: Die Modellgrößen 3b, 1b und 350m sind alternative Optionen, solange die Unterstützung für Mamba-2 noch nicht optimiert ist. Mit „-h“ gekennzeichnete Modelle verwenden die hybride Mamba-2-Architektur.
Parametergrößen
350m
ollama run granite4:350m
350m-h
ollama run granite4:350m-h
1b
ollama run granite4:1b
1b-h
ollama run granite4:1b-h
3b (micro)
ollama run granite4:3b ollama run granite4:micro
3b-h (micro-h)
ollama run granite4:3b-h ollama run granite4:micro-h
7b-a1b-h (tiny-h)
ollama run granite4:7b-a1b-h ollama run granite4:tiny-h
32b-a9b-h (small-h)
ollama run granite4:32b-a9b-h ollama run granite4:small-h
Unterstützte Sprachen
Englisch, Deutsch, Spanisch, Französisch, Japanisch, Portugiesisch, Arabisch, Tschechisch, Italienisch, Koreanisch, Niederländisch und Chinesisch (vereinfacht). Nutzende können Granite-4.0-Modelle für weitere Sprachen feinabstimmen.
Vorgesehene Verwendung
Dieses Modell ist für allgemeine Aufgaben zum Befolgen von Anweisungen ausgelegt und kann in KI-Assistenten für unterschiedliche Bereiche integriert werden, darunter Geschäftsanwendungen.
Fähigkeiten
Zusammenfassung Textklassifikation Textextraktion Fragebeantwortung Retrieval-Augmented Generation (RAG) Codebezogene Aufgaben Aufgaben mit Funktionsaufrufen Mehrsprachige Dialoganwendungen Fill-in-the-Middle-Codevervollständigungen (FIM)
Weitere Informationen
Entwickler: Granite-Team, IBM Website: Granite-Dokumentation GitHub-Repository: ibm-granite/granite-4.0-language-models Veröffentlichungsdatum: 2. Oktober 2025 Lizenz: Apache 2.0
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.