nemotron-mini:4b im LLM-Testsuite-Report
Modellbeschreibung
Ein kommerziell nutzbares kleines Sprachmodell von NVIDIA, das für Rollenspiele, RAG-Fragebeantwortung und Funktionsaufrufe optimiert ist.
| Modellfamilie | nemotron-mini |
|---|---|
| Kontext | 4K |
| Input | Text |
| Größe | 27 GB |
| Familiengrößen | 4b |
Readme-Auszug
Nemotron-Mini-4B-Instruct ist ein Modell zur Erzeugung von Antworten für Rollenspiele, Retrieval-Augmented Generation und Funktionsaufrufe. Es ist ein kleines Sprachmodell (SLM), das durch Destillation, Pruning und Quantisierung auf Geschwindigkeit und den Einsatz direkt auf Geräten optimiert wurde.
Dieses Instruct-Modell ist für Rollenspiele, RAG-Fragebeantwortung und Funktionsaufrufe auf Englisch optimiert. Es unterstützt eine Kontextlänge von 4.096 Tokens und ist für die kommerzielle Nutzung bereit.
Referenzen
Blogbeitrag
HuggingFace
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.