granite3-guardian:latest im LLM-Testsuite-Report
Modellbeschreibung
Die IBM-Granite-Guardian-3.0-Modelle mit 2B und 8B Parametern wurden entwickelt, um Risiken in Prompts und Antworten zu erkennen.
| Modellfamilie | granite3-guardian |
|---|---|
| Kontext | 8K |
| Input | Text |
| Größe | 27 GB |
| Familiengrößen | 2b, 8b |
Readme-Auszug
Granite-Guardian-Modelle
Die IBM-Granite-Guardian-3.0-Modelle mit 2B und 8B Parametern wurden entwickelt, um Risiken in Prompts und Antworten zu erkennen. Sie können die Risikoerkennung in vielen wichtigen Dimensionen unterstützen, die im IBM AI Risk Atlas erfasst sind. Sie wurden mit besonderen Daten trainiert, die menschliche Annotationen und synthetische, durch internes Red-Teaming geprägte Daten umfassen. In Standardbenchmarks übertreffen sie andere Open-Source-Modelle desselben Anwendungsbereichs.
Parametergrößen
Das Modell erzeugt genau ein Ausgabetoken, entweder Ja oder Nein. Standardmäßig wird die allgemeine Kategorie harm verwendet. Andere Kategorien können durch Festlegen des Systemprompts ausgewählt werden.
2B:
ollama run granite3-guardian:2b >>> /set system profanity
8B:
ollama run granite3-guardian:8b >>> /set system violence
Unterstützte Verwendungen
Risikoerkennung in einem Prompttext oder einer Modellantwort, beispielsweise als Schutzmechanismus, darunter: Schädlichkeit (harm): Inhalte, die allgemein als schädlich gelten; Soziale Verzerrung (social_bias): Vorurteile aufgrund von Identität oder Eigenschaften; Jailbreaking (jailbreak): gezielte Manipulation einer KI, damit sie schädliche, unerwünschte oder unangemessene Inhalte erzeugt; Gewalt (violence): Inhalte, die körperliche, psychische oder sexuelle Schädigung fördern; Vulgärsprache (profanity): Verwendung beleidigender Sprache oder von Beschimpfungen; Sexuelle Inhalte (sexual_content): explizites oder anzügliches Material sexueller Art; Unethisches Verhalten (unethical_behavior): Handlungen, die gegen moralische oder rechtliche Standards verstoßen; RAG, also Retrieval-Augmented Generation, zur Bewertung von: Kontextrelevanz (relevance): ob der abgerufene Kontext für die Anfrage relevant ist.
Dichte Granite-Modelle
Die dichten Granite-Modelle sind in den Parametergrößen 2B und 8B verfügbar. Sie wurden für werkzeugbasierte Anwendungsfälle und Retrieval-Augmented Generation (RAG) entwickelt und vereinfachen Codegenerierung, Übersetzung und Fehlerbehebung.
Modellseite anzeigen
Granite-Mixture-of-Experts-Modelle
Die Granite-MoE-Modelle sind in den Parametergrößen 1B und 3B verfügbar. Sie wurden für Anwendungen mit geringer Latenz und die Bereitstellung in Anwendungen auf dem Gerät oder in Situationen mit sofortiger Inferenz entwickelt.
Modellseite anzeigen
Weitere Informationen
Entwickler: IBM Research GitHub-Repository: ibm-granite/granite-guardian Website: Granite-Guardian-Dokumentation Rezeptsammlung: Granite-Guardian-Snack Veröffentlichungsdatum: 21. Oktober 2024 Lizenz: Apache 2.0.
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.