dolphin-llama3:70b im LLM-Testsuite-Report
Modellbeschreibung
Dolphin 2.9 ist ein neues, auf Llama 3 basierendes Modell von Eric Hartford in den Größen 8B und 70B mit vielfältigen Fähigkeiten zum Befolgen von Anweisungen, für Dialoge und zum Programmieren.
| Modellfamilie | dolphin-llama3 |
|---|---|
| Kontext | 8K |
| Input | Text |
| Größe | 40 GB |
| Familiengrößen | 8b, 70b |
Readme-Auszug
Dolphin 2.9 Llama 3
Dolphin-2.9 verfügt über vielfältige Fähigkeiten zum Befolgen von Anweisungen, für Dialoge und zum Programmieren. Es besitzt außerdem erste agentische Fähigkeiten und unterstützt Funktionsaufrufe.
Dolphin ist unzensiert. Der Datensatz wurde gefiltert, um Ausrichtung und Verzerrungen zu entfernen. Dadurch befolgt das Modell Anweisungen bereitwilliger.
Kuratiert und trainiert von Eric Hartford, Lucas Atkins, Fernando Fernandes und Cognitive Computations.
Größen
dolphin-llama3:8b dolphin-llama3:70b
256K-Kontextfenster
Hinweis: Die Verwendung eines Kontextfensters von 256K erfordert mindestens 64 GB Arbeitsspeicher.
Dolphin Llama 3 ist außerdem in einer Version mit einem Kontextfenster von 256K verfügbar. Verwenden Sie zum Erweitern des Kontextfensters:
API
curl http://localhost:11434/api/generate -d '{ "model": "dolphin-llama3:8b-256k", "prompt": "Warum ist der Himmel blau?", "options": { "num_ctx": 256000 } }'
CLI
ollama run dolphin-llama3:8b-256k >>> /set parameter num_ctx 256000
Referenzen
HuggingFace
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.