deepseek-r1:1.5b im LLM-Testsuite-Report

DeepSeek-R1 erhielt für das destillierte Modell mit 8 Milliarden Parametern und das vollständige Modell mit 671 Milliarden Parametern eine kleinere Versionsaktualisierung auf DeepSeek-R1-0528. Mit dieser Aktualisierung wurden die Schlussfolgerungs- und Inferenzfähigkeiten von DeepSeek R1 deutlich verbessert. Das Modell zeigte in verschiedenen Benchmarkbewertungen, darunter Mathematik, Programmierung und allgemeine Logik, hervorragende Leistungen. Seine Gesamtleistung nähert sich nun der führender Modelle wie O3 und Gemini 2.5 Pro.

Modelle

DeepSeek-R1-0528-Qwen3-8B

ollama run deepseek-r1

DeepSeek-R1

ollama run deepseek-r1:671b

Destillierte Modelle

Das DeepSeek-Team hat gezeigt, dass sich die Schlussfolgerungsmuster größerer Modelle in kleinere Modelle destillieren lassen. Dies führt zu einer besseren Leistung als Schlussfolgerungsmuster, die durch RL auf kleinen Modellen entdeckt wurden.

Nachfolgend sind die Modelle aufgeführt, die durch Fine-Tuning mehrerer in der Forschung weit verbreiteter dichter Modelle mit von DeepSeek-R1 erzeugten Reasoning-Daten erstellt wurden. Die Bewertungsergebnisse zeigen, dass die kleineren destillierten dichten Modelle bei Benchmarks außergewöhnlich gut abschneiden.

DeepSeek-R1-0528-Qwen3-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

Lizenz

Die Modellgewichte stehen unter der MIT-Lizenz. Die DeepSeek-R1-Reihe unterstützt die kommerzielle Nutzung und erlaubt beliebige Änderungen und abgeleitete Werke, einschließlich, aber nicht beschränkt auf die Destillation zum Trainieren anderer LLMs. Beachten Sie Folgendes:

Die destillierten Qwen-Modelle sind von der Qwen-2.5-Reihe abgeleitet, die ursprünglich unter der Apache-2.0-Lizenz steht, und wurden mit 800.000 anhand von DeepSeek-R1 kuratierten Stichproben feinabgestimmt.

Das destillierte Llama-8B-Modell ist von Llama3.1-8B-Base abgeleitet und steht ursprünglich unter der Llama3.1-Lizenz.

Das destillierte Llama-70B-Modell ist von Llama3.3-70B-Instruct abgeleitet und steht ursprünglich unter der Llama3.3-Lizenz.