Geschwindigkeitsauswertung

Geschwindigkeitsauswertung der LLM Testsuite

Auf dieser Seite werden Laufzeiten und Performance der getesteten Modelle gezeigt. Dabei werden die für die LLM Testsuite getesteten Modelle innerhalb ihres Zugangswegs tabellarisch verglichen und gerankt:

  • Ollama Cloud,
  • OpenAI oder
  • Ollama lokal.

Grundlage hierfür sind erfolgreiche technische Läufe mit Median- und P95-Laufzeit.

Erzeugt am