nexusraven:13b im LLM-Testsuite-Report

Modellbeschreibung

Nexus Raven ist ein auf Anweisungen abgestimmtes 13B-Modell für Funktionsaufrufe.

Modellfamilienexusraven
Kontext16K
InputText
Größe74 GB
Familiengrößen13b

Readme-Auszug

Nexus Raven ist ein Modell mit 13 Milliarden Parametern, das für Funktionsaufrufe entwickelt wurde.

Mit der Aktualisierung auf NexusRaven-V2 ist dies ein weiterentwickeltes, offenes und kommerziell einsetzbares Modell für Funktionsaufrufe:

Vielseitige Funktionsaufrufe: Kann in zahlreichen anspruchsvollen Fällen einzelne, verschachtelte und parallele Funktionsaufrufe erzeugen. Vollständig erklärbar: Kann sehr detaillierte Erklärungen zu den erzeugten Funktionsaufrufen liefern. Dieses Verhalten lässt sich abschalten, um während der Inferenz Tokens zu sparen. Leistungshöhepunkte: Übertrifft GPT-4 bei der Erfolgsquote von Funktionsaufrufen in durch Menschen erstellten Anwendungsfällen mit verschachtelten und zusammengesetzten Funktionen um bis zu 7 Prozent. Generalisierung auf Unbekanntes: Wurde nie mit den bei der Bewertung verwendeten Funktionen trainiert. Kommerziell freizügig: Das Training verwendet keine Daten, die von proprietären LLMs wie GPT-4 erzeugt wurden. Beim Einsatz in kommerziellen Anwendungen behalten Sie die vollständige Kontrolle über das Modell.

Beispielprompt

Funktion: def get_weather_data(coordinates): """ Ruft Wetterdaten für den angegebenen Breiten- und Längengrad von der Open-Meteo-API ab. Argumente: coordinates (tuple): Der Breitengrad des Standorts. Rückgabe: float: Die aktuelle Temperatur an den angefragten Koordinaten """ Funktion: def get_coordinates_from_city(city_name): """ Ruft mit der Geocoding-API von Maps.co den Breiten- und Längengrad einer angegebenen Stadt ab. Argumente: city_name (str): Der Name der Stadt. Rückgabe: tuple: Breiten- und Längengrad der Stadt. """ Benutzeranfrage: {query}<human_end>

Dadurch wird eine Antwort ähnlich der folgenden erzeugt:

Aufruf: get_weather_data(coordinates=get_coordinates_from_city(city_name='Seattle'))<bot_end> Überlegung: Der Funktionsaufruf `get_weather_data(coordinates=get_coordinates_from_city(city_name='Seattle'))` beantwortet die Frage „Wie ist das Wetter gerade in Seattle?“ in folgenden Schritten: 1. `get_coordinates_from_city(city_name='Seattle')`: Dieser Funktionsaufruf ruft mit der Geocoding-API von Maps.co den Breiten- und Längengrad der Stadt „Seattle“ ab. 2. `get_weather_data(coordinates=...)`: Dieser Funktionsaufruf ruft die aktuellen Wetterdaten für die vom vorherigen Funktionsaufruf zurückgegebenen Koordinaten ab. Somit beantwortet der Funktionsaufruf `get_weather_data(coordinates=get_coordinates_from_city(city_name='Seattle'))` die Frage „Wie ist das Wetter gerade in Seattle?“, indem er zunächst die Koordinaten der Stadt „Seattle“ und anschließend die aktuellen Wetterdaten für diese K...

Referenzen

GitHub

Hugging Face

1261 Runs 1320 bewertet 10.1 % Score 0.2 % exakt korrekt
Hilfe zu Bewertung, Score und exakter Korrektheit

Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.

Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.

Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.

Erzeugt am