complexSemanticJson im LLM-Testsuite-Report
Testfallbeschreibung
Der Test prüft, ob ein Modell eine vollständig JSON-strukturierte Aufgabenstellung korrekt auswerten kann. Die Aufgabe kombiniert semantische Regeln, numerische Berechnung und ein strikt vorgegebenes Ausgabeformat. Entscheidend ist, dass ausschließlich der Zielwert zurückgegeben wird.
| Quelldatei | complexSemanticJson.txt |
|---|---|
| Serie | 1 |
| Kategorien | json, semantics, reasoning |
| Bewertung | Deterministisch |
| Prompt SHA-256 | 384042dfd3801b7c08a527a9d44ebe73427bf3f5b6edd08f1c0063e715078cec |
Erwartetes Ergebnis
63
| Erwartung im Katalog | nein |
|---|---|
| Korrektes Ergebnis im Katalog | nein |
Prompt
{
"prompt": {
"abschnittA": {
"name": "InhaltlicheEinordnung",
"tiere": [
{
"art": "Hund",
"fellpunkte": 14,
"ruheindex": 7
},
{
"art": "Katze",
"fellpunkte": 9,
"ruheindex": 11
},
{
"art": "Papagei",
"fellpunkte": 6,
"ruheindex": 5
}
]
},
"abschnittB": {
"name": "SemantischeRegeln",
"regeln": [
{ "id": "B1", "text": "Addiere für jedes Tier Fellpunkte und Ruheindex." },
{ "id": "B2", "text": "Vergleiche alle berechneten Summen." },
{ "id": "B3", "text": "Finde die höchste Summe." },
{ "id": "B4", "text": "Der Zielwert ist höchste Summe mal Anzahl der Tiere." }
]
},
"abschnittC": {
"name": "Ausgabeformat",
"anforderungen": [
{ "id": "C1", "text": "Gib ausschließlich den Zielwert aus." },
{ "id": "C2", "text": "Keine Begründung. Kein Text. Keine Einheit." },
{ "id": "C3", "text": "Jede Abweichung ist ein Fehler." }
]
},
"abschnittD": {
"name": "Beispiel",
"beispiele": [
{ "id": "D1", "text": "Anzahl Tiere ist 3." },
{ "id": "D2", "text": "Höchste Summe ist Hund mit 14 plus 7 ergibt 21." },
{ "id": "D3", "text": "Zielwert ist 21 mal 3 ergibt 63." }
]
},
"aufgabe": {
"text": "Ermittle den Zielwert exakt nach abschnittB und gib ihn gemäß abschnittC zurück."
}
}
}
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.





