TableCals im LLM-Testsuite-Report
Testfallbeschreibung
Du möchtest mit diesem Test feststellen, ob ein Modell zuverlässig strukturierte Tabellendaten aus CALS-Tabellen extrahieren kann. Es geht darum, ob die Zuordnung zwischen einer bestimmten Zeile und einer bestimmten Spalte korrekt erkannt wird und ob das Modell in der Lage ist, ausschließlich den geforderten Zahlenwert auszugeben, ohne zusätzlichen Text. Das zeigt, ob Parsing, Kontextfokussierung und präzise Antwortsteuerung funktionieren.
| Quelldatei | TableCals.txt |
|---|---|
| Serie | 1 |
| Kategorien | xml, cals, table |
| Bewertung | Deterministisch |
| Prompt SHA-256 | d0d47e84337e0e85efc7ecb3a224d2d48d8163294fff2e09f6ac42618965ef7c |
Erwartetes Ergebnis
1865793
| Erwartung im Katalog | nein |
|---|---|
| Korrektes Ergebnis im Katalog | nein |
Prompt
Du erhaeltst unter content eine CALS-Tabelle. Wieviel betraegt die Anzahl_Winterverlust beim Pudel? Gib ausschliesslich die Zahl zurueck. # content <table frame="all"> <tgroup cols="7"> <colspec colname="c1"/> <colspec colname="c2"/> <colspec colname="c3"/> <colspec colname="c4"/> <colspec colname="c5"/> <colspec colname="c6"/> <colspec colname="c7"/> <thead> <row> <entry>Rasse</entry> <entry>Anzahl_Haare</entry> <entry>Anzahl_Unterfell</entry> <entry>Anzahl_Oberfell</entry> <entry>Anzahl_Winterverlust</entry> <entry>Anzahl_Sommerverlust</entry> <entry>Anzahl_Wachstumsrate</entry> </row> </thead> <tbody> <row> <entry>Labrador Retriever</entry> <entry>35687249</entry> <entry>18473629</entry> <entry>17298365</entry> <entry>2689743</entry> <entry>1487635</entry> <entry>923587</entry> </row> <row> <entry>Deutscher Schaeferhund</entry> <entry>41258793</entry> <entry>22579341</entry> <entry>18765923</entry> <entry>3165879</entry> <entry>1789643</entry> <entry>1197835</entry> </row> <row> <entry>Pudel</entry> <entry>29873651</entry> <entry>15487963</entry> <entry>14987235</entry> <entry>1865793</entry> <entry>978653</entry> <entry>768943</entry> </row> <row> <entry>Golden Retriever</entry> <entry>38421759</entry> <entry>21987653</entry> <entry>16498723</entry> <entry>2981769</entry> <entry>1578439</entry> <entry>987653</entry> </row> <row> <entry>Beagle</entry> <entry>22758693</entry> <entry>11897653</entry> <entry>11987523</entry> <entry>1469873</entry> <entry>768539</entry> <entry>627589</entry> </row> <row> <entry>Chihuahua</entry> <entry>8579631</entry> <entry>4298765</entry> <entry>4389765</entry> <entry>589763</entry> <entry>278953</entry> <entry>219875</entry> </row> <row> <entry>Bernhardiner</entry> <entry>52873659</entry> <entry>27896531</entry> <entry>24987653</entry> <entry>3689751</entry> <entry>1987653</entry> <entry>1398759</entry> </row> <row> <entry>Border Collie</entry> <entry>31876523</entry> <entry>15798623</entry> <entry>14987635</entry> <entry>2189765</entry> <entry>1189753</entry> <entry>873659</entry> </row> <row> <entry>Shiba Inu</entry> <entry>26498753</entry> <entry>13987653</entry> <entry>12598763</entry> <entry>1765983</entry> <entry>986357</entry> <entry>743859</entry> </row> <row> <entry>Dackel</entry> <entry>18976523</entry> <entry>9786531</entry> <entry>9265873</entry> <entry>1289753</entry> <entry>678953</entry> <entry>548973</entry> </row> </tbody> </tgroup> </table>
Hilfe zu Bewertung, Score und exakter Korrektheit
Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.
Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.
Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.





