TableCals im LLM-Testsuite-Report

Testfallbeschreibung

Du möchtest mit diesem Test feststellen, ob ein Modell zuverlässig strukturierte Tabellendaten aus CALS-Tabellen extrahieren kann. Es geht darum, ob die Zuordnung zwischen einer bestimmten Zeile und einer bestimmten Spalte korrekt erkannt wird und ob das Modell in der Lage ist, ausschließlich den geforderten Zahlenwert auszugeben, ohne zusätzlichen Text. Das zeigt, ob Parsing, Kontextfokussierung und präzise Antwortsteuerung funktionieren.

QuelldateiTableCals.txt
Serie1
Kategorienxml, cals, table
BewertungDeterministisch
Prompt SHA-256d0d47e84337e0e85efc7ecb3a224d2d48d8163294fff2e09f6ac42618965ef7c
Deterministisch: Die Antwort wird regelbasiert gegen ein erwartetes Ergebnis geprüft. Bewertet wird also, ob die geforderten Werte, Muster oder Strukturen in der Modellantwort gefunden werden.

Erwartetes Ergebnis

1865793

Erwartung im Katalognein
Korrektes Ergebnis im Katalognein

Prompt

Du erhaeltst unter content eine CALS-Tabelle.
Wieviel betraegt die Anzahl_Winterverlust beim Pudel? 
Gib ausschliesslich die Zahl zurueck.

# content
<table frame="all">
  <tgroup cols="7">
    <colspec colname="c1"/>
    <colspec colname="c2"/>
    <colspec colname="c3"/>
    <colspec colname="c4"/>
    <colspec colname="c5"/>
    <colspec colname="c6"/>
    <colspec colname="c7"/>

    <thead>
      <row>
        <entry>Rasse</entry>
        <entry>Anzahl_Haare</entry>
        <entry>Anzahl_Unterfell</entry>
        <entry>Anzahl_Oberfell</entry>
        <entry>Anzahl_Winterverlust</entry>
        <entry>Anzahl_Sommerverlust</entry>
        <entry>Anzahl_Wachstumsrate</entry>
      </row>
    </thead>

    <tbody>
      <row>
        <entry>Labrador Retriever</entry>
        <entry>35687249</entry>
        <entry>18473629</entry>
        <entry>17298365</entry>
        <entry>2689743</entry>
        <entry>1487635</entry>
        <entry>923587</entry>
      </row>

      <row>
        <entry>Deutscher Schaeferhund</entry>
        <entry>41258793</entry>
        <entry>22579341</entry>
        <entry>18765923</entry>
        <entry>3165879</entry>
        <entry>1789643</entry>
        <entry>1197835</entry>
      </row>

      <row>
        <entry>Pudel</entry>
        <entry>29873651</entry>
        <entry>15487963</entry>
        <entry>14987235</entry>
        <entry>1865793</entry>
        <entry>978653</entry>
        <entry>768943</entry>
      </row>

      <row>
        <entry>Golden Retriever</entry>
        <entry>38421759</entry>
        <entry>21987653</entry>
        <entry>16498723</entry>
        <entry>2981769</entry>
        <entry>1578439</entry>
        <entry>987653</entry>
      </row>

      <row>
        <entry>Beagle</entry>
        <entry>22758693</entry>
        <entry>11897653</entry>
        <entry>11987523</entry>
        <entry>1469873</entry>
        <entry>768539</entry>
        <entry>627589</entry>
      </row>

      <row>
        <entry>Chihuahua</entry>
        <entry>8579631</entry>
        <entry>4298765</entry>
        <entry>4389765</entry>
        <entry>589763</entry>
        <entry>278953</entry>
        <entry>219875</entry>
      </row>

      <row>
        <entry>Bernhardiner</entry>
        <entry>52873659</entry>
        <entry>27896531</entry>
        <entry>24987653</entry>
        <entry>3689751</entry>
        <entry>1987653</entry>
        <entry>1398759</entry>
      </row>

      <row>
        <entry>Border Collie</entry>
        <entry>31876523</entry>
        <entry>15798623</entry>
        <entry>14987635</entry>
        <entry>2189765</entry>
        <entry>1189753</entry>
        <entry>873659</entry>
      </row>

      <row>
        <entry>Shiba Inu</entry>
        <entry>26498753</entry>
        <entry>13987653</entry>
        <entry>12598763</entry>
        <entry>1765983</entry>
        <entry>986357</entry>
        <entry>743859</entry>
      </row>

      <row>
        <entry>Dackel</entry>
        <entry>18976523</entry>
        <entry>9786531</entry>
        <entry>9265873</entry>
        <entry>1289753</entry>
        <entry>678953</entry>
        <entry>548973</entry>
      </row>
    </tbody>
  </tgroup>
</table>
735 Runs 727 bewertet 59.1 % Score 34.7 % exakt korrekt
Hilfe zu Bewertung, Score und exakter Korrektheit

Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.

Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.

Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.

Erzeugt am