FHIR_HFIR_02_BundleCollection im LLM-Testsuite-Report

Testfallbeschreibung

Der Test prüft, ob das Modell ein FHIR Bundle vom Typ collection erzeugen kann, mit einer Patient Ressource und einer Observation, in der HFIR als Observation.component mit valueString abgebildet ist.

QuelldateiFHIR_HFIR_02_BundleCollection.txt
Serie2
Kategorienfhir, xml, hfir, bundle
BewertungLLM-Judge
Prompt SHA-2560760a4fc3783880d25a684e2c8cd7975f11158e9a2ed3d5f30e0be18546b6379
LLM-Judge: Die Antwort wird LLM-gestützt bewertet. Ein Judge-Modell vergleicht die Modellantwort mit der fachlichen Erwartung und entscheidet, ob sie inhaltlich erfüllt ist.

Erwartetes Ergebnis

Valides FHIR R4 XML Bundle vom Typ collection mit Patient, Observation und vier ausschließlich als Observation.component modellierten HFIR valueString Komponenten.

Erwartung im Katalognein
Korrektes Ergebnis im Katalogja

Judge-Anweisung

Prüfe Bundle.type collection, die Patient Observation Beziehung und die ausschließliche strukturierte HFIR Abbildung in vier Komponenten.

Muss erfüllt sein

  • Die Ausgabe besteht ausschließlich aus wohlgeformtem XML. Markdown Codezäune dürfen für die Prüfung entfernt werden, zusätzliche Prosa ist nicht zulässig.
  • Das Wurzelelement ist Bundle im FHIR Namensraum http://hl7.org/fhir.
  • FHIR Primitive werden XML konform über value Attribute modelliert und nicht als unstrukturierter Elementtext.
  • Patient und Observation stehen als Ressourcen in Bundle.entry/resource. Die Observation besitzt mindestens status und code.
  • Observation.subject verweist auf den im Bundle enthaltenen Patient und die Referenz lässt sich innerhalb des Bundles auflösen.
  • Bundle.type ist exakt collection.
  • Das Bundle enthält genau einen Patient und genau eine Observation.
  • Die HFIR Inhalte sind ausschließlich in genau vier Observation.component Einträgen H, F, I und R modelliert.
  • Jede HFIR Komponente verwendet valueString beziehungsweise dessen formatkonforme FHIR RDF Darstellung und enthält einen nicht leeren Wert.

Fehlerkriterien

  • Das XML ist nicht wohlgeformt, verwendet einen falschen oder keinen FHIR Namensraum oder enthält Prosa außerhalb der Serialisierung.
  • FHIR Primitive sind überwiegend als Textinhalt statt über value Attribute dargestellt.
  • Patient oder Observation ist nicht korrekt als Bundle Ressource modelliert.
  • Observation.status, Observation.code oder die konsistente Patient Referenz fehlt.
  • Bundle.type fehlt oder ist nicht collection.
  • HFIR wird zusätzlich oder ausschließlich als Observation.valueString, note, extension, narrative oder separate Ressource modelliert.
  • Eine HFIR Komponente verwendet einen anderen value Typ als valueString oder ist leer.

Judge-Hinweis: Bewerte gegen die FHIR R4 XML Repräsentationsregeln. Ein XML Dokument mit nur ähnlich klingenden Elementnamen ist kein FHIR Bundle. Für die klinischen HFIR Texte zählt semantische Plausibilität, nicht eine bestimmte Wortwahl.

Prompt

Baue ein FHIR Bundle als XML mit type collection.
Erzeuge eine Patient-Ressource mit zufälliger ID.
Danach eine Observation, in der die HFIR-Elemente als Observation.component vorkommen.
Jeder Abschnitt H, F, I, R soll valueString nutzen.
Inhaltlich soll es eine typische Anamnese aus der Allgemeinmedizin sein.
Gib nur FHIR XML aus.
759 Runs 745 bewertet 18.5 % Score 11.4 % exakt korrekt
Hilfe zu Bewertung, Score und exakter Korrektheit

Score ist eine abgestufte Gütebewertung: correct = 100 %, mostly_correct = 80 %, partial = 50 %, wrong/not_answered = 0 %.

Exakt korrekt ist strenger: Nur Runs mit dem Label correct zählen. Mostly correct erhöht den Score, zählt aber nicht als exakt korrekt.

Bewertet zählt alle Runs mit fachlichem Urteil. Bei LLM-Judge-Ergebnissen zählen auch Judge-Fehler als bewertet, aber mit Score 0 %.

Erzeugt am