Überblick
In diesem Workshop werden theoretische und praktische Aspekte der Evaluation automatischer Verfahren zur Inhaltserschließung behandelt. Da Künstliche Intelligenz und Maschinelles Lernen in der Informationssuche und Inhaltserschließung immer wichtiger werden, ist es entscheidend, zu verstehen, wie diese Verfahren wirksam bewertet werden können. Damit lassen sich Systeme fundiert planen, Qualität nachhaltig sichern und gezielte Verbesserungen ableiten.
Zentrale Fragen sind dabei: Wie kann ich Schlagwortvorschläge verschiedener Verfahren genau untersuchen? Woran erkenne ich Stärken und Schwächen dieser Verfahren? Welche Vorteile bieten LLM-basierte Ansätze gegenüber klassischen Methoden?
Ziel des Workshops ist es, ein klares Verständnis der wichtigsten Evaluationsmetriken, ihrer Aggregation und der relevanten Evaluationsdimensionen zu vermitteln. Darüber hinaus gibt es praktische Übungen mit dem neu an der Deutschen Nationalbibliothek entwickelten R-Evaluationstoolkit CASIMiR.
Wir betrachten die Stärken und Grenzen verschiedener Ansätze zur automatischen Inhaltserschließung, z. B.:
Lexical Matching ([1], [8])
Partitioned Label Trees ([2], [3], [4])
X-Transformer ([5], [6])
durch LLMs generierte Schlagwörter ([7])
Als Beispiel wenden wir diese Verfahren auf einem Testset mit deutschsprachigen Titeln an. Dabei sollen Schlagwörter aus der Gemeinsamen Normdatei (GND) [9] vorhergesagt werden. Aufgrund ihrer Größe stellt die GND ein besonders herausforderndes Zielvokabular dar. Das bietet vielfältige Möglichkeiten, Vor- und Nachteile der einzelnen Verfahren eingehend zu untersuchen.
Zum Abschluss gibt es eine offene Diskussion. Hier können Teilnehmende weitere Aspekte einbringen, die über die reine Qualität der Schlagwortvorschläge hinausgehen, z. B. Ressourcenbedarf, Machbarkeit oder Open-Source-Verfügbarkeit etc.
Anmeldung startet am 21.10.2026 hier Platz für bis zu 16 Personen |
→ Kurzbeschreibung zum Projekt "Automatisches Erschließungssystem" → Blogbeitrag "Texte erschließen mit KI" |