Überblick

In diesem Workshop befassen wir uns mit den theoretischen und praktischen Aspekten sowie dem produktiven Betrieb von Annif zur automatischen Inhaltserschließung in der DNB.

Vor dem Hintergrund der stark wachsenden Zahl zu erschließender Online-Publikationen und der seit 2009 vorangetriebenen Automatisierung der Inhaltserschließung in der DNB zeigen wir Ihnen im Theorieteil, wie in der Erschließungsmaschine (EMa) die zentralen Anwendungsfälle, automatische Klassifikation mit DDC-Sachgruppen und DDC-Kurznotationen sowie die Indexierung mit GND-Schlagwörtern, in einer modularen Architektur umgesetzt sind.

Sie erfahren, wie das Training von Modellen geplant, robuste Daten- und Pipeline-Prozesse im Datenmanagement orchestriert und Modelle für die Annif-Backends, einschließlich Ensemble- und Fusionsstrategien, erstellt, konfiguriert und in den Betrieb überführt werden. Dabei zeigen wir auch den Umgang mit heterogenen Korpora, die in der DNB unter anderem Artikel, Bücher und Inhaltsverzeichnisse in Deutsch oder Englisch mit sehr unterschiedlichen Textlängen und Inhalten umfassen. Wir berichten über die EMa mit ihrem modularen Aufbau, der containerbasierten Bereitstellung sowie getrennten Test-, Freigabe- und Produktionsumgebungen für die tägliche automatische Erschließung. Ein Ausblick gilt der nächsten Generation von Transformer-/LLM-Verfahren und der damit einhergehenden GPU-Notwendigkeit. 

Ein zentraler Bestandteil des Workshops ist eine Hands-on-Session. Darin betrachten wir gemeinsam die Indexierung von Publikationen mit GND-Schlagwörtern und vergleichen die Ergebnisse einzelner Verfahren. Exemplarisch beschäftigen wir uns mit den Stärken und Grenzen lexikalischer und Machine-Learning-basierter Ansätze und fusionieren diese zur Ergebnisverbesserung.

Neben praxisnahen Einblicken bietet der Workshop Raum für den Austausch über den produktiven Einsatz der maschinellen Erschließung. Technische Hardwareaspekte werden im Anschluss auf der Fachtagung in einem Vortrag von Christoph Poley vertieft.
Workshop-Anmeldung

Anmeldung  hier   ANMELDUNG

Platz für bis zu 14 Personen 

Uhrzeit: 13:30 Uhr bis 17:00

Voraussetzungen und Vorbereitung:

• Grundkenntnisse in der klassifikatorischen und verbalen Inhaltserschließung sind hilfreich, aber nicht erforderlich
• ein Basisverständnis von Machine-Learning-Konzepten ist hilfreich, aber nicht erforderlich
• Grundkenntnisse im Arbeiten auf der Kommandozeile unter Unix/Linux sowie im Umgang mit Jupyter Notebook sind hilfreich, aber nicht erforderlich
• Interesse an technischen Betriebsaspekten (Container, Pipelines, Umgebungen)

Rechner für die praxisorientierten Hands-on-Übungen werden von der DNB während des Workshops bereitgestellt

Erwartete Ergebnisse:

Am Ende des Workshops werden die Teilnehmenden:

• den Aufbau und die Funktionsweise eines Systems zur automatischen Inhaltserschließung (Daten, Dienste, Datenflüsse, Bereitstellung) kennengelernt haben,
• einige Stärken/Schwächen lexikalischer vs. ML-basierter Verfahren eingeordnet,
• einfache Fusionsstrategien angewendet und Hands-on-Erfahrungen mit der GND-Indexierung gesammelt haben,

References

[1]  Suominen, O., Inkinen, J., Virolainen, T., Fürneisen, M., Kinoshita, B. P., Veldhoen, S., Sjöberg, M., Zumstein, P., Neatherway, R., & Lehtinen, M. (2025). Annif (Version 1.4.0) [Computer software]. https://github.com/NatLibFi/Annif 

[2] Christoph Poley, Sandro Uhlmann, Frank Busse, Jan-Helge Jacobs, Maximilian Kähler, Matthias Nagelschmidt & Markus Schumacher (2025). Automatic Subject Cataloguing at the German National Library. LIBER Quarterly: The Journal of the Association of European Research Libraries, 35(1), 1-29. https://doi.org/10.53377/lq.19422

Überblick

In diesem Workshop werden theoretische und praktische Aspekte der Evaluation automatischer Verfahren zur Inhaltserschließung behandelt. Da Künstliche Intelligenz und Maschinelles Lernen in der Informationssuche und Inhaltserschließung immer wichtiger werden, ist es entscheidend, zu verstehen, wie diese Verfahren wirksam bewertet werden können. Damit lassen sich Systeme fundiert planen, Qualität nachhaltig sichern und gezielte Verbesserungen ableiten.

Zentrale Fragen sind dabei: Wie kann ich Schlagwortvorschläge verschiedener Verfahren genau untersuchen? Woran erkenne ich Stärken und Schwächen dieser Verfahren? Welche Vorteile bieten LLM-basierte Ansätze gegenüber klassischen Methoden?

Ziel des Workshops ist es, ein klares Verständnis der wichtigsten Evaluationsmetriken, ihrer Aggregation und der relevanten Evaluationsdimensionen zu vermitteln. Darüber hinaus gibt es praktische Übungen mit dem neu an der Deutschen Nationalbibliothek entwickelten R-Evaluationstoolkit CASIMiR.

Wir betrachten die Stärken und Grenzen verschiedener Ansätze zur automatischen Inhaltserschließung, z. B.:

• Lexical Matching ([1], [8])

• Partitioned Label Trees ([2], [3], [4])

• X-Transformer ([5], [6])

• durch LLMs generierte Schlagwörter ([7])

Als Beispiel wenden wir diese Verfahren auf einem Testset mit deutschsprachigen Titeln an. Dabei sollen Schlagwörter aus der Gemeinsamen Normdatei (GND) [9] vorhergesagt werden. Aufgrund ihrer Größe stellt die GND ein besonders herausforderndes Zielvokabular dar. Das bietet vielfältige Möglichkeiten, Vor- und Nachteile der einzelnen Verfahren eingehend zu untersuchen.

Zum Abschluss gibt es eine offene Diskussion. Hier können Teilnehmende weitere Aspekte einbringen, die über die reine Qualität der Schlagwortvorschläge hinausgehen, z. B. Ressourcenbedarf, Machbarkeit oder Open-Source-Verfügbarkeit etc.
Workshop-Anmeldung

Anmeldung  hier  ANMELDUNG

Platz für bis zu 16 Personen

Uhrzeit: 14:00 Uhr bis 16:30

Die DNB auf GitHub
Über das KI-Projekt der DNB

→ Kurzbeschreibung zum Projekt "Automatisches Erschließungssystem"

→ Blogbeitrag "Texte erschließen mit KI"

Voraussetzungen und Vorbereitung

• Grundkenntnisse in Information Retrieval und Inhaltserschließung, insbesondere zu den grundlegenden Metriken Precision, Recall und F-Score
• Vertrautheit mit R und grundlegenden Programmierkonzepten ist hilfreich, aber nicht erforderlich
• Es wird empfohlen, eigene Laptops mit installierter R-Umgebung (idealerweise RStudio oder VS Code) mitzubringen, um die bereitgestellten Beispiel-Notebooks durchzuarbeiten. Folgen Sie dafür den Schritten in unserer Workshop-Anleitung: https://github.com/deutsche-nationalbibliothek/casimir-workshop

Die Teilnehmenden erhalten:

• Beispieldatensätze mit Schlagwortvorschlägen aus verschiedenen Verfahren
• Zugriff auf das CASIMiR-Paket (GitHub-Link: GitHub - deutsche-nationalbibliothek/casimir: Comparing Automated Subject Indexing Methods in R)
• Beispiel-Notebooks (quarto) mit den ersten Schritten einer Analyse mit CASIMiR

Erwartete Ergebnisse

Am Ende des Workshops werden die Teilnehmenden:

• die theoretischen Grundlagen für Evaluationsprojekte verstanden haben,
• einige Vor- und Nachteile aktueller Verfahren zur automatischen Inhaltserschließung kennen,
• praktische Erfahrungen mit einer Drill-Down-Analyse in R unter Einsatz von CASIMiR gesammelt haben,
• in der Lage sein, das erworbene Wissen in eigenen Evaluationsprojekten anzuwenden.

References

[1]      O. Suominen, “Maui Like Lexical Matching,” https://github.com/NatLibFi/Annif/wiki/Backend%3A-MLLM.

[2]      O. Suominen, “Omikuji Backend,” https://github.com/NatLibFi/Annif/wiki/Backend%3A-Omikuji.

[3]      Y. Prabhu, A. Kag, S. Harsola, R. Agrawal, and M. Varma, “Parabel: Partitioned label trees for extreme classification with application to dynamic search advertising,” The Web Conference 2018 - Proceedings of the World Wide Web Conference, WWW 2018, pp. 993–1002, Apr. 2018, doi: 10.1145/3178876.3185998.

[4]      S. Khandagale, H. Xiao, and R. Babbar, “Bonsai: diverse and shallow trees for extreme multi-label classification,” Mach Learn, vol. 109, no. 11, pp. 2099–2119, Nov. 2020, doi: 10.1007/s10994-020-05888-2.

[5]      W.-C. Chang, H.-F. Yu, K. Zhong, Y. Yang, and I. S. Dhillon, “Taming Pretrained Transformers for Extreme Multi-label Text Classification,” in Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining, New York, NY, USA: ACM, Aug. 2020, pp. 3163–3171. doi: 10.1145/3394486.3403368.

[6]      J. Zhang, W. Chang, H. Yu, and I. S. Dhillon, “Fast Multi-Resolution Transformer Fine-tuning for Extreme Multi-label Text Classification,” Oct. 2021, Accessed: Nov. 08, 2021. [Online]. Available: https://arxiv.org/abs/2110.00685v2

[7]      L. Kluge and M. Kähler, “DNB-AI-Project at SemEval-2025 Task 5: An LLM-Ensemble Approach for Automated Subject Indexing,” Apr. 2025, Accessed: May 07, 2025. [Online]. Available: https://arxiv.org/abs/2504.21589v1

[8]      O. Medelyan, E. Frank, and I. H. Witten, “Human-competitive tagging using automatic keyphrase extraction,” ACL and AFNLP, pp. 6–7, 2009, doi: 10.5555/3454287.3454810.

[9]      Geschäftsstelle der GND-Zentrale an der Deutschen Nationalbibliothek, “Gemeinsame Normdatei,” https://gnd.network/. Accessed: Oct. 11, 2024. [Online]. Available: https://gnd.network/

Künstliche Intelligenz soll Arbeit schneller, leichter und effizienter machen. Wenn man dem Transhumanismus glaubt, verhilft die Nutzung populärer LLM-Modelle der Menschheit auf die nächste Entwicklungsstufe. Die Grundlage für diese positiven Effekte sind unzählige Datenpunkte des Internets, unter anderem auch Digitalisate im Open Access. Die Fragmente dieser Digitalisate streuen weit. Teilweise bis in eine KI-generierte Wikipedia von Elon Musk, genannt Grokipedia, in der die Fragmente teils in ihr Gegenteil verkehrt und verzerrt werden. Verliert der ursprüngliche Datenpunkt, das Digitalisat, dadurch an Wert? Diese Frage lässt sich dabei auf verschiedene Weise beantworten: Wert als Konzept ist sowohl ökonomischer Nutzen, als auch gesellschaftlich-ethische Aufladung, aber auch rechtliches Schutzgut. Der Vortrag verbindet diese Perspektiven für ein interdisziplinäres Verständnis von "Wert". Wie sich der Wert durch den Einsatz von LLM-Modellen verändert, wird anhand verschiedener Beispiele illustriert.