Seitenhistorie

"Unsere Daten sind in Ordnung" – wirklich? Datenqualität ist mehr als die Abwesenheit offensichtlicher Fehler. Von simplen Tippfehlern über subtile Inkonsistenzen bis zu systematischen Verzerrungen: Die Bandbreite möglicher Qualitätsprobleme ist groß, und mit dem Siegeszug von KI und maschinellem Lernen werden die Konsequenzen schlechter Daten immer sichtbarer. Was bedeuten eigentlich "gute Daten" und warum reichen klassische Maßstäbe wie Vollständigkeit und Korrektheit heute nicht mehr aus? Und wie misst man Datenqualität? Spätestens seit das EU-KI-Gesetz Anforderungen an Trainingsdaten stellt, müssen wir auch über Fairness, Diversität und Erklärbarkeit reden. Der Vortrag beleuchtet zentrale Konzepte, Methoden und offene Forschungsfragen der Datenqualität – von klassischen Ansätzen bis zu den Herausforderungen des KI-Zeitalters.

In  einem internen KI-Projekt wurde an der DNB in den letzten vier Jahren untersucht, wie sich aktuelle Entwicklungen aus der natürlichen Sprachverarbeitung für die Weiterentwicklung der automatischen Erschließung eignen. Speziell wurde die Frage behandelt, welche Methoden sich am besten für die Beschlagwortung von deutschen wissenschaftlicher Publikationen mit Deskriptoren aus der Gemeinsamen Normdatei (GND) eignen. Im Ergebnis zeigt sich, dass bereits existierende Verfahren durch den Einsatz neuer Encoder-(Sprach-)Modelle weiterentwickelt werden können. Andererseits bieten generative Sprachmodelle völlig neue Wege das Beschlagwortungsproblem zu adressieren. Wir berichten von Vor- und Nachteilen und zeigen Ergebnisse unserer Evaluation.

Während die meisten großen Sprachmodelle auf Englisch ausgerichtet sind, präsentieren wir mit LLäMmlein und ModernGBERT zwei komplementäre Modellfamilien, die vollständig auf die deutsche Sprache optimiert wurden: LLäMmlein, ein generatives Decoder-Modell (120 M – 7 B Parameter), und ModernGBERT, eine Encoder-Familie (138 M – 1 B Parameter) für Verständnis- und Klassifikationsaufgaben. Beide wurden von Grund auf auf einem ausschließlich öffentlich verfügbaren deutschen Korpus mit einem eigens entwickelten Tokenizer trainiert – transparent, reproduzierbar und skalierbar über verschiedene Modellgrößen und Cluster-Konfigurationen hinweg.

Im Vortrag erläutern wir den Aufbau der Datenbasis, die Trainingspipeline und die technischen Herausforderungen beim Training. Zur Evaluation wurde der eigens entwickelte SuperGLEBer-Benchmark genutzt, der speziell auf deutsche Sprachverarbeitung zugeschnitten ist und die Grundlage für unsere weiteren Anwendungen bildet. ModernGBERT erzielt dabei in mehreren Aufgabenbereichen derzeit führende Ergebnisse. Die Leistungsfähigkeit des LLMs wird zudem durch externe Anwendungen bestätigt, etwa bei der Erkennung schädlicher Inhalte in sozialen Medien im Rahmen der GermEval 2025 oder bei der deutschen Koreferenzauflösung. Die Beispiele verdeutlichen die Bedeutung aktueller deutschsprachiger LLMs, um leistungsfähige und anwendungsnahe KI-Systeme entwickeln zu können.

Die Entwicklung großer Sprachmodelle hat sich 2025 spürbar verschoben: Der Fokus liegt zunehmend auf Modellen, die komplexe Probleme über mehrstufige Inferenz- und Suchprozesse bearbeiten, anstatt direkt zu antworten.
Dieser Vortrag gibt einen Überblick über moderne Reasoning-Modelle und grenzt ihre Funktionsweise von der klassischen, einmaligen Antwortgenerierung ab. Wir analysieren, wie Reasoning-Modelle zur Laufzeit über Such- und iterative Verfeinerungsverfahren zusätzliche Rechenzeit in bessere Lösungen umsetzen. Zudem betrachten wir, wie diese Fähigkeiten durch gezieltes Training sowie durch Verifikations- und Bewertungsmodelle erlernt und gesteuert werden.
Abschließend ordnen wir ein, unter welchen Bedingungen zusätzliche Inferenz sinnvoll ist und welche praktischen Grenzen sich daraus ergeben. Ziel ist eine verständliche Einordnung dieser Modellklasse.

Künstliche Intelligenz soll Arbeit schneller, leichter und effizienter machen. Wenn man dem Transhumanismus glaubt, verhilft die Nutzung populärer LLM-Modelle der Menschheit auf die nächste Entwicklungsstufe. Die Grundlage für diese positiven Effekte sind unzählige Datenpunkte des Internets, unter anderem auch Digitalisate im Open Access. Die Fragmente dieser Digitalisate streuen weit. Teilweise bis in eine KI-generierte Wikipedia von Elon Musk, genannt Grokipedia, in der die Fragmente teils in ihr Gegenteil verkehrt und verzerrt werden. Verliert der ursprüngliche Datenpunkt, das Digitalisat, dadurch an Wert? Diese Frage lässt sich dabei auf verschiedene Weise beantworten: Wert als Konzept ist sowohl ökonomischer Nutzen, als auch gesellschaftlich-ethische Aufladung, aber auch rechtliches Schutzgut. Der Vortrag verbindet diese Perspektiven für ein interdisziplinäres Verständnis von "Wert". Wie sich der Wert durch den Einsatz von LLM-Modellen verändert, wird anhand verschiedener Beispiele illustriert.

Die Automatisierung von Arbeit ist kein neues Phänomen – seit den 1950er-Jahren prägt die Rationalisierung durch Technik und Organisation die Arbeitswelt. Doch mit dem Aufstieg Künstlicher Intelligenz (KI) erreicht dieser Prozess eine neue Qualität: Algorithmen übernehmen nicht nur repetitive, sondern zunehmend auch komplexe und wissensintensive Tätigkeiten. Dieser Vortrag untersucht aus arbeitssoziologischer Perspektive, wie KI-gestützte Automatisierung Arbeitsinhalte, Qualifikationsanforderungen und Machtverhältnisse in Organisationen verändert.

Im Rückgriff auf die lang währenden Rationalisierungsdebatten – von der Taylorisierung über die Computerisierung bis hin zur Digitalisierung – wird gefragt: Welche Kontinuitäten und Brüche zeigen sich durch KI? Wie verändern sich Arbeitsprozesse, wenn Entscheidungen zunehmend von Algorithmen getroffen oder vorbereitet werden? Und welche sozialen Folgen hat es, wenn menschliche Arbeit durch maschinelle Lernverfahren ersetzt, ergänzt oder neu strukturiert wird? Abschließend wird der Blick auf die Gestaltung von Arbeit gerichtet

Aufgrund der geopolitischen Lage wird der Ruf nach souveränen und wettbewerbsfähigen Lösungen „Made in Europe“ im Bereich der Künstlichen Intelligenz lauter.

Der Vortrag beschreibt, wie ein integriertes Ökosystem aus Infrastruktur, Forschung und Industrie zur Grundlage wettbewerbsfähiger KI‑Technologien werden kann.

Er zeigt, dass reine Cloud‑Souveränität nicht ausreicht, sondern offene, transparente und leistungsfähige KI‑Modelle notwendig sind, die in Europa entwickelt, trainiert und betrieben werden. Beispiele aus der Schweiz, China und Deutschland verdeutlichen, dass koordinierte Investitionen und Kooperationen entscheidend für Innovation sind. Im Zentrum steht die Bedeutung offener Foundation‑Modelle, die sowohl als Basismodelle als auch für sektor‑ und unternehmensspezifische KI‑Lösungen dienen.

Die Risiken simplen Finetunings, darunter Wissensverlust und Halluzinationen, werden anhand aktueller Forschung erläutert, und stattdessen wird die Technik des fortgesetzten Pretrainings vorgeschlagen.

Eine hohe Datenqualität und transparente Trainingsprozesse sind hierbei Schlüsselfaktoren. Die im Konsortium entwickelte State-of-the-Art Filtermethode JQL wird im Detail vorgestellt, und Erfahrungen aus der Praxis des Modelltrainings für zukünftige Modelle und entsprechende Trainingsdaten werden gezogen.

Modelle wie Teuken 7B und GovTeuken demonstrieren, dass europäische Open‑Source‑Modelle bereits heute konkurrenzfähig und anwendungsbereit sind.

Abschließend wird skizziert, wie Europa durch koordiniertes Handeln entlang der gesamten KI‑Wertschöpfungskette echte technologische Unabhängigkeit und nachhaltige Innovationskraft erreichen kann.