Ein Entwickler bittet einen KI-Assistenten, die Prüfbedingungen für einen Haftabzugsversuch an einer Beschichtung zusammenzufassen. Die Antwort kommt in Sekunden, ist sauber gegliedert und konkret. Eine der Angaben stammt allerdings aus einer anderen Norm. Den Fehler bemerkt nur, wer die fachlichen Anforderungen kennt und weiß, wie sich ein KI-Ergebnis überprüfen lässt. Genau hier beginnt KI-Kompetenz.
Welche Risiken ein ungeregelter KI-Einsatz birgt
Generative KI unterstützt in Laboren und Entwicklungsabteilungen bereits bei unterschiedlichen Aufgaben: Chemiker lassen sich Fachartikel zusammenfassen, Laborantinnen formulieren Prüfberichte vor und Projektleiter übersetzen Kundenanfragen. Geschieht das ohne Wissen oder Freigabe des Unternehmens, spricht man von Schatten-KI. Dazu zählen private Konten ebenso wie nicht freigegebene Funktionen in beruflich genutzter Software. Ein erstes Risiko entsteht dort, wo vertrauliche Rezepturen, Rohstoffdaten oder Kundeninformationen in Systeme gelangen, deren Datenverarbeitung das Unternehmen nicht geprüft hat.
Ein zweites Risiko ist weniger sichtbar. In vielen Unternehmen eignen sich Mitarbeitende den Umgang mit KI nebenbei an, durch Ausprobieren und mit den Werkzeugen, die gerade verfügbar sind. Dabei entwickeln sie eigene Gewohnheiten und Vorstellungen davon, wann ein Ergebnis vertrauenswürdig ist. So können sich innerhalb eines Teams unterschiedliche Maßstäbe herausbilden. Manche meiden KI-Werkzeuge, weil ein früher Versuch ein offensichtlich falsches Ergebnis geliefert hat. Andere übernehmen Antworten ungeprüft, weil sie überzeugend klingen.
Ausprobieren hilft dabei, ein Gefühl für die Möglichkeiten und Grenzen der Technologie zu bekommen. Aber belastbare Arbeitsergebnisse erfordern ein gemeinsames Grundverständnis davon, was das eingesetzte System leisten kann, auf welche Informationen es zugreift und wo seine Grenzen liegen.
KI verstehen: Wie Sprachmodelle und prädiktive Modelle zu ihren Ergebnissen kommen
F&E und Qualitätssicherung nutzen unter anderem zwei Arten von KI: generative KI-Werkzeuge, die Inhalte verarbeiten und erstellen, und prädiktive Modelle, die Eigenschaften oder Ergebnisse vorhersagen.
Sprachmodelle bilden die Grundlage vieler generativer KI-Werkzeuge, etwa von KI-Assistenten. Sie erzeugen Text schrittweise, indem sie anhand gelernter Muster und des verfügbaren Kontexts Wahrscheinlichkeiten für mögliche nächste Textbausteine berechnen. Diese Werte sagen jedoch nicht unmittelbar aus, wie wahrscheinlich eine fachliche Aussage zutrifft.
Die reine Textgenerierung prüft Fakten nicht verlässlich. Deshalb kann ein Modell Prüfbedingungen verwechseln, Angaben ergänzen, die in einer Quelle nicht vorkommen, oder Quellen erfinden. Solche Fehler werden als KI-Halluzinationen bezeichnet. Gerade in Fachgebieten mit speziellen Normen und stark kontextabhängigen Angaben können sie schwer zu erkennen sein. Doch auch eine überzeugende Begründung belegt nicht, dass eine Antwort richtig ist.
Auf dieselbe Frage kann ein KI-Assistent zudem unterschiedliche Antworten liefern. Abweichende Formulierungen sind bei einem Textentwurf oft unproblematisch, abweichende fachliche Angaben müssen dagegen geklärt werden. Für Angaben, die in ein Prüfprotokoll oder eine Spezifikation einfließen, zählt deshalb die überprüfte Originalquelle. Selbst eine mehrfach gleichlautende Antwort belegt nicht, dass eine Aussage stimmt.
Prädiktive Modelle können aus Versuchsdaten Zusammenhänge zwischen Rezepturbestandteilen, Prozessparametern und Produkteigenschaften lernen. Auf dieser Grundlage schätzen sie beispielsweise die Viskosität einer neuen Rezeptur oder ordnen ein Prüfergebnis einer Klasse zu. Nicht jedes Modell liefert dabei eine Wahrscheinlichkeit oder eine belastbare Unsicherheitsangabe.
Wo die Trainingsdaten Bedingungen nicht ausreichend abdecken, steigt häufig das Fehlerrisiko. Auch innerhalb bekannter Wertebereiche können unbekannte Kombinationen, Messfehler oder veränderte Rohstoffqualitäten die Aussagekraft einschränken. Wer ein prädiktives Modell nutzt, sollte es deshalb für den vorgesehenen Einsatz validieren und seinen Anwendungsbereich klar festlegen.
Wo KI im Labor sinnvoll unterstützen kann
Gut eignen sich Tätigkeiten, bei denen größere Mengen an Text oder Daten zu sichten sind und sich die Ergebnisse mit vertretbarem Aufwand überprüfen lassen. Dazu gehören beispielsweise:
- Fachliteratur, Patente oder Sicherheitsdatenblätter vorsortieren und zusammenfassen
- Entwürfe für Versuchsberichte, Prüfprotokolle oder Arbeitsanweisungen erstellen
- Frühere Versuche zu einem bestimmten Rohstoff in Dokumentensammlungen auffinden
- Muster in Prüfdaten erkennen und auf mögliche Abweichungen hinweisen
Ob eine Anwendung tatsächlich Zeit spart oder die Qualität verbessert, sollte ein Test an konkreten Aufgaben zeigen, der auch den Aufwand für Kontrolle und Korrektur einrechnet.
In der Produktentwicklung können prädiktive Modelle zusammen mit Verfahren zur gezielten Versuchsauswahl Versuche vorschlagen, die bessere Produkteigenschaften oder zusätzlichen Erkenntnisgewinn versprechen. Wer solche Vorschläge bewertet, sollte wissen, nach welchem Ziel das System auswählt: Der Versuch mit der besten erwarteten Eigenschaft ist nicht zwingend derjenige, der die größte Unsicherheit beseitigt. Die vorgeschlagenen Rezepturen prüft anschließend das Labor experimentell.
Interne Versuchsdaten kann ein allgemeiner KI-Assistent nur berücksichtigen, wenn jemand Dokumente in ein freigegebenes Werkzeug hochlädt oder interne Datenquellen anbindet. Das Sprachmodell muss dafür nicht zwingend neu trainiert werden. Fehler bleiben trotzdem möglich, etwa wenn das System eine veraltete Normfassung findet oder eine Tabelle falsch interpretiert.
Welche Datenaufbereitung nötig ist, hängt von der Aufgabe ab. Prädiktive Modelle für Rezepturen benötigen konsistente Messwerte, Einheiten, Versuchsbedingungen und geeignete Merkmale. Eine Dokumentensuche kann dagegen auch unstrukturierte Berichte und PDFs nutzen. Entscheidend bleiben dabei Qualität, Aktualität, Auffindbarkeit und Zugriffsrechte der Dokumente.
Grenzen von KI: Wo Fachwissen und Kontrolle unverzichtbar bleiben
Grenzen entstehen dort, wo Kontext fehlt. Die Eigenheiten eines Prüfstands oder Erfahrungen mit bestimmten Lieferantenchargen kann ein System nur berücksichtigen, wenn diese Informationen vorliegen und die Anwendung sie verarbeiten kann. Was ausschließlich im Erfahrungswissen einzelner Mitarbeitender steckt, kann eine KI nicht automatisch nutzen.
Angesichts der beschriebenen Fehlerquellen sollte die Qualitätssicherung vor dem Einsatz festlegen, welche Aufgaben KI übernehmen darf und welche Kontrollen nötig sind. Bei Freigaben, Abweichungsbewertungen und regulatorisch relevanten Entscheidungen müssen Verantwortlichkeiten und Prüfkriterien klar sein. Die konkreten Anforderungen ergeben sich aus dem Einsatzfall und den einschlägigen fachlichen und regulatorischen Vorgaben.
Eine menschliche Prüfung allein garantiert dabei noch keine Qualität. Prüfende brauchen Fachkenntnisse, Zugang zu den maßgeblichen Quellen, ausreichend Zeit und die Möglichkeit, Ergebnisse zurückzuweisen. Bei wiederkehrenden Anwendungen gehört auch dazu, die Verlässlichkeit des eingesetzten Systems systematisch zu überprüfen.
Welche Fähigkeiten KI-Kompetenz umfasst
International wird KI-Kompetenz häufig als AI Literacy bezeichnet. Gemeint sind Fähigkeiten und Kenntnisse, die einen informierten und verantwortungsvollen Umgang mit KI ermöglichen. Für die F&E gehören dazu insbesondere folgende Bereiche:
- Grundverständnis: Wer mit KI arbeitet, sollte die wesentlichen Möglichkeiten und Grenzen der eingesetzten Anwendung kennen und zwischen einer sprachlich plausiblen Antwort, einer quellenbasierten Auskunft und einer validierten Vorhersage unterscheiden können.
- Anfragen formulieren: Gute KI-Prompts enthalten Kontext, Ziel, gewünschtes Format und Einschränkungen. Die Aufforderung, für jede Prüfbedingung eine Fundstelle im beigefügten Dokument zu nennen, kann die Kontrolle erleichtern, garantiert aber weder korrekte Angaben noch richtige Fundstellen.
- Ergebnisse prüfen: Dazu gehören Plausibilitätskontrollen, der Abgleich mit Originalquellen und die Einschätzung, welche Folgen ein Fehler hätte. Bei Normen sind beispielsweise auch Ausgabe, Geltungsbereich und mögliche Abweichungen zwischen Verfahren zu beachten.
- Mit Daten verantwortungsvoll umgehen: Mitarbeitende müssen wissen, welche Werkzeuge für welche Zwecke freigegeben sind und welche Informationen sie dort verarbeiten dürfen.
- Data Literacy: Datenqualität beeinflusst die Aussagekraft von Auswertungen. Fehlende Einheiten, unvollständige Metadaten oder eine selektive Dokumentation erfolgreicher Versuche können Modelle und Schlussfolgerungen verzerren. Wer mit prädiktiven Modellen arbeitet, sollte auch verstehen, wie sich ihre Eignung mit passenden Testdaten beurteilen lässt.
- Verantwortlichkeiten kennen: Mitarbeitende sollten wissen, wann sie Ergebnisse selbst verwenden dürfen, wann zusätzliche Prüfungen nötig sind und an wen sie sich bei Fehlern oder Unsicherheit wenden können.
Die nötige Tiefe richtet sich nach Rolle und Aufgabe. Eine Laborantin, die Berichtsentwürfe erstellt, braucht andere Kenntnisse als ein Teamleiter, der über die Einführung eines prädiktiven Modells entscheidet.
Eingebettete KI verändert den Lernbedarf
Softwareanbieter betten KI-Funktionen zunehmend direkt in einzelne Arbeitsschritte ein. Ein Klick erzeugt dann beispielsweise eine Versuchsbeschreibung oder einen Berichtsentwurf im vorgesehenen Eingabefeld. Frei formulierte Prompts verlieren dadurch an Bedeutung. Die Ergebnisse müssen Mitarbeitende dagegen weiterhin selbst beurteilen. Wie aufwendig diese Prüfung ausfällt, bestimmen die Aufgabe, die Verlässlichkeit der Anwendung und die eingebauten Kontrollen.
Daraus folgt nicht automatisch, dass Schulungen kürzer werden, aber ihr Schwerpunkt verschiebt sich: weniger Bedienung eines Chatfensters, mehr Verständnis der konkreten Funktion, ihrer Datenbasis und ihrer Grenzen. Übernehmen Mitarbeitende neue Aufgaben oder Verantwortlichkeiten, kann der Lernbedarf auch wachsen.
Was Artikel 4 des EU AI Act verlangt
Seit dem 2. Februar 2025 gilt Artikel 4 des EU AI Act zur KI-Kompetenz. Die seit dem 27. Juli 2026 geltende Digital-Omnibus-Verordnung hat die Vorschrift geändert. Nach der aktuellen Fassung müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und weiterer Personen zu unterstützen, die in ihrem Auftrag mit KI arbeiten.
Dabei sind unter anderem Vorwissen, Erfahrung, Ausbildung und Einsatzkontext sowie die vom KI-Einsatz betroffenen Personen zu berücksichtigen. Ein bestimmtes individuelles Kompetenzniveau müssen Anbieter und Betreiber nach der geänderten Vorschrift ausdrücklich nicht garantieren.
Als Betreiber gilt auch ein Unternehmen, das KI-Systeme beruflich einsetzt. Für Forschung und Entwicklung sieht der EU AI Act bestimmte Ausnahmen vor. Sie betreffen unter anderem KI-Systeme und Modelle, die speziell und ausschließlich für wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden, sowie bestimmte Entwicklungsaktivitäten an KI vor Markteinführung oder Inbetriebnahme. Allgemeine KI-Werkzeuge sind nicht eigens für die Forschung entwickelt. Ihr alltäglicher beruflicher Einsatz in der F&E fällt deshalb nicht automatisch aus dem Anwendungsbereich.
Artikel 4 schreibt jedoch weder eine Standardschulung noch ein bestimmtes Zertifikat vor. Welche Maßnahmen geeignet sind, hängt von den eingesetzten Systemen, den Aufgaben und den damit verbundenen Risiken ab.
Was Verantwortliche jetzt klären sollten
Für F&E-Verantwortliche stellen sich damit konkrete Fragen: Bei welchen Aufgaben setzt das Team KI bereits ein, offiziell oder inoffiziell, und wo stecken KI-Funktionen schon in einzelnen Arbeitsschritten? Welche Werkzeuge sind freigegeben, und welche Daten darf das Team dort verarbeiten? Wer prüft welche Ergebnisse, und wie?
Eine besondere Rolle spielen erfahrene Mitarbeitende, die fachliche Anforderungen, typische Fehlerbilder und praktische Ausnahmen kennen. Anders als pauschale Ablehnung kann begründete Skepsis helfen, Schwachstellen früh zu erkennen und Prüfroutinen zu entwickeln.
Wie viel KI zu Recherche, Dokumentation und Auswertung im Labor beiträgt, hängt davon ab, wie gut Aufgabe, Daten, System und Kontrollen zusammenpassen. KI-Kompetenz befähigt Mitarbeitende, diese Voraussetzungen zu beurteilen und Ergebnisse mit der für ihre Aufgabe nötigen Sorgfalt zu verwenden.