Wie wir die Kontrolle über die KI behalten

Tatsächlich werden die wenigsten ein realistisches Bild von KI haben. Jörg Resch, Innovationsmanager bei der Bundesagentur für Sprunginnovationen (SPRIND), zeigte auf der Jahreshauptversammlung des BDVI NRW in einem überaus zündenden Vortrag dem Publikum auf, was auf uns zukommt: Danach ist sie noch lange nicht bei uns angekommen, wir stecken nicht etwa mittendrin, sondern kratzen gerade erst an der Oberfläche. KI wird die menschliche Tätigkeit in vielen Bereichen schlichtweg ersetzen, unsere Produktion und unser Zusammenleben ganz maßgeblich verändern. Gleichzeitig hat KI Limitationen und es wird Bereiche geben, die durch KI nicht berührt werden. Gerade auch im Ingenieurbereich wird es spannend, inwieweit der Mensch tatsächlich steuernder Bestandteil der Schleife bleibt (Human in the Loop) oder durch vollständig autonome Systeme ersetzt werden kann (Human ON the Loop).

Was meint denn die KI selbst dazu? Der Autor hat sie gefragt. Hier ein Auszug aus dem Dialog mit Google Gemini:

Frage: Wie wird KI künftig die Ingenieurtätigkeit verändern?

Gemini: Der Einsatz von Künstlicher Intelligenz (KI) ermöglicht Ingenieurbüros künftig hochgradig automatisierte, datengesteuerte Prozesse. Für Ingenieure liegt der größte Hebel nicht im Ersetzen von Fachwissen, sondern in der massiven Beschleunigung repetitiver Berechnungs- und Prüfaufgaben. Die wichtigsten Anwendungsfelder werden sein:

• Generatives Design und Optimierung: Anstatt manuell verschiedene Varianten zu zeichnen, gibt der Ingenieur Randparameter (Lasten, Material, Bauraum) vor, und die KI be rechnet tausende optimale Entwürfe.
• Im Bauwesen: Analyse komplexer Datenmodelle (Building Information Modeling), um Fehler frühzeitig zu finden, Einhaltung von Normen und potenzielle Schwachstellen zu markieren oder den Verschleiß von Bauteilen basierend auf Sensordaten vorherzusagen.
• Simulation und Digital Twins: drastische Beschleunigung physikalischer Simulationen. Anstatt eine komplexe Strömungssimulation stundenlang berechnen zu lassen, liefert ein KI-Modell, das mit alten Simulationsdaten trainiert wurde, Ergebnisse in Echtzeit bei fast gleicher Genauigkeit.
• Last not least: Automatisierung des Büroalltags.

Frage: Oft heißt es ja, die aktuelle KI-Revolution basiere gar nicht auf genialer neuer Mathematik, sondern im Kern „nur“ auf extrem komplexer, hochskalierter Statistik in Form von neuronalen Netzen. Eine Black Box eben, keiner versteht, warum das funktioniert. Was ja auch genau das Problem ist.

Gemini: Das ist ein sehr treffender Punkt, der das aktuelle Dilemma wunderbar zusammenfasst: Ja, mathematisch gesehen kochen diese Modelle im Grunde nur mit Wasser. Es ist lineare Algebra und Wahrscheinlichkeitsrechnung auf Steroiden. Und ja, das "Black Box"-Problem ist eine der größten technologischen Herausforderungen unserer Zeit. Wir wissen zwar exakt, wie die Mathematik dahinter funktioniert, aber bei Modellen mit Millionen oder Milliarden von Parametern lässt sich oft nicht mehr im Detail nachvollziehen, warum genau eine bestimmte Entscheidung getroffen wurde. Dass wir diese Intransparenz aktuell trotzdem in Kauf nehmen, liegt schlicht an den Ergebnissen. Klassische, transparente Algorithmen stoßen an ihre Grenzen. Wenn wir aber von den großen, disruptiven Sprüngen sprechen, dann ist genau diese hochskalierte Statistik – das Deep Learning – der eigentliche Treiber. Vor allem im Ingenieurwesen stehen wir vor drei gewaltigen Durchbrüchen:

• Physics-Informed Neural Networks (PINNs): Forscher trainieren neuronale Netze so, dass sie die physikalischen Grundgesetze (wie Massen- oder Energieerhaltung) quasi "kennen". Diese PINNs können extrem komplexe Simulationen in Bruchteilen einer Sekunde vorhersagen.
• Generative KI (Von der Idee direkt zum CAD-Modell): Große neuronale Netze, die mit Millionen von existierenden Bauteilen und physikalischen Daten trainiert wurden, können aus Anforderungen fertige, hochkomplexe und völlig neu artige 3D-Modelle generieren.
• Maschinelles Sehen und kognitive Robotik (Computer Vision): Die Fähigkeit von Computern, ihre Umgebung über Kameras und Lidar-Sensoren zu "verstehen", basiert fast ausschließlich auf speziellen neuronalen Netzen (Convolutional Neural Networks, CNNs).

The Belly of The Beast: Neuronale Netze

Um diese "Black Box" aber zumindest ein Stück weit zu entzaubern und zu begreifen, wie simple Statistik plötzlich physikalische Gesetze simulieren kann, lohnt sich ein Blick unter die Haube: Wie genau lernen und funktionieren diese neuronalen Netze eigentlich?

Ein neuronales Netz ist ein Algorithmus, der von der Funktionsweise unseres Gehirns inspiriert wurde. Das Netz besteht aus Millionen oder gar Milliarden kleinen Rechenknoten, die man Neuronen nennt. Diese Neuronen sind in Schichten angeordnet. Wenn jedes Neuron mit jedem Neuron der oben oder unten liegenden Schicht verbunden ist, spricht man von „Dense Layers“ – manchmal gibt es aber auch nur Verbindungen zu einer Untermenge dieser Neuronen.

Die Funktionsweise der Neuronen ist simpel: Das Neuron erhält von allen oberhalb mit ihm verbundenen Neuronen jeweils einen reellen Zahlenwert. Jeder Verbindung ist ein Gewicht zugeordnet. Das Neuron multipliziert diese Zahl mit dem jeweiligen Verbindungsgewicht, summiert alle Produkte, addiert eine Konstante (den Bias), wendet dann noch eine sogenannte Aktivierungsfunktion an (um komplexe, nicht-lineare Zusammenhänge lernen zu können) und schickt diesen Wert an alle nachgelagerten verbundenen Neuronen weiter.

Die erste und die letzte Schicht des Netzes sind von besonderer Bedeutung. Den Anfang macht die Eingabeschicht (Input Layer): Hier werden dem Netz die Rohdaten übergeben, wie etwa die einzelnen Pixel eines Röntgenbildes. Dazwischen befinden sich die sogenannten Hidden Layers, quasi das „Gehirn“ des neuronalen Netzes. In diesen verborgenen Schichten verarbeiten die Neuronen die Informationen und reichen sie Schritt für Schritt weiter. Je mehr dieser Schichten existieren, desto „tiefer“ ist das Netz – daher stammt auch der Begriff Deep Learning. Den Abschluss bildet die Ausgabeschicht (Output Layer): Hier liefert das Netz sein Endergebnis, welches das Resultat aus Millionen verketteter Multiplikationen und Additionen ist.

Ohne Training geht es nicht

Das praktische Problem beim Training von neuronalen Netzen besteht darin, die entsprechenden Zahlenwerte für die Eingabe- und Ausgabeschicht zu bestimmen. Die Aufgabe besteht letztlich darin, die Merkmale der Phänomene, die man behandeln - oder berechnen will - zu digitalisieren. Manchmal ist das einfach und intuitiv, zum Beispiel eben die Farbwerte eines digitalen Fotos, in anderen Fällen ist das komplizierter. Um beispielsweise komplexe chemische Moleküle zu digitalisieren, etwa um Materialeigenschaften berechnen zu können, müssen die Atombindungen, die räumlichen Winkel und physikalischen Kräfte – letztlich also die komplexe dreidimensionale Struktur der Chemie – zunächst in abstrakte mathematische Graphen und Beziehungsmatrizen übersetzt werden, bevor der Inputlayer befüllt werden kann. In ähnlicher Weise gilt das auch für den Outputlayer.

Zu Beginn des Trainings hat man also zwei umfangreiche Schichten von Zahlen, dazwischen eine umfangreiche Rechenmaschine, die zunächst nichts Sinnvolles berechnen wird. Jedoch: Da auch die Ausgabephänomene digitalisiert sind, kann man den Fehler quantisieren und versuchen, ihn durch Optimierung der Gewichte zu minimieren. Das Zusammenspiel aus Fehlerberechnung und schrittweiser Anpassung (die sogenannte “Backpropagation”) ist der eigentliche “Deus ex machina” der neuronalen Netze: Schritt für Schritt, mit jedem Durchlauf werden die Gewichte der neuronalen Verbindungen optimiert, bis der Unterschied zwischen Soll (den wahren digitalen Merkmalen der Trainingsdaten) und Ist (dem vom Netz berechneten Outputlayer) minimal wird. Das ist durchaus aufwändig; ein stabiles Er gebnis benötigt umfassende Rechenleistung und vor allem gigantische Mengen an Trainingsdaten.

Im Ergebnis erhält man ein System, das die Merkmale eines Phänomens auf die eines anderen überträgt. Dies gelingt, ohne dafür explizite Formeln aufstellen oder die tieferen Zusammenhänge vollständig begreifen zu müssen. Man muss die Natur dieses Modells jedoch richtig einordnen: Die Zuordnung ist nicht deterministisch. Vielmehr bildet das neuronale Netz statistische Wahrscheinlichkeiten ab. Es sagt aus: „Wenn diese spezifischen Eingabewerte vorliegen, sind jene Ausgabewerte am wahrscheinlichsten.“ Das Resultat wird also nicht im klassischen Sinne berechnet, sondern ist das Ergebnis einer hochkomplexen Wahrscheinlichkeitsrechnung.

Obwohl diese Technologie prinzipiell auch für Ingenieurbüros prädestiniert wäre, sind echte, maßgeschneiderte KIs in Ingenieurbüros noch kaum angekommen. Der Grund dafür ist schlichtweg ökonomischer Natur: Das Training tiefgreifender, spezialisierter Modelle verschlingt immense Summen. Die TechIndustrie konzentriert ihre Milliardeninvestitionen daher fast ausschließlich auf Entwicklungen, die einem Massenpublikum nützen. Ein Modell, das Millionen von Alltagsnutzern ein wenig hilft, ist wirtschaftlich schlicht interessanter als eines, das einer kleinen Expertengruppe enorm hilft. Ausnahmen bestätigen auch hier die Regel: Wo ein lukratives Geschäftsmodell sichtbar ist – wie beispielsweise bei spezialisierten KI-Anwendungen für Anwaltskanzleien –, finden durchaus fachspezifische Entwicklungen statt.

Für den Ingenieur und seinen Alltag bedeutet das: Wir greifen auf das zurück, was der Markt uns aktuell auf dem Silber tablett serviert – die universellen, textbasierten Large Language Models (LLMs) – und versuchen, diese für unsere Fachaufgaben einzuspannen.

“Ich bin kein Taschenrechner!”

Zunächst funktioniert das auch hervorragend. Wir setzen die KI für alles Mögliche ein: Sie wertet E-Mails aus, formuliert Briefe, strukturiert Protokolle und agiert als brillantes Helferlein im organisatorischen Büroalltag. Davon beflügelt wagen wir uns einen Schritt weiter und lassen das Modell „mal eben“ eine schwierige, fachspezifische Aufgabe lösen. Doch an diesem Punkt ist die Gefahr groß, das Werkzeug zu überfordern. Ein Schweizer Taschenmesser ist zwar genial und vielseitig, aber für die Reparatur einer Elektronikplatine eben schlichtweg nicht gemacht. 

Tatsächlich ist die Versuchung groß, KI-Modelle außerhalb ihrer Einsatzbereiche zu benutzen. Googles Gemini zum Beispiel kann einen solchen Prompt korrekt umsetzen: “Erstelle mir das 3D-Modell eines Einfamilienhauses im CityJSON-Format. Das Haus soll in Westrichtung 12m lang sein, in Nordrichtung 9m, eingeschossig (3m), und ein Satteldach mit 30° Dachschräge in Ost-Westrichtung haben.“ Ein paar Augenblicke später, kann man eine Datei im CityJSON-Format herunterladen. Das Modell entspricht vollständig der Beschreibung.

Auch der Prompt: "Berechne für dieses Modell die Abstandsflächen!” wird beantwortet. Es dauert zwar deutlich länger, aber zum guten Schluss gibt Google eine detaillierte, völlig korrekte Abstandsflächenberechnung zurück. Dieses ermutigende Ergebnis führte beim Autor dieser Zeilen dazu, immer weitere Ergänzungen und Sonderfälle auszuprobieren. Nach einem positiven Start kam jedoch die große Enttäuschung, weil eben auch Modelle mit teilweise grotesken Fehlern geliefert wurden, beispielsweise auf dem Dach stehende Dächer. Bemühungen, die Prompts zu erweitern, um sie zu verbessern, führten nicht zum Ergebnis und auf die frustrierte Frage, warum das nicht besser ginge, antwortete Gemini dann irgendwann: “Ich bin kein Taschenrechner”. Das ist der springende Punkt: Für ein Sprachmodell ist zwei plus zwei nicht vier, sondern lediglich „höchstwahrscheinlich vier“. Ein Irrtum ist also nur eine Frage der Zeit.

“Was meinst Du eigentlich?”

Statt die KI also Dinge berechnen zu lassen, die sie nicht kann, müssen wir uns auf ihre Kernaufgabe konzentrieren und sie dazu nutzen, den Anwender zu fragen, was er eigentlich will – und zwar im wörtlichen Sinne.

Um den Nutzen von LLMs zu realisieren, muss man sich auf ihre Kernkompetenz besinnen: die Verarbeitung von Sprache. Und tatsächlich glänzen LLM bei der Überführung unpräziser sprachlicher Beschreibungen in valide Datenstrukturen. Die unmittelbare Erzeugung von 3D-Modellen bewegt sich eher am Rande der Fähigkeiten. Ungenaue oder unvollständige Beschreibungen führen oft zu unbrauchbaren Ergebnissen. Die Vieldeutigkeit der Alltagssprache verhindert die Präzision. Die Lösung besteht nun nicht darin, eine graphische Benutzungsoberfläche mit einem unübersichtlichen Formular zu entwerfen und den Anwender dazu zu zwingen, es auszufüllen. Stattdessen kann man LLMs hervorragend dazu nutzen, um normale Sprache auf die Attribute eines Datenmodells zu mappen, die KI also für die Transformation von Umgangssprache in eine vordefinierte Struktur einzusetzen. LLMs sind bei dieser Art von Transformation - dem Entity Extraction und Mapping – extrem zuverlässig. Dies aus folgenden Gründen:

1. Semantisches Verständnis: Ein LLM „versteht“ Konzepte. Es “weiß”, dass die Formulierungen wie „Höhe: 3m“ oder „es ist ein drei Meter hohes Gebäude“ semantisch exakt dasselbe bedeuten. Es kann diese Bedeutung zuverlässig auf den Parameter “Gebäudehöhe = 3.0” mappen.
2. "Bilinguale” Trainingsdaten: LLMs wurden nicht nur mit Prosa trainiert, sondern auch mit Programmcode, Datenbanken und strukturierten Formaten wie JSON oder XML. Das macht sie zu perfekten Übersetzern zwischen diesen Welten.
3. Robustheit: Ein Formular wirft einen Fehler, wenn der Nutzer Text in ein Zahlenfeld eintippt. Ein LLM bereinigt Tippfehler, erkennt Einheiten, rechnet diese bei Bedarf sogar um (z. B. Zentimeter in Meter) und normiert die Eingabe auf das gewünschte Datenformat.
4. Fokussierung neutralisiert Halluzinationen: Das größte Problem von KI – das Halluzinieren – tritt vor allem dann auf, wenn das Modell frei und kreativ Texte generieren soll. Beim Mapping auf ein strenges Datenmodell wird der Möglichkeitsraum der KI radikal eingeschränkt. Die Anweisung lautet nicht mehr „Denk dir ein Haus aus“, sondern „Lies diesen Text und befülle ausschließlich diese fünf vorgegebenen Felder“. Durch diesen starken Fokus steigt die Zuverlässigkeit und Präzision der Ausgabe erheblich an.

Diese Technik gewinnt im KI-Kontext zunehmend an Bedeutung, da sie die stochastischen, oft unstrukturierten Textausgaben der Sprachmodelle in zwingende, typisierte und verlässliche Formate überführt. Es lässt sich automatisiert prüfen, ob Angaben vollständig, normgerecht oder widerspruchsfrei sind. Fehlende Parameter werden so identifiziert, bevor die eigentliche Verarbeitung beginnt.

Im Ergebnis erhält man validierte Datenmodelle. Und da die Eingabedaten nun eine eindeutige Semantik besitzen, erfolgen nachfolgende Berechnungen des Modells streng deterministisch. Die statistische Wahrscheinlichkeit der KI-Antwort liegt alleine in der Extraktion von Informationen, während die Berechnungen selbst auf erprobten Algorithmen beruhen. Hier erreichen wir das nächste große Einsatzgebiet von LLMs: die Herstellung von Programmcode.

“Schreib mir ein Skript!”

Tatsächlich haben LLMs hier leichtes Spiel: Programmiersprachen basieren auf strikten Regeln und starker Formalisierung. Und da die Modelle mit gigantischen Mengen an frei verfügbarem Code trainiert wurden, sind die Ergebnisse schlichtweg erstaunlich. Der Ingenieur muss sein fachliches Problem nur noch logisch strukturieren und beschreiben, das LLM liefert ihm den Programmcode.

Die praktischen Anwendungen sind vielfältig:

• Datenschnittstellen: Ein Skript kann die unformatierten Exportdaten von Programm A einlesen, sortieren und exakt in das erforderliche Importformat von Programm B übersetzen.
• Datenaufbereitung und Fehlerbereinigung: Messreihen aus Sensoren liegen häufig als unstrukturierter Text vor. KI-generierter Code filtert die gesuchten Werte heraus, entfernt Messfehler und überführt die Daten in Tabellen.
• Automatisierung: Fast jede moderne Software verfügt über Programmierschnittstellen (APIs). Statt Informationen händisch zu erzeugen, schreibt KI ein Skript, das beispielsweise in einem CAD-System hunderte Bauteilparameter aktualisiert. Hier ist die KI optimal eingesetzt; sie übernimmt nicht die Rechenarbeit. Sie schreibt lediglich die Anweisungen, mit denen die Fach-Software dann tatsächlich rechnen kann.

RAG: Der „Zwerg Allwissend“ im System

Retrieval-Augmented Generation (RAG) ist eine hocheffektive Technik, um die Freiheitsgrade einer KI gezielt einzuschränken und sie so an der Erfindung von Fakten – den berüchtigten Halluzinationen – zu hindern. Das Prinzip ist simpel, aber wirkungsvoll: Wir stellen der KI eine externe Bibliothek zur Verfügung und geben ihr die strikte Anweisung, zunächst in diesen Unterlagen nachzuschlagen, bevor sie Informationen aus ihrem eigenen „Gedächtnis“ (dem antrainierten Wissen des neuronalen Netzes) verwendet.

Wir entziehen der KI damit die Erlaubnis, Antworten allein auf Basis statistischer Wahrscheinlichkeiten zu geben. Stattdessen wird sie „geerdet“ (Grounding). Die Anweisung lautet: „Beantworte die Frage ausschließlich auf Basis der bereitgestellten Bibliothek. Wenn die Information dort nicht zu finden ist, gib dies offen zu.“

Der entscheidende technologische Kniff liegt in der Art der Speicherung. In der zugehörigen Datenbank werden nicht bloße Textbausteine (Tokens) abgelegt, sondern deren mathematische Repräsentationen: die sogenannten Embeddings. Da geschieht wie folgt:

1. Chunking: Der Text wird in handliche Abschnitte (Chunks) zerlegt.
2. Vektorisierung: Ein spezieller Algorithmus analysiert jeden Abschnitt und weist ihm einen Koordinatenpunkt in einem hochdimensionalen Raum zu (oft mit 1.536 Dimensionen oder mehr).
3. Verortung durch Semantische Nähe: Der Clou ist, dass diese Koordinaten die Bedeutung widerspiegeln. LLMs sind prädestiniert dafür, semantische Zusammenhänge zu erkennen. Begriffe wie „Gehälter“, „Bezüge“ oder „Entlohnung“ landen in diesem mathematischen Raum ganz nah beieinander und erhalten somit ähnliche Koordinaten.
4. Retrieval: Wenn das RAG-System eine Frage erhält, wird auch diese in einen semantischen Vektor übersetzt. Das System berechnet dann schlicht den mathematischen Abstand zwischen dem „Frage-Vektor“ und den „Wissens-Vektoren“ in der Datenbank. Die drei bis fünf Abschnitte mit dem geringsten Abstand werden herausgezogen – auch wenn das exakte Suchwort gar nicht im Text vor kommt. Erst danach wird die Sprachfähigkeit der KI genutzt, um aus diesen gefundenen Fakten eine saubere Antwort zu formulieren.

Für den professionellen Einsatz ist RAG der Gamechanger, weil es die KI von einer unberechenbaren Black Box in ein nachvollziehbares Werkzeug verwandelt. Die KI kann präzise Fußnoten setzen (z. B. „Dokument A, Seite 4“). Dies ist für die Nachprüfbarkeit - und damit für die Übernahme von Haftung - unverzichtbar. Darüber kann man RAG-Datenbanken aktuell halten. Ein neuronales Netz ist nach seinem Training „eingefroren“. Es für neues Wissen neu zu trainieren, wäre sehr, sehr teuer. Bei RAG wird einfach das neueste PDF in die Vektordatenbank hochgeladen – und die KI weiß Bescheid. Die RAG-Datenbank fungiert somit als ideales externes Langzeitgedächtnis, während die KI lediglich als intelligentes Interface dient, welches dieses Wissen liest, interpretiert und für uns aufbereitet.

Die Königsklasse: KI-Agenten

Ein weiterer Ansatz, den „Black Box“-Charakter von KI-Systemen aufzubrechen und ein Mindestmaß an Kontrolle und Ver trauen herzustellen, sind agentische KI-Systeme. Im Wesentlichen handelt es sich hierbei um Systeme, mit denen komplexe Prozessketten aufgebaut und abgewickelt werden können. Im Ingenieurbereich greifen diese Agenten auf hochspezialisierte, klassische Software-Tools zurück. Jedes dieser Werkzeuge ist deterministisch: Das bedeutet, bei gleichem Input liefert es zwingend immer das gleiche, mathematisch exakte Ergebnis. Der KI-Agent entscheidet situationsbedingt, welches Werkzeug er wann einsetzt. Dazu überprüft er die Ein- und Ausgabewerte der Software-Tools, die über strikte Schnittstellen definiert sind. Über ein sogenanntes Quality Gate wird festgelegt, welche Eigenschaften und Werte (Attribute) ein Zwischenergebnis aufweisen muss, damit es für den nächsten Prozessschritt zugelassen wird. Kann das Ergebnis eines Werkzeugs das Quality Gate nicht passieren, erkennt der Agent dies als Qualitätsmangel. Er wird den Prozess nicht blind fortsetzen, sondern autonom ver suchen, das Problem zu beseitigen – zum Beispiel durch die Änderung von Parametern oder, als Ultima Ratio, indem er den Menschen um Hilfe bittet.

Eine solche Steuerung wäre theoretisch auch mit klassischer Programmierung möglich. Der entscheidende Vorteil des Agenten ist jedoch seine Fähigkeit zum Reasoning (logisches Schlussfolgern) in unvorhergesehenen Situationen. Ein klassisches Programm ist starr: Erfüllen die Eingangsdaten nicht exakt die Norm, bricht es mit einer Fehlermeldung ab. Der KI-Agent hingegen kann die Fehlermeldung eines Werkzeugs semantisch analysieren. Er kann die Ursache des Problems verstehen und alternative Strategien entwickeln, um das Ziel dennoch zu erreichen. Er navigiert flexibel durch den Prozess, bleibt dabei aber immer an die harten Leitplanken der deterministischen Werkzeuge gebunden. Der Agent nutzt die Vielseitigkeit und Variabilität der Sprachmodelle also dazu, das System zu steuern – nicht dazu, die fachlichen Ergebnisse selbst zu erzeugen. Es gibt ein wichtiges Aber: KI-Agenten entfalten ihr Potenzial nur in einem echten, tiefgreifend digitalen Umfeld. Ein einfaches PDF ist hierfür schlichtweg nicht digital genug. Um eine verlässliche automatisierte Steuerung über Quality Gates zu ermöglichen, bedarf es nicht bloß digitaler, sondern strukturierter Daten – untrennbar verknüpft mit einem aussagekräftigen Qualitätsmodell.

Genau an diesem Anspruch scheitern derzeit noch viele Abläufe in der Praxis. Es wird zwar vielfach bereits mit digitalen Dokumenten gearbeitet, doch die Entscheidung über deren automatisierte Weiterverarbeitung systematisch an messbare Datenqualitäten zu knüpfen, ist ein weiterer, anspruchsvoller Schritt. Dieser notwendige organisatorische Aufwand wurde in vielen bestehenden Prozessen bislang noch nicht geleistet.

Zum guten Schluss

Obwohl neuronale Netze eine Revolution antreiben, haben sie eine große Schwachstelle: Sie liefern Wahrscheinlichkeiten, keine mathematischen Beweise. Wenn ein Ingenieur aber eine Brücke baut, muss er die Verantwortung für die Standfestigkeit übernehmen. Hier liegt die große Herausforderung für den Einsatz der KI im Ingenieurbereich: Der Ingenieur darf sich niemals auf das Argument zurückziehen, die KI habe sich halt geirrt. Die Gefahren sind evident: Selbst erfahrene Fachleute neigen dazu, zuverlässig erscheinenden Systemen blind zu vertrauen – selbst wenn diese Fehler machen (Automation Bias). Je „schwärzer“ die Black Box, desto weniger werden die Ergebnisse durch eigene Abschätzungen plausibilisiert. Hinzu kommt eine tückische Eigenschaft moderner Sprachmodelle: Sie sind durch ihr Training (das sogenannte Alignment) extrem darauf getrimmt, „hilfreich“ zu sein und dem Nutzer zuzustimmen. Diese systembedingte Gefälligkeit ist gefährlich, denn die Algorithmen klingen selbst bei groben fachlichen Fehlern hochgradig überzeugend und selbstsicher. Das verleitet dazu, die eigene kritische Distanz aufzugeben.

Wer also der KI die Erstellung von Plänen oder von Code übergibt, muss die Ergebnisse kontrollieren können. Im klassischen Verständnis bedeutet das: Der Prüfende weiß mehr als das System, das er kontrolliert. Das ist bei KI jedoch zunehmend eine Illusion; schon jetzt „wissen“ große Sprachmodelle in der Breite mehr als jeder sie benutzende Fachmann, und die technische Entwicklung schreitet rasant voran. Wenn aber in Zukunft nur noch derjenige Ingenieur KI nutzen darf, der ein überlegenes Faktenwissen besitzt, darf bald niemand mehr KI nutzen. Das ist keine praktikable Lösung. Sie kann nur darin bestehen, die Kernkompetenz des Ingenieurs vom reinen Faktenwissen hin zur Methoden- und Systemkompetenz zu verlagern. Es ist zwingend erforderlich, die Nutzung von KI mit einem umfassenden Qualitätssicherungskonzept zu verbinden. Einzelergebnisse müssen isoliert, dokumentiert und methodisch bewertet werden, um auf diese Art die Stabilität der gesamten Ergebniskette sicherzustellen. Die deterministischen Quality Gates der agentischen Systeme zeigen die Richtung bereits an.

Fazit: Der Ingenieur muss am Ende das Systemdesign und die Leitplanken verantworten, in denen sich die KI bewegt. Wenn das gelingt, kann der „Human in the Loop” der wichtigste Bestandteil der KI-Revolution bleiben.