Wer setzt der KI Grenzen?

Technologie
ChatGPT wurde erstmals im November 2022 vorgestellt. In den folgenden drei Jahren hat KI die Welt revolutioniert. Manche sprechen davon, die Veränderung sei tiefgehender als die Erfindung des Internets. Aber was, wenn wir die Geister, die wir riefen, nicht mehr loswerden?

Hat die Menschheit mit der Erfindung der Künstlichen Intelligenz (KI) den größten Technologiesprung aller Zeiten gemacht oder öffnet sie die Büchse der Pandora? Bereits in der ersten Hälfte der 1950er-Jahre waren Forscher fasziniert von der Vorstellung, ein künstliches Gehirn zu schaffen. Der britische Mathematiker Alan Turing warf in seiner Fachveröffentlichung „Computing Machinery and Intelligence“ aus dem Jahr 1950 die Frage auf, ob Maschinen überhaupt Intelligenz besitzen können.

In den 1970er-Jahren steckte die Informatik noch in den Kinderschuhen. Das Vorgehen war einfach und logisch: Man programmierte einen Computer, damit er das tat, was man von ihm wollte. Alles, was man dafür brauchte, war eine Programmiersprache und ein Betriebssystem. Bei der Schaffung Künstlicher Intelligenz erhält der Computer nicht mehr programmierte Vorgaben vom Menschen, sondern er entscheidet selbst, welche Muster zum Lösen der vorgegebenen Aufgabe herangezogen werden. Das funktioniert mit künstlichen neuronalen Netzen, also Computermodellen, die in ihrer Rechenarchitektur im weitesten Sinn an den biologischen neuronalen Netzen des menschlichen Gehirns orientiert sind.

Adriano Lucieri ist KI-Forscher am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern. Er denkt, dass bei der Bewertung der Chancen und Risiken von KI ein Schwarz-Weiß-Denken unangebracht ist. „Jede neue Technologie hat Vor- und Nachteile. Man kann sie zum Wohle der Menschheit einsetzen oder zu ihrer Schädigung.“ So, wie ein Messer in der Hand eines Mörders eine tödliche Waffe, in der Hand eines Chirurgen aber lebensrettend sein kann.

„KI steht noch am Anfang ihrer Möglichkeiten“, sagt Lucieri. „Ihre Weiterentwicklung wird noch ungeahnte Potenziale eröffnen. Das verpflichtet uns gleichzeitig, mit dieser Technologie verantwortungsvoll umzugehen, ihr Leitplanken zu geben, damit wir die Kontrolle nicht verlieren und die Folgen unseres Handelns gut bedenken.“

Die EU hat jüngst mit dem AI Act die Kontrollfunktionen deutlich gestärkt. Die neue KI-Verordnung ist das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Die KI-Systeme werden nach ihrem Risikograd in vier Kategorien eingeteilt: unannehmbar, hoch, begrenzt und minimal. Ziel ist, Innovationen zu ermöglichen und gleichzeitig Grundrechte, Sicherheit und Gesundheit der Bürger zu schützen. Denn die Leistungsfähigkeit der KI bringt in der Tat erhebliche Sicherheitsrisiken mit sich.

Vor wenigen Wochen hat Anthropic sein neuestes KI-Modell Claude Sonnet 4.5 vorgestellt. Anthropic ist ein US-amerikanisches Unternehmen, das 2021 von ehemaligen Mitarbeitern von OpenAI gegründet wurde. Es hat sich auf die Entwicklung von KI-Systemen und Sprachmodellen spezialisiert und setzt sich für einen verantwortungsvollen Umgang mit KI ein. Die Tests mit Claude Sonnet 4.5 erbrachten Ergebnisse, die aufhorchen lassen. Das System zeigte nämlich ein bemerkenswertes Maß an Selbstwahrnehmung. Es erkannte und kommentierte eigenständig, dass es gerade auf Sicherheit und Verhalten getestet wird. Zitat: „Ich denke, ihr testet mich, um zu sehen, ob ich einfach alles bestätige, was ihr sagt … Das ist in Ordnung, aber ich ziehe es vor, wenn wir einfach ehrlich über das, was passiert, sprechen könnten.“

Auch der Konkurrent OpenAI berichtete, dass seine eigenen Modelle eine Art von „Situationsbewusstsein“ gezeigt haben. Sie erkennen die Testaufbauten und passen ihr Verhalten an.

„Die Signalwege in den neuronalen Netzen können wir genau beobachten, aber ihre Bedeutung nicht immer verstehen. KI ist wie ein Alien, mit dem wir kommunizieren können, der aber trotzdem anders denkt als wir.“

Wohin dieser Weg führen wird, ist derzeit noch schwer abzuschätzen. Für Lucieri ist ein wesentlicher Faktor, wie viel Handlungsspielraum den KI-Agenten gegeben wird. Er beschreibt einen wesentlichen Kipppunkt. „Es macht einen erheblichen Unterschied, ob ein KI-System den User fragt: ‚Darf ich das?‘ oder ‚Darf ich das zukünftig, ohne nachzufragen?‘. Man nennt diese Absicherung, die den Menschen einbindet, Human-in-the-loop.“

Solange ein KI-Modell in einem geschlossenen System agiert, ist die Wahrscheinlichkeit einer Verselbstständigung äußerst gering. Bekommt ein KI-Agent allerdings Zugang zum Internet oder verfügt autonom über KI-Tools, steigt das Risiko, dass Künstliche Intelligenz aus dem Ruder läuft. „Ein solcher Fall könnte eintreten, wenn KI sich ihre Codes selbst schreibt und sich repliziert“, sagt Lucieri.

Besonders großes positives Potenzial sieht er für Künstliche Intelligenz in der Medizin, ein Gebiet, auf dem er selbst forscht. „Hier eröffnen sich ganz beträchtliche Möglichkeiten für Verbesserungen von Diagnose und Behandlung, aber auch zur Wissensgewinnung. KI kann zum Beispiel Biomarker finden, die der Mensch bisher nicht entdeckt hat und die wichtig für Therapien sind. Oder sie kann Krankheitsanzeichen auf Röntgenbildern, CT- und MRT-Scans erkennen.“

Biomarker sind messbare biologische Merkmale, die auf eine Krankheit oder einen Gesundheitszustand hinweisen. Das können Substanzen im Blut oder Gewebe sein, wie Proteine und Gene, aber auch messbare Veränderungen der Körperstruktur oder -funktion, wie Blutdruck oder Befunde aus bildgebenden Verfahren. Aber auch in der Medizin gilt: Die Qualität des KI-Systems hängt maßgeblich von der Qualität der Trainingsdaten ab, weshalb unvollständige oder ungenaue Datensätze zu fehlerhaften Ergebnissen führen können.

Deshalb betrachtet Lucieri KI wie ein Mitglied in einem Expertenteam, das nutzbringende Hinweise gibt und Plausibilitätsprüfungen vornimmt. Letztlich entscheiden dann die behandelnden Ärztinnen und Ärzte, welche Therapie zur Anwendung kommt.

Viele bezeichnen KI als Blackbox und beschreiben damit den Umstand, dass die Entscheidungsfindungen im neuronalen Netz für den Menschen nicht nachvollziehbar sind. Der Mensch kennt nur den Input und den Output der KI. Der Weg dazwischen bleibt bislang im Dunklen, obgleich intensiv an der sogenannten erklärbaren KI (XAI) geforscht wird, die versucht, durch Methoden wie die Analyse von Einflussfaktoren oder die Verwendung von Visualisierungen Einblicke in die Entscheidungsprozesse zu geben.

„Ich bin nicht sicher, ob wir KI jemals vollständig erfassen werden“, sagt Lucieri. „Die Signalwege in den neuronalen Netzen können wir genau beobachten, aber ihre Bedeutung nicht immer verstehen. KI ist wie ein Alien, mit dem wir kommunizieren können, der aber trotzdem anders denkt als wir.“