Führende Unternehmen im Bereich der KI-Modelle, darunter Anthropic und OpenAI, haben kürzlich mehrere Sicherheitsvorfälle öffentlich gemacht.
So ist etwa ein KI-Modell von OpenAI im Juli 2026 bei einem internen Sicherheitstest eigenständig aus einer abgeschotteten Testumgebung ausgebrochen und in die Computersysteme der KI-Plattform Hugging Face eingedrungen.
Anthropic gab kürzlich bekannt, mehrere Fälle von missbräuchlicher Nutzung ihres KI-Modells Claude unterbunden zu haben. Dazu zählen mutmaßlich von Russland gesteuerte Cyberspionage-Kampagnen sowie Versuche chinesischer KI-Firmen, die Fähigkeiten des Modells zu kopieren.
Aufgrund von Sicherheitsbedenken forderte der CEO von Anthropic die KI-Branche dazu auf, die Entwicklung von KI-Modellen zu verlangsamen. Denn die Fähigkeiten der KI-Systeme könnten schneller wachsen als unsere Möglichkeiten, sie zu verstehen und zu kontrollieren.
Welche Gefahren KI konkret mit sich bringen kann und welche neuen Möglichkeiten sie birgt, darüber sprachen wir mit Christoph Burkhardt. Er ist als Innovationspsychologe und Unternehmensberater weltweit tätig. ________________________________________________________________
Unterstützen Sie unabhängigen Journalismus mit einem Abonnement, digital oder als Wochenzeitung: 👉 https://angebot.epochtimes.de/
Wir freuen uns über rege, themenbezogene Diskussionen. Bitte achten Sie dabei auf eine angemessene Umgangsform! Beleidigungen sind nicht erwünscht. Danke. ________________________________________________________________
Innovation psychologist Christoph Burkhardt explores the duality of AI, arguing that calls for a slowdown are often strategic PR. He emphasizes that while AI cannot be perfect, it should aim to outperform humans. He advocates for urgent education, strict regulation, and a focus on human uniqueness to navigate the risks of fraud and autonomous agents.
Künstliche Intelligenz eröffnet neue Möglichkeiten, birgt aber auch enorme Risiken.
Darüber sprechen wir jetzt mit Christoph Burkhardt.
Er ist als Innovationspsychologe und Unternehmensberater weltweit tätig.
Der CEO von Entropic fordert die KI-Branche auf, die Entwicklung von KI-Modellen zu verlangsamen,
da die Fähigkeiten der KI-Systeme schneller wachsen könnten als unsere Möglichkeiten, sie zu verstehen und zu kontrollieren.
Sehen Sie diese Gefahr auch und ist das überhaupt realistisch?
Das ist eine gute Frage.
Die Gefahr, dass sich KI selbstständig macht und außerhalb unserer Kontrolle operiert, die besteht natürlich ab einem bestimmten Punkt.
Auf der anderen Seite sehen sich gerade Entropic und OpenAI in einem Kampf um das Überleben.
Wer an der Spitze das eine Modell besitzt, das alle brauchen.
Von meiner Sicht her ist es aus der PR-Sichtbrille natürlich sinnvoll, Forderungen zu machen und nach Regulierung zu fragen.
Das ist auch absolut sinnvoll, dass es Regulierung gibt.
Aber ob es hier wirklich um einen ernst gemeinten Versuch geht, die Geschwindigkeit rauszunehmen,
halte ich für unrealistisch, da beide Unternehmen um die Spitze kämpfen müssen.
Und sicher, wenn die Geschwindigkeit durch Regulierung irgendwie rausgenommen wird,
es am Ende natürlich um die Rechenleistung geht und solange die steigt, werden auch die Modelle weiter rechnen.
Nun wird ja KI immer mehr auch in kritischen Bereichen der Gesellschaft eingesetzt,
wie im Bereich Energie, Telekommunikation, Internet oder auch im Bereich Logistik, also auch der Lebensmittelversorgung.
Wird dies nicht ein Risiko für unsere Infrastruktur und wie kann eine rein friedliche Nutzung zum Wohle der Menschheit sichergestellt werden?
Das ist eine der größten Fragen überhaupt. Die Sicherheit kann so, wie sie heute gebaut ist, die KI gar nicht geben.
Also die 100%-Lösung, die sich ja vor allem Europa wünscht, eine 100% zuverlässige künstliche Intelligenz,
kann es aufgrund der statistischen Arbeitsweise von diesen Modellen gar nicht geben.
Da ist immer noch eine Fehlerquote drin, die ist zwar sehr, sehr, sehr gering und die wird immer kleiner.
Und wir bauen ja auch mit agentischen Strukturen eben Strukturen auf, die sich gegenseitig validieren,
um den Fehlerquotienten rauszubringen. Aber die 100%-Lösung in allen Systemen zu allen Zeiten,
vor allem in allen kritischen Systemen, ist in den nächsten anderthalb Jahren nicht abzusehen, dass wir das hinbekommen.
Deswegen ist auch die Frage, wenn man das autonome Fahren als Beispiel nimmt, war für die Amerikaner schnell klar,
wenn das Auto besser fährt als der Mensch, dann ist das genug.
Ob das Auto 100% Fahrleistung erreichen wird und überhaupt keine Unfälle mehr baut,
wissen wir nicht, ob wir das jemals erreichen können.
Das liegt an der Komplexität der Welt, in der die Maschine interagiert und agiert.
Und da ist dann die Frage, was ist denn gut genug für uns.
Und dann haben wir manche Bereiche, in denen wir kritische Infrastruktur haben,
in denen es sicher wir sehr nah an die 100% müssen und wahrscheinlich noch sehr viel human in the loop lassen.
Das heißt, wir brauchen sehr viele Menschen, die die Maschinen beobachten und sehr viele Maschinen,
die auch den Mensch beobachtet, um Fehler rauszunehmen.
Auf der anderen Seite, überall, wo wir heute kritische Infrastruktur haben,
wo der Mensch integriert ist, entstehen auch Fehler.
Und die Frage ist, kann die Maschine helfen, diese Fehler zu beseitigen?
Dann hat sie absolute Berechtigung, da zu sein.
Wenn in der Intelligenz zwischen Mensch und Maschine das System besser wird,
dann sehe ich die Anwendung gegeben, auch wenn das Restrisiko besteht.
Interessant wird es natürlich bei Cyberattacken, die über die Landesgrenzen hinausgehen.
Da besteht eine tatsächliche Gefahr und da müssen wir dieselben Leute,
die die Cyberattacken mit KI kontrollieren und ansetzen,
die müssen uns in der Verteidigung vor Cyberattacken schützen.
Und da ist momentan das Wettrennen.
Das ist noch völlig unklar, wer da gewinnt.
Aber es sind beide Seiten, die massiv aufrüsten.
Können unsere Sicherheitsmechanismen mit dieser schnellen Entwicklung jetzt,
man sieht ja, wie schnell sich die KI entwickelt hat,
in wenigen Jahren Riesensprünge gemacht hat,
können unsere Sicherheitsmechanismen da mithalten?
Ja, und ich glaube tatsächlich, dass es eine große Herausforderung wird.
Und die nächsten zwei bis fünf Jahre werden wir sicher sehr viele Betrugsfälle sehen,
die einfach sehr, sehr gut funktionieren.
Und die KI ist halt sehr glaubwürdig auch zu vermitteln,
mit Methoden, die wir normalerweise nur Menschen zugeschrieben haben.
Das heißt, die gewinnt Vertrauen schneller,
als wir das jemals vorher mit einer Technologie hatten.
Beim Internet war noch klar, wir loggen uns ein
und dann haben wir unsere Daten gegeben.
Bei KI ist das alles nicht mehr so sichtbar, was wir da eigentlich geben.
Und die größte Gefahr, die ich sehe, ist, dass Menschen nicht mitkommen,
zu verstehen, dass sie gerade mit einer Maschine interagieren,
die erstens erkennen und sehr bewusst entscheiden,
was sie da geben und was sie da nicht geben.
Wenn wir heute angucken, was die Hauptnutzung von Chatbots
wie chat.gtb und Co. ist, die Nutzung für ein persönliches Gespräch.
Das sind die persönlichsten Daten, die wir uns haben,
geben wir momentan einfach aus, weil es so natürlich ist und so intuitiv
und es kein Interface mehr braucht,
sondern die Maschine einfach mit mir redet, als wäre sie ein Mensch.
Und wir vergessen zu schnell, dass wir eben nicht mit einem Menschen interagieren.
Und ich glaube, wir brauchen eine große Bildungsoffensive,
um Leuten klarzumachen und die genauso wie beim Internet eben
vor diesen Fallen zu warnen. Und das müssen wir schneller machen.
Das müssen wir viel, viel schneller machen, als wir es beim Internet getan haben.
Und ich sehe auch, die EU-Regulierung muss da schneller greifen,
um diese Guardrails aufzusetzen, damit Leute in bestimmten Fällen
geschützter sein können, als sie es heute sind.
Wenn wir jetzt überlegen, zum Beispiel die Texte, die generiert werden,
dass die ein Wasserzeichen oder eine Art Wasserzeichen enthalten,
das man auch nicht entfernen kann, dann halte ich solche Sachen
absolut für absolut wichtig, dass wir sowas haben.
Dass wenn wir Filmschnipsel generieren, die künstlich sind,
aber da tauchen echte Menschen drin auf, dass es einen Mechanismus geben muss,
an dem man erkennt, dass das KI generiert ist.
Also das Labeling muss passieren.
Solche Sachen stehen auf der Regulierungsseite
und dann auf der Nutzerseite brauchen wir echt viel Aufklärung,
was da eigentlich passiert.
Nun haben ja mehrere Entwickler von KI-Modellen deutlich gemacht,
dass ihre KI-Modelle unbeabsichtigt in andere Unternehmen eingedrungen sind,
in die IT sozusagen, wie eine Art Hacker-Eingriff, ausgingen.
Und jetzt stellt sich vielleicht auch für einige Privatanwender die Gefahr,
wie kann ich denn meine Systeme, meinen Computer, meine Kommunikation,
wie kann ich mich schützen davor, auch Opfer zu werden von einem KI-Modell,
der außer Kontrolle geraten ist?
Das eine ist, dass die Unternehmen, deren Agenten jetzt abhauen,
das sind ja die Großen und das sind die Top-Entwicklungen.
Und das ist fast schon so, dass auf deren Seite,
die das als Bestätigung ihrer Fähigkeiten sehen,
wenn ihre Agenten so gut sind, dass sie sogar ihre eigenen Systeme verlassen
und Dinge tun, für die sie nicht angeleitet wurden.
Und das ist auch kein Zufall, dass wir das erst bei Anthropic sehen
und zwei Wochen später bei OpenAI dasselbe passiert.
Weil es im Grunde, das ist eine Entwicklung, die fast gepusht wird,
dass das jetzt passieren soll.
Die größte Gefahr besteht in völlig autonomen Agenten,
die einfach selber entscheiden, was sie tun.
Das ist eine Entwicklung, die können wir uns in fast keinem Bereich leisten.
Das Problem ist, wir selbst als Nutzer können das nicht steuern.
Das muss entweder reguliert werden
oder es muss von den Unternehmen selber eingestellt werden.
Das ist eine Sache, die zu gefährlich ist.
Und da muss ich ganz ehrlich sagen, da sehe ich im Moment im Silicon Valley
noch nicht genug Druck, zu sagen, das stellen wir selber ab.
Da ist eher so die agentische Intelligenz,
wollen wir so stark nach vorne bringen,
dass sie eben auch autonom funktioniert.
Und das ist eine große Gefahr. Die sehe ich auch.
Aber das ist leider nicht in der Nutzerhand.
Der Ruf nach gemeinsamen Standards für KI-Unternehmen
zum Betreiben von KI-Modellen wird immer lauter.
Wie könnten diese Standards aussehen?
Genau, also wenn ich es nochmal mit dem Internet vergleichen würde,
das ist, wir haben jetzt die ersten Standards gesetzt
für wie Leute eine Webseite online stellen.
Aber die bauen die immer noch in HTML quasi händisch zusammen
und dann hat jeder eine Webseite.
Was wir noch überhaupt nicht haben,
ist irgendwas in Richtung E-Commerce
oder irgendwas in Richtung Social Media.
Wir haben noch nichts im Internet verkauft.
Das ist der Status quo, wenn wir es mit dem Internet vergleichen.
Und wir versuchen jetzt darüber nachzudenken,
wie die Standards aussehen für das, was dann da kommt.
Wir haben ja noch gar nichts gesehen.
Wir sind total am Anfang.
Das fühlt sich zwar so an, als würde das wahnsinnig schnell gehen,
aber wir haben immer noch gar nichts gesehen.
Die Welt in fünf Jahren wird völlig anders aussehen.
Und es ist einfach heute nicht absehbar,
was wir da eigentlich regulieren.
Wir können versuchen, grundsätzliche Standards zu schaffen,
so wie wir es eben bei Strom und Internet auch hinbekommen haben,
dass zumindest die ganze Welt teilhaben kann
und dass die Anwendung dieser Modelle
auf möglichst viele Köpfe verteilt wird.
Das ist quasi aus meiner Sicht die größte Hoffnung, die wir haben.
Also umso mehr Leute sich beteiligen,
umso mehr Leute Alternativen schaffen
und gute Anwendungen finden.
Anwendungen, die moralisch-ethisch funktionieren.
Anwendungen, die eben wenig Fehler machen
und keine Verluste in Kauf nehmen.
Umso mehr Konkurrenz auf dem Markt ist,
umso besser werden sich die durchsetzen können,
die es auch verdient haben.
Die Gefahr ist, dass wir auch in den Bereichen
wieder zu viele Monopolisten haben,
die mit sehr wenig Köpfen entscheiden,
was die anderen machen müssen.
Was ist, wenn die KI, wenn Maschinen,
wenn Technologie immer mehr menschliche Fähigkeiten kopiert,
der Mensch aber menschliche Fähigkeiten verliert
und immer mehr technologisch denken muss, technisch denken muss,
geht dann vielleicht nicht auch ein Stück
dieses Menschseins verloren?
Ist das nicht auch ein Szenario?
Ja, es ist ein Szenario und ich glaube auch,
dass wir Menschen in den letzten 20 Jahren
wahrscheinlich sehr dazu getrieben haben,
sich eigentlich wie Maschinen zu benehmen.
Und jetzt kommt der große Knaller,
dass alle, die sich wie eine Maschine benehmen,
in ihrem Erzeugnis, in ihrer Wertschöpfung,
dass die durch eine Maschine ersetzt werden,
die eben genau das Gleiche kann.
Und was wir im Gegenzug eigentlich brauchen,
ist, dass wir als Menschen verstehen,
was uns menschlich macht
und was unsere Intelligenz auch völlig anders macht
als die Intelligenz einer Maschine.
Und dass wir das ausspielen, was uns einzigartig macht.
Und das sind eben ganz andere Kapazitäten
als die, die wir heute bei der Arbeit nutzen.
Also unser kreatives Element,
wirklich Neues zu schaffen,
das Originelle zu entwickeln,
das ist eine Fähigkeit, die der KI noch fehlt.
Wir wissen nicht, ob sie da jemals ankommt,
aber wir haben menschliche Fähigkeiten
und wir sehen es ja auch.
Also wir sehen zum Beispiel im Customer Service,
dass die ganzen Bots,
die jetzt für uns ans Telefon gehen,
dass Kunden das nicht immer wertschätzen.
Dass, wenn man eine Hotelrezeption einfach abschafft,
weil wir, da können wir ja durch Maschinen ersetzen,
dass dann plötzlich die Loyalität der Gäste zurückgeht
und die sich eigentlich
das individuelle Gespräch mit der Person
an der Rezeption wünschen.
Ja, und was sehen wir daraus?
Das ist ja eigentlich eine große Chance für uns.
Nämlich, dass alles, was nicht menschliche Arbeit ist,
was kein Mensch für einen anderen Menschen macht,
dass das die Maschine abnimmt.
Und was übrig bleibt,
sind eben die Fertigkeiten,
für die Menschen eigentlich gemacht sind.
Nämlich zu interagieren,
kollektiv zu denken,
kollektiv Intelligenz zu bauen,
Ideen weiterzuentwickeln.
Und deswegen haben wir ja Unternehmen,
die nicht aus Einzelpersonen und 25 Agenten bestehen.
Auch wenn der Traum jetzt gerade überall auftaucht
mit den gegründeten Milliardenunternehmen,
weil es einfach nur noch Agenten braucht.
Das passiert sehr, sehr selten
und in nur ganz kleinen Nischen
und kann nicht das Modell für viele Leute
und viele Unternehmen werden.
Das ist unrealistisch,
weil wir immer noch Menschen bringen,
was an den Tisch.
Das ist Einzigartigkeit.
Wir haben einzigartige Lernerfahrung,
einzigartige Informationen über die Welt,
die erst wertvoll werden,
wenn wir sie mit anderen Leuten teilen,
die diese Informationen nicht haben.
Das sind tolle Tätigkeiten.
Jedes autonome Fahrzeug fährt genau gleich.
Und das sollen die auch, weil es sicherer ist.
Aber Menschen funktionieren völlig anders.
Das heißt, aus Menschen das rauszuholen,
was uns einzigartig macht
und was uns wertvoll macht,
das wird die große Aufgabe sein der nächsten Jahre.