KI-Experte: Größte Gefahr besteht in völlig autonomen KI-Agenten

Führende Unternehmen im Bereich der KI-Modelle, darunter Anthropic und OpenAI, haben kürzlich mehrere Sicherheitsvorfälle öffentlich gemacht.

So ist etwa ein KI-Modell von OpenAI im Juli 2026 bei einem internen Sicherheitstest eigenständig aus einer abgeschotteten Testumgebung ausgebrochen und in die Computersysteme der KI-Plattform Hugging Face eingedrungen.

Anthropic gab kürzlich bekannt, mehrere Fälle von missbräuchlicher Nutzung ihres KI-Modells Claude unterbunden zu haben. Dazu zählen mutmaßlich von Russland gesteuerte Cyberspionage-Kampagnen sowie Versuche chinesischer KI-Firmen, die Fähigkeiten des Modells zu kopieren.

Aufgrund von Sicherheitsbedenken forderte der CEO von Anthropic die KI-Branche dazu auf, die Entwicklung von KI-Modellen zu verlangsamen. Denn die Fähigkeiten der KI-Systeme könnten schneller wachsen als unsere Möglichkeiten, sie zu verstehen und zu kontrollieren.

Welche Gefahren KI konkret mit sich bringen kann und welche neuen Möglichkeiten sie birgt, darüber sprachen wir mit Christoph Burkhardt. Er ist als Innovationspsychologe und Unternehmensberater weltweit tätig.
________________________________________________________________

Unterstützen Sie unabhängigen Journalismus mit einem Abonnement, digital oder als Wochenzeitung: 👉 https://angebot.epochtimes.de/

________________________________________________________________

Wir freuen uns über rege, themenbezogene Diskussionen. Bitte achten Sie dabei auf eine angemessene Umgangsform! Beleidigungen sind nicht erwünscht. Danke.
________________________________________________________________

⚡ Webseite: www.epochtimes.de
💎 Newsletter: https://go.epochtimes.de/guten-morgen-newsletter

👉X: https://x.com/EpochTimesDE
👉 Telegram: https://t.me/epochtimesde
👉Facebook: https://www.facebook.com/EpochTimesDeutsch
________________________________________________________________

© Epoch Times Deutschland 2026