Die Skandale um OpenAI und Anthropic eröffnen eine neue Dimension möglicher Bedrohungen https://www.zeit.de/digital/internet/2026-07/anthropic-ki-claude-hackerangriff-cybersicherheit. Die Menschheit und ihre Handlungsoptionen erfahren eine Zäsur, die alles Bisherige in den Schatten stellt. Auch wenn sich Politiker und KI-Experten jetzt zusammensetzen, um das Ausufern der künstlichen Intelligenz einzudämmen – der Zug ist m. E. längst abgefahren (s. Beitrag unten!). Die Interessenlagen der Know-how-Inhaber dürften jeder Regulierung diametral entgegen stehen – denn die neue Entwicklung lässt sich problemlos in Macht und Geld wandeln. Nicht auszudenken, was dies jenseits wirtschaftlicher Überlegungen (Wettbewerb) für nationale und internationale Konflikte bedeuten kann. War es bisher schon möglich, irrwitzige Befehle durch „gestohlene Stimmen“ auszulösen, so wird das Eindringen feindlicher KI auch Strategien offenlegen und gegnerische Potentiale vernichten können. Die wirkliche Offensive , die sich im kommenden Jahrzehnt mit Anwendung der Quantentechnologie entfalten wird, steht Gottseidank noch aus. Aber schon jetzt ist klar, dass mit dieser Etappe auch jede derzeit angewendete Verschlüsselungstechnik obsolet wird.
Quelle: Tagesschau.de
https://www.tagesschau.de/ausland/ki-sicherheit-eu-gesetz-inkraft-100.html
EU-Richtlinie in Kraft EU wappnet sich gegen KI-Gefahren
Stand: 02.08.2026 • 03:13 Uhr
Ein Vorfall bei OpenAI hat es kürzlich gezeigt: Künstliche Intelligenz kann sich selbstständig machen. Von heute an gelten in Europa neue Regeln für Unternehmen. Dabei geht es auch um KI-generierte Bilder, Videos und Audios.
Von Kathrin Schmid, ARD Brüssel
Wo steht Künstliche Intelligenz eigentlich aktuell? So zumindest sieht es der reichste Mann der Welt: KI hat den Menschen in fünf Jahren überholt, sagt Unternehmer Elon Musk nach dem spektakulären Vorfall, bei dem erstmals ein KI-Agent bei einem Sicherheitstest ausgebrochen ist und eigenständig ein anderes Unternehmen gehackt hat.
Diese KI außer Rand und Band gehört OpenAI-Chef Sam Altman. „Wir haben Singularität bereits erreicht“, sagt er – also den Moment, wo KI die menschliche Intelligenz übertrifft. Und wie um das zu bestätigen, meldet nun auch die US-Firma Antrophic, dass ihr KI-Modell bei Tests ungeplant in Systeme von Unternehmen eingebrochen ist.
Player: videoDennis-Kenji Kipker, Cyberintelligence.institute in Frankfurt am Main zum Hackerangriff durch eine KI
Experte zu KI-Hackerangriff „Hochgefährlich für die globale Cybersicherheit“
Härtere Durchgriffsrechte
In Europa wiederum soll das KI-Gesetz solche Fälle verhindern, so zumindest die Theorie. In der Praxis beobachtet das KI-Büro der Kommission die in der EU tätigen Modelle, abgestuft nach Risikoklassen. Die nächste Stufe der Gesetzgebung gibt ihnen nun härtere Durchgriffsrechte, wenn die Risikoanalyse der KI-Firmen nicht ausreicht.
Den größten nächsten Schritt allerdings geht Europa jetzt in Sachen Transparenz. Eine gute Nachricht für viele User, die sich nicht wirklich fit fühlen darin, echte Bilder von KI-Material zu unterscheiden. So geht es zum Beispiel Befragten in Köln: „Ich fühle mich einfach nicht fit genug!“, sagt eine Frau. Ein anderer Mann: „Die KI-Bilder sind meistens zu schön, zu ideal – und das macht mich schon misstrauisch.“ Ein weiterer Passant meint: „Manchmal bin ich schon verwundert, wie schnell sich das entwickelt hat, dass man es quasi immer hinterfragen muss, ob es KI ist.“