Eine große Mehrheit der Unternehmen in Deutschland sieht erhebliche Risiken beim Einsatz von KI-Agenten: 84 Prozent befürchten, dass die Systeme auf Grundlage falscher oder erfundener Informationen Fehlentscheidungen treffen. Jeweils 78 Prozent sehen die Gefahr, dass über Schnittstellen zu anderen Systemen neue Sicherheitslücken entstehen, sensible Daten oder Geschäftsgeheimnisse abfließen oder die KI ungewollte Aktionen auslöst. Das zeigt eine repräsentative Unternehmensbefragung des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI) zu KI-Sicherheit. Drei von vier (74 Prozent) bewerten unklare Verantwortung und Haftung bei Fehlern als hohes Risiko, 65 Prozent eine Manipulation von außen. KI-Agenten bearbeiten Aufgaben über mehrere Schritte hinweg selbstständig und greifen dabei auf andere Anwendungen und Systeme zu. In den vergangenen Monaten sind KI-Agenten wiederholt unkontrolliert aus ihren Testumgebungen ausgebrochen.
„Sicherheitsbedenken bremsen den KI-Einsatz, solange Unternehmen nicht beurteilen können, ob eine KI im Betrieb sicher und kontrollierbar arbeitet“, sagt Dr. Joachim Bühler, Geschäftsführer TÜV-Verband. „Diese Bedenken lassen sich jedoch nicht mit Versprechen der Hersteller ausräumen, sondern nur mit verlässlichen Nachweisen. Unabhängige Prüfungen liefern diese Nachweise und schaffen damit die Vertrauensgrundlage für KI-Innovationen.“
Leistungsfähige KI-Modelle vor Markteinführung prüfen
Anlässlich des internationalen AI Summit am 14. Oktober in Dublin spricht sich der TÜV-Verband für unabhängige Prüfungen besonders leistungsfähiger KI-Modelle aus. Auf dem Treffen der irischen EU-Ratspräsidentschaft diskutieren Vertreter aus Politik, Wirtschaft und Forschung über den praktischen KI-Einsatz und die Wettbewerbsfähigkeit Europas. Der TÜV-Verband fordert die EU-Kommission und Mitgliedstaaten auf, sich international für verbindliche Sicherheitsvorgaben für leistungsfähige KI-Modelle sogenannte Frontier-Modelle einzusetzen. Dazu gehören verpflichtende Prüfungen vor der Markteinführung, die herstellerunabhängig und im öffentlichen Auftrag durchgeführt werden. „Frontier-Modelle sind die Basistechnologie für tausende Anwendungen“, sagt Bühler. „Ein Sicherheitsmangel im Modell setzt sich in jedem Produkt fort, das darauf aufbaut. Deshalb brauchen wir international verbindliche Prüfungen vor der Markteinführung – nach gemeinsamen Standards und durch unabhängige Stellen.“
Einheitliche europäische KI-Regeln erhalten
Gleichzeitig warnt der TÜV-Verband davor, den europäischen Rechtsrahmen für Hochrisiko-KI zu zersplittern. Kaum ist im KI-Omnibus die Entscheidung gefallen, Medizinprodukte im direkten Anwendungsbereich des AI Acts zu belassen, droht bei der Überarbeitung der Medizinprodukteverordnung, dass KI in Medizinprodukten doch noch daraus herausgelöst wird. „Datenqualität, Robustheit, Cybersicherheit und menschliche Aufsicht sind keine branchenspezifischen Fragen“, sagt Bühler. „Verteilt man die KI-Anforderungen auf einzelne Sektoren, entsteht ein Flickenteppich. Zudem fallen viele Produkte unter mehrere Regelwerke zugleich: Ein OP-Roboter ist Medizinprodukt und Maschine.“ Auch die rasante Entwicklung von KI spricht für eine zentrale Regelung. „Es ist perspektivisch einfacher, an einer Stellschraube im AI Act zu drehen, als ständig mehrere Einzelgesetze parallel anzupassen“, so Bühler. Aus Sicht des TÜV-Verbands muss der AI Act deshalb europaweit einheitlich angewandt und konsequent durchgesetzt werden.
Alle Ergebnisse der Unternehmensbefragung „KI-Sicherheitsstudie“ des BSI und TÜV-Verband sind abrufbar unter: www.tuev-verband.de/studien/ki-sicherheitsstudie-2026
Methodik-Hinweis: Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsunternehmens forsa im Auftrag des BSI und des TÜV-Verbands unter 505 Unternehmen ab 20 Mitarbeitenden in Deutschland. Befragt wurden Verantwortliche für KI-Nutzung, Cybersecurity- und IT-Experten sowie Mitglieder der Geschäftsleitung. Die Befragung fand im Zeitraum vom 22. Juni bis 31. Juli 2026 statt.