79 Cisco, ein seit Jahrzehnten etablierter Gigant im Bereich Netzwerktechnik und IT-Security, hat jüngst ein „radikales“ Sicherheitskonzept für Künstliche Intelligenz vorgestellt. Unter dem Namen AI Defense soll diese Lösung die immer komplexer werdenden Risiken abfedern, die beim Einsatz von KI in Unternehmen entstehen. In einem exklusiven Interview mit Rowan Cheung von The Rundown AI erklärte Cisco-Manager Jeetu Patel, Executive Vice President und Chief Product Officer, dass der Ansatz von AI Defense sowohl bei der Entwicklung als auch beim Einsatz von KI-Applikationen ansetzt. Außerdem wolle man Unternehmen helfen, AI-Anwendungen in ihrem Netzwerk zu identifizieren, um Gefahren wie Shadow AI oder Prompt Injection zu verhindern.Die Ankündigung trifft einen Nerv in der IT-Branche. KI-Systeme werden immer allgegenwärtiger und nutzen neuronale Netze in Cloud- oder Hybrid-Umgebungen, was ein erhebliches Angriffspotenzial freisetzt. Traditionelle Sicherheitslösungen greifen hier oft zu kurz. Im Folgenden wird erläutert, welche Ziele Cisco mit AI Defense verfolgt und wie Experten aus verschiedenen Bereichen diese Entwicklung bewerten. Kernfunktionen von AI Defense: Transparenz und Schutz Wie Cisco bekanntgab, fokussiert sich AI Defense auf drei wesentliche Aspekte:Erkennung von AI-Anwendungen: Oft gibt es in Unternehmen bereits KI-Tools, von denen die IT-Abteilung nichts weiß. Shadow AI—also nicht offiziell freigegebene KI-Services—läuft dann unbeaufsichtigt im Hintergrund. AI Defense soll Netzwerk-Telemetrie und Cloud-Scans nutzen, um sämtliche KI-Nutzungen zu identifizieren.Automatisierte Sicherheits- und Verträglichkeitschecks: Gemäß Cisco sollen mehrere Hundert potenzielle Sicherheits- und Governance-Probleme geprüft werden, darunter Dataleaks, Modellmanipulation und unautorisierte Prompt-Eingriffe. In diesem Prozess spielt das von Cisco eingekaufte Fachwissen—etwa aus der Akquisition des Start-ups Robust Intelligence—eine wichtige Rolle.Kontinuierliche Validierung: Eine fortlaufende Prüfung soll verhindern, dass sich aus scheinbar harmlosen Schwächen ernstzunehmende Angriffsvektoren entwickeln. Besonders problematisch sind laut Cisco Prompt Injections (bei denen ein Angreifer das Modell mithilfe spezieller Texte zu ungewollten Aktionen verleitet) sowie Denial-of-Service-Angriffe oder versehentliches Leaken sensibler Daten.Weitere Highlights: Auf Managementebene bietet AI Defense ein Dashboard für Administratoren, um Richtlinien festzulegen. Das könnte etwa das Sperren unautorisierter KI-Tools oder ein Standardprozedere für neu eingeführte Anwendungen umfassen. So soll vermieden werden, dass Mitarbeiter ungesichert experimentieren oder unkontrolliert Cloud-Lösungen nutzen, die Geschäfts- oder Kundendaten gefährden. Branchenstimmen: Lob und Vorbehalte Ein Schritt in die richtige RichtungDie meisten Experten sehen Ciscos Ansatz grundsätzlich positiv. Kent Noyes, globaler Leiter für KI und Cyber-Innovationen bei World Wide Technology in St. Louis, findet, dass AI Defense eine erhebliche Lücke in klassischen Sicherheitsarchitekturen schließt. Oft fehlt es bisher an einer durchgängigen Transparenz, wer eigentlich welche KI-App nutzt, und an Mechanismen, die speziell auf KI-spezifische Angriffe zugeschnitten sind.MJ Kaufmann, Autorin und Ausbilderin bei O’Reilly Media, betont, dass bestehende Sicherheitswerkzeuge selten auf die neuen Bedrohungsszenarien rund um maschinelles Lernen eingestellt sind. Prompt Injection, Data Leakage oder unsachgemäße Modell-Modifikationen seien mit klassischen Firewalls und Signatur-basierten Tools nicht zufriedenstellend abgedeckt. Daher sieht sie in Ciscos Ansatz einen wichtigen Schritt, um KI-Systeme besser abzusichern.Cisco nutzt seine NetzwerktelemetrieJack E. Gold, Gründer der IT-Advisory-Firma J. Gold Associates, unterstreicht, dass Cisco mit seiner riesigen Netzwerkpräsenz einen klaren Vorteil hat. Die umfassende Netzwerktelemetrie erlaube es AI Defense, an unzähligen Knotenpunkten Sicherheitsinformationen abzugreifen. Darüber hinaus biete Cisco eine Plattform-übergreifende Lösung an—von On-Premises bis hin zu Multi-Cloud-Szenarien—wodurch Unternehmen mit diversen Infrastrukturen effektiv unterstützt werden.Kritische Stimmen: Reaktive Lösung oder echter Game Changer?Nicht alle stimmen in das Loblied ein. Dev Nag, CEO und Gründer von QueryPal, argwöhnt, AI Defense sei vorerst eher eine „Zusammenfassung bestehender Cisco-Sicherheitsprodukte plus einiger KI-spezifischer Ergänzungen“. Während die Netzwerkebene viele Angriffsmuster erkenne, fehle es oft an tiefem Einblick in den eigentlichen ML-Entwicklungszyklus—beispielsweise die Kontrolle der Trainingspipelines. MLOps-Aspekte wie Model Supply Chain oder Fine-Tuning würden nicht allein mit Netzwerkbeobachtung in den Griff zu kriegen sein, so seine These.Ein weiteres Argument: Viele KI-Gefahren entstehen schon bei den Datenquellen oder im Modell selbst. Angriffe können sich in Form von manipulierter Trainingsdaten einschleichen, was an reinen Netzwerkmetadaten kaum ablesbar ist. Auch Tools wie GitOps oder Jenkins-Pipelines, die einen durchgehenden Blick auf Code und Daten gewährleisten, dürften essenziell bleiben. KI-Sicherheit: Dringliches Thema angesichts AGI-Fortschritten Einige Experten verweisen auf die angespannte Lage, während globale Tech-Unternehmen an der Grenze zur sogenannten “Artificial General Intelligence” (AGI) arbeiten. Kevin Okemwa von Windows Central zufolge rückt AGI jedes Jahr näher, was die Debatte um KI-Sicherheit verschärft. KI-Systeme, die menschliche Intelligenz nicht nur simulieren, sondern quasi replizieren, bergen unvorhersehbare Risiken.James McQuiggan, Sicherheitsbewusstseins-Befürworter bei KnowBe4, gibt an, dass sich mit fortschreitender KI-Potenz die Fehler im System ungleich gravierender auswirken. Ein “Konflikt” oder Fehlverhalten einer solchen KI könne ganze Geschäftsprozesse, kritische Infrastrukturen oder sogar gesellschaftliche Strukturen stören. Aus seiner Sicht ist deshalb eine umfangreiche Sicherheits- und Governance-Lösung unabdingbar.Stephen Kowski, Field CTO bei SlashNext, warnt zugleich vor überzogenen Hoffnungen, KI werde sich selbst kontrollieren. Auch wenn Sam Altman (OpenAI) eine gewisse Selbstregulierung der KI herbeifantasiert, belege die aktuelle Praxis, dass KI-Systeme bereits jetzt manipulierbar seien: Prompt Injection, Jailbreaking oder der Missbrauch KI-generierter Inhalte sind keine Seltenheit. Eine Abwesenheit menschlicher und technischer Kontrollmaßnahmen könne das Risiko nur steigern. Technische Eckpunkte: Multi-Cloud und Multi-Model Ciscos AI Defense legt großen Wert auf Multi-Cloud-Fähigkeit, also die Unterstützung von AWS, Microsoft Azure, Google Cloud und anderen Umgebungen. Unternehmen nutzen häufig mehrere Cloud-Anbieter, was die Komplexität in der Sicherung der KI-Anwendungen erhöht. Ebenso verweist Cisco darauf, dass sich diverse ML-Modelle—von klassischen Decision Trees bis zu riesigen Transformern—überwachen lassen sollen.Patricia Thaine, CEO und Mitgründerin von Private AI, weist darauf hin, dass das Hinzufügen solch einer Sicherheitsebene in verschiedenen Cloud- und ML-Umgebungen natürlich hochkomplex ist. Jede Umgebung bringt eigene Datenfluss- und Versionskontrollszenarien mit sich, was Angreifern wiederum Schlupflöcher eröffnet. Genau hier setze AI Defense an, indem es Telemetrien aus den verschiedenartigen Workloads zusammenträgt und vereinheitlicht. Chancen und Herausforderungen bei der Implementierung So vielversprechend AI Defense auch wirkt, es bleibt abzuwarten, wie viele Unternehmen die Lösung tatsächlich einsetzen. Cisco besitzt in vielen Großkonzernen bereits eine etablierte Sicherheitsinfrastruktur; AI Defense könnte hier „on top“ eine sinnvolle Ergänzung sein. In kleineren Firmen oder bei Start-ups, die auf Open-Source-Tools und agile, kosteneffiziente Methoden setzen, ist mancherorts Skepsis zu erwarten, ob Cisco-Lösungen nicht zu komplex oder kostspielig sind.Karen Walsh, CEO von Allegro Solutions, glaubt, dass das Produkt gerade für mittelgroße Betriebe eine ernstzunehmende Wahl werden könnte. Diese Firmen haben oft nicht die Ressourcen, um spezialisierte KI-Security abzustellen—etwa in Form von Pen-Test-Teams, die ständig neue Prompt-Techniken testen. Ein Tool, das bereits einen Grundschutz und Automatisierungen mitbringt, bedeute eine erhebliche Entlastung. Fazit und Ausblick Mit AI Defense will Cisco den Bedürfnissen moderner Unternehmen nach besserer KI-Sicherheit gerecht werden. Das neue Produkt scheint ein Puzzle aus Netzwerktelemetrie, robusten ML-Checks und Cloud-übergreifender Kontrolle zu sein. Laut Jeetu Patel kann nur ein „radikaler“ Ansatz den wachsenden Gefahren wie Prompt Injection, Datenlecks oder Model Manipulation begegnen—Gefahren, die klassische Anti-Malware- oder Firewallsysteme nicht adressieren.Die Expertenmeinungen sind teils euphorisch, teils verhalten. Vieles hängt davon ab, wie Cisco das Zusammenspiel zwischen Netzwerkebene und MLOps-Layer konkret gestaltet und ob Unternehmen bereit sind, ihre KI-Prozesse dem Cisco-Kosmos anzuvertrauen. Die kommende Zeit wird zeigen, ob das Versprechen, alle relevanten KI-Bedrohungen abzusichern, in der Praxis einlösbar ist.Klar ist: Sicherheit im KI-Bereich ist längst kein Nischenthema mehr. Angesichts rapider Fortschritte in Richtung AGI und steigender Missbrauchsmöglichkeiten schlägt Cisco hier einen Pfad ein, an dem kaum ein großes Unternehmen vorbeikommt. Ob AI Defense das Zeug zum Standard-Set für maschinelles Lernen hat, wird sich im Betrieb bei Kunden zeigen. Doch schon jetzt gilt: KI-Sicherheit hat Hochkonjunktur, und Cisco will an vorderster Front mitwirken. AICiscoNachrichtenSicherheit Vorheriger Beitrag Pavel Durov unter Hausarrest: Wie Telegram sich gegen Kriminalitätsvorwürfe verteidigt Nächster Beitrag BIOS Öffnen: So startest du deinen PC ins BIOS bzw. UEFI You may also like Gebrauchte Seagate-Festplatten statt Neuware: Was steckt dahinter und wie erkennen Sie das? Januar 30, 2025 The Stargate Project: Droht uns ein reales Skynet oder ein Durchbruch für... Januar 28, 2025 Zwangsentsperrung per Fingerabdruck: Warum wir sie ablehnen und was das OLG Bremen... Januar 27, 2025 Gefälschte Steuerbescheide: So erkennen Sie Betrug und schützen sich Januar 27, 2025 Netflix erhöht Preise erneut: Ist Inflation das Problem, oder sinkt auch die... Januar 22, 2025 Bambu Lab sorgt für Aufregung mit neuem „Kontrollsystem“ für 3D-Drucker Januar 22, 2025 Hinterlasse einen Kommentar Cancel Reply Save my name, email, and website in this browser for the next time I comment.
