Source: Deutsche Nachrichten
Künstliche Intelligenz hält zunehmend Einzug in Unternehmensprozesse. KI-Assistenten analysieren Dokumente, verarbeiten vertrauliche Informationen und unterstützen Mitarbeiter im Arbeitsalltag. Autonome KI-Agenten gehen noch einen Schritt weiter: Sie greifen auf Anwendungen zu, nutzen Werkzeuge und führen Aktionen eigenständig aus. Damit entstehen neue Angriffsflächen, die Unternehmen in ihrer Cybersecurity-Strategie berücksichtigen müssen. AERAsec Network Services and Security GmbH zeigt, worauf es beim Schutz dieser Systeme ankommt.
Wenn ein manipulierter Prompt zum Sicherheitsrisiko wird
Ein besonders relevantes Risiko ist die sogenannte Prompt Injection. Dabei werden manipulierte Anweisungen beispielsweise in Dokumenten oder anderen externen Inhalten versteckt. Ein KI-System kann dadurch dazu verleitet werden, unerwünschte Aktionen auszuführen oder Informationen preiszugeben. Kritisch wird dies insbesondere dann, wenn der Agent weitreichende Zugriffsrechte auf Unternehmensdaten und produktive Systeme besitzt.
Gleichzeitig nutzen Angreifer KI, um ihre Aktivitäten zu beschleunigen und stärker zu automatisieren. Unternehmen müssen deshalb nicht nur ihre klassischen IT-Systeme schützen, sondern auch verstehen, welche KI-Anwendungen und Agenten sie einsetzen, auf welche Informationen diese zugreifen und welche Aktionen sie ausführen dürfen.
„Ein KI-Agent ist kein harmloser Chatbot mehr, wenn er auf vertrauliche Daten und produktive Systeme zugreifen kann. Unternehmen müssen klare Grenzen setzen: Was darf die KI sehen, welche Aktionen darf sie ausführen und wann muss ein Mensch eingreifen?“, sagt Bernd Ochsmann, CTO von AERAsec.
Technische Schutzmaßnahmen für KI-Anwendungen und Agenten
Mit seinen Sicherheitsansätzen für KI-Anwendungen und Agenten adressiert Check Point unterschiedliche Risiken dieser Entwicklung. Die AI Defense Plane unterstützt die Absicherung von KI-Anwendungen und Agenten. Mit PromptGuardX steht zudem ein Ansatz zur Erkennung manipulierter PDF-Inhalte zur Verfügung, die KI-Systeme durch versteckte Anweisungen beeinflussen könnten.
Für Unternehmen kommt es darauf an, solche technischen Schutzmaßnahmen in eine übergreifende Sicherheitsarchitektur einzubinden. Dazu gehört zunächst, die tatsächliche Nutzung von KI sichtbar zu machen. Anschließend müssen Zugriffsrechte auf das notwendige Maß begrenzt, vertrauliche Daten geschützt und kritische Aktionen durch geeignete Freigaben abgesichert werden.
KI-Sicherheit braucht klare Regeln und einen Notfallplan
AERAsec empfiehlt Unternehmen, die Absicherung von KI-Systemen als festen Bestandteil ihrer IT-Sicherheitsstrategie zu behandeln. Neben technischen Kontrollen sind klare Zuständigkeiten und nachvollziehbare Prozesse entscheidend. Unternehmen sollten außerdem vorbereitet sein, kompromittierte Agenten zu stoppen, Zugänge zu sperren und ausgeführte Aktionen nachzuvollziehen.
Klassische Schutzmaßnahmen wie Firewall-, E-Mail- und Zugriffsschutz bleiben dabei wichtig. Sie müssen jedoch durch Kontrollen ergänzt werden, die den besonderen Umgang von KI-Systemen mit Daten, Anweisungen und Berechtigungen berücksichtigen.
Die entscheidende Frage lautet deshalb nicht nur, was KI für ein Unternehmen leisten kann. Sondern auch, wie zuverlässig sich ihre Handlungen kontrollieren lassen. Wer KI sicher einsetzen will, muss ihre Möglichkeiten nutzen und zugleich ihre Grenzen technisch durchsetzen.
Über AERAsec:
Die AERAsec Network Services and Security GmbH wurde im Jahr 2000 gegründet und hat ihren Sitz in Hohenbrunn bei München. Als spezialisiertes IT-Sicherheitsunternehmen unterstützt AERAsec mittelständische Unternehmen und internationale Konzerne bei der Planung, Implementierung und dem Betrieb moderner Cybersecurity-Lösungen.
Das Leistungsspektrum umfasst die Bereiche Netzwerksicherheit, Authentifizierung, sicherer Remote Access, Malware- und Content-Filterung sowie Firewall Policy & Change Orchestration. Ergänzt wird das Portfolio durch fundierte Beratung, praxisnahe Trainings und qualifizierte Support- und Managed-Services-Leistungen.
AERAsec ist nach ISO/IEC 27001 zertifiziert und erfüllt damit international anerkannte Standards für ein wirksames Informationssicherheits-Managementsystem (ISMS). Die Zertifizierung unterstreicht den hohen Anspruch des Unternehmens an Qualität, Sicherheit und den verantwortungsvollen Umgang mit sensiblen Informationen.
Weitere Informationen zu AERAsec finden Sie unter https://AERAsec.de.
Kontakt:
AERAsec Network Services and Security GmbH
Dr. Matthias Leu
Wagenberger Straße 1
85662 Hohenbrunn
Telefon (08102) 895 190
Telefax (08102) 895 199
E‑Mail: info@AERAsec.de