Im ersten Teil haben wir gesehen, dass KI-Agenten weit mehr sind als nur Chatbots: Sie sind handelnde Akteure in unserer digitalen Welt. Doch wo gehandelt wird, entstehen Risiken. Wenn wir einem System die Erlaubnis geben, in unserem Namen E-Mails zu schreiben, Dateien zu löschen oder auf APIs zuzugreifen, müssen wir uns fragen: Wie sicher ist das eigentlich?
Willkommen zu Teil 2 unserer Serie. Heute schauen wir uns die fünf kritischsten Sicherheitsrisiken an, die mit dem Aufstieg der Agentic AI einhergehen. Denn nur wer die Gefahren kennt, kann die Vorteile der Technologie verantwortungsvoll nutzen.
Dies ist das wohl bekannteste Risiko. Ein Angreifer versteckt Anweisungen in Daten, die der Agent liest (z. B. in einer E-Mail oder auf einer Webseite). Wenn der Agent diese Daten verarbeitet, „überschreiben“ die versteckten Befehle deine ursprünglichen Instruktionen. Plötzlich schickt der Agent deine privaten Daten an eine fremde Adresse, statt sie für dich zusammenzufassen. Bei Agenten ist das fatal, da sie direkt Werkzeuge bedienen können.
Ein Agent ist nur so mächtig wie die Tools, die er nutzt. Hat er Zugriff auf dein Dateisystem oder eine Datenbank? Ein manipulierter Agent könnte diesen Zugriff nutzen, um Schaden anzurichten. Das Problem hierbei: Der Agent „glaubt“, er führt einen legitimen Auftrag aus, merkt aber nicht, dass der Auftrag durch eine Manipulation von außen korrumpiert wurde.
Oft leiten wir die Ausgaben eines Agenten direkt an andere Systeme weiter (z. B. in ein CRM oder ein Terminal). Wenn die Ausgabe des Agenten bösartigen Code enthält (generiert durch eine Prompt Injection), kann das nachgelagerte System infiziert werden. Wir dürfen niemals davon ausgehen, dass das, was ein Agent produziert, „sauber“ ist.
Agenten kosten Rechenleistung und Geld. Ein Angreifer könnte den Agenten in eine Endlosschleife schicken oder ihn dazu bringen, extrem teure API-Aufrufe in Dauerschleife zu tätigen. Das Ziel ist hier nicht der Datendiebstahl, sondern die Sabotage deines Budgets oder deiner Ressourcen.
Wir nutzen oft vorgefertigte Agenten-Frameworks, Plugins oder Modelle von Drittanbietern. Wenn eine dieser Komponenten kompromittiert ist, ist dein gesamtes System offen wie ein Scheunentor. Sicherheit bei Agenten bedeutet auch, genau zu prüfen, auf welcher technologischen Basis man sein „digitales Ich“ aufbaut.
Die Risiken sind real, aber sie sind kein Grund, auf Agenten zu verzichten. Sie sind ein Grund, sie besser zu bauen. Im nächsten Teil unserer Serie schauen wir uns an, wie wir Agenten in „Sandboxen“ isolieren können, um genau diese Gefahren zu minimieren.
Sicherheit ist kein Zustand, sondern ein Prozess. Bleib kritisch und baue sicher!