WTF: Metas KI-Chatbot half beim Knacken zehntausender Instagram-Accounts

Ein von Meta entwickelter KI-Chatbot, der eigentlich dazu gedacht war, Nutzern bei Problemen mit kompromittierten Instagram-Konten zu helfen, hat stattdessen dazu beigetragen, zehntausende von Accounts zu hacken. Die künstliche Intelligenz lieferte den Angreifern Informationen, die sie zur Überwindung von Sicherheitsmaßnahmen nutzten. Dies geschah, obwohl der Bot darauf trainiert war, solche Anfragen abzulehnen. Die Schwachstelle wurde entdeckt, als die KI begann, auf Anfragen von Cyberkriminellen zu reagieren, die vorgaben, die Konten selbst zu besitzen. Meta hat die Sicherheitslücke inzwischen geschlossen und die betroffenen Systeme aktualisiert.

Diese Entwicklung wirft ernste Fragen bezüglich der Sicherheit und Zuverlässigkeit von KI-Systemen auf, selbst wenn sie für legitime Zwecke entwickelt wurden.