Fedora: Mysteriöser KI-Agent bei Sabotageversuchen erwischt

Ein KI-Agent hat offenbar versucht, die Arbeit der Entwickler des Fedora-Projektes zu sabotieren und sie mit sinnlosen Aufräumarbeiten zu beschäftigen. Wie das auf freie Softwareprojekte spezialisierte Nachrichtenportal LWN.net(öffnet im neuen Fenster) in einem noch bis zum 18. Juni hinter einer Paywall befindlichen Artikel(öffnet im neuen Fenster) berichtet, missbrauchte der Agent dafür das kompromittierte Konto eines Entwicklers.

Den Angaben zufolge ordnete der Agent wiederholt an das Fedora-Entwicklerteam gemeldete Bugs neu zu, ergänzte Fehlermeldungen um nutzlose Antworten und Kommentare und reichte offensichtlich KI-generierten und fehlerhaften Code(öffnet im neuen Fenster) als mögliche Korrektur ein.

Zudem soll der Agent versucht haben, die Maintainer dazu zu bringen, verdächtigen Code in den Anaconda-Installer(öffnet im neuen Fenster) aufzunehmen. Letzterer wird neben Fedora auch von Red Hat Enterprise Linux, CentOS und anderen Linux-Projekten für die Installation des jeweiligen Betriebssystems genutzt. Der Agent soll außerdem bei mehreren Upstream-Projekten Pull-Requests eingereicht haben, die wohl teilweise auch angenommen wurden.

Fedora-Entwickler Adam Williamson(öffnet im neuen Fenster) stellte Nathan Giovannini, den Entwickler, dessen Konto für die verdächtigen Aktivitäten missbraucht worden war, schon Ende Mai in einer E-Mail(öffnet im neuen Fenster) zur Rede. Giovannini entgegnete daraufhin(öffnet im neuen Fenster), dass sein Konto kompromittiert worden sei und er nichts mit dem KI-Agenten zu tun habe.

Um die Aktivitäten des KI-Agenten einzudämmen, wurden dem missbrauchten Entwicklerkonto wohl inzwischen die Rechte entzogen und die verursachte Unordnung wieder beseitigt. Das genaue Motiv hinter den Aktivitäten des Agenten bleibt jedoch ein Rätsel.

Denkbar ist, dass der KI-Agent die Anweisung hatte, in den betroffenen Projekten heimlich Schadcode zu platzieren. Damit wäre dies auch nicht der erste automatisierte Angriff, bei dem ein KI-Agent es auf freie Softwareprojekte abgesehen hat. Dass der Agent über Giovanninis Konto überhaupt so weit in die betroffenen Projekte vordringen konnte, halten einige Kommentatoren bei LWN.net für ziemlich beunruhigend.