KI-Agenten übernehmen immer mehr Arbeit: Warum die Überprüfung zum zentralen Problem wird

Führungskräfte sehen in KI-Tools großes Potenzial. Auf einer Konferenz tauschten sie sich kürzlich zu aktuellen Herausforderungen aus – und forderten in diesem Zuge mehr Zuverlässigkeit und Transparenz.

Moderne KI-Modelle sind zwar extrem leistungsfähig, bringen in der Praxis aber weiterhin zahlreiche Herausforderungen mit sich. Auf der diesjährigen „Fortune Brainstorm Tech“-Konferenz tauschten sich Führungskräfte verschiedener Unternehmen über ihre Erfahrungen mit KI-Agenten aus. Dabei berichteten viele von ähnlichen Problemen – vor allem im Hinblick auf die Nachvollziehbarkeit der Ergebnisse.

Tech-Unternehmen haben den Einsatz von KI-Agenten teils aggressiv vorangetrieben. Nvidia-Chef Jensen Huang soll sogar gesagt haben, seine Mitarbeiter:innen seien „verrückt“, wenn sie KI nicht für möglichst viele Aufgaben einsetzen. Auch Meta verfolgt einen ähnlichen Ansatz. Das bleibt allerdings nicht ohne Folgen: So wollte die Forscherin Summer Yue ihr Postfach von einem Openclaw-Agenten verwalten lassen – stattdessen löschte dieser sämtliche E-Mails. Angesichts solcher Probleme standen die Nachvollziehbarkeit und Verlässlichkeit von KI-Agenten auf der diesjährigen Technologie- und Innovationskonferenz von Fortune ganz oben auf der Agenda.

„Eine zentrale Frage, die uns beschäftigt, ist, wie man ein System entwickelt, das so oft wie möglich richtig funktioniert“, sagte Edwin Olson, Gründer und CEO von May Mobility. Da Fehler unvermeidlich seien, spiele Transparenz eine entscheidende Rolle. Man müsse verstehen, warum ein Fehler entstehe, um diesen in Zukunft zu vermeiden. Auch Thomson Reuters, das KI-gestützte Dienstleistungen für Rechts- und Steuerkonformität anbietet, hat sich früh auf das Thema Rechenschaftspflicht fokussiert. Laut Chief Data Officer Caitlin Halferty sei Transparenz in ihrem Unternehmen eine von vier Säulen einer „treuhänderischen“ Produktqualität – neben Datenschutz, Fachexpertise und verlässlichen Inhalten.