62 % der Finanzfachkräfte berichten über KI-basierte Fehler, die Kunden erreicht haben
Laut einem neuen Bericht von Macabacus nutzen Unternehmen im Finanzdienstleistungssektor künstliche Intelligenz (KI) zunehmend zur Erstellung von Modellen und Präsentationen. Allerdings fehlen vielen Organisationen die nötigen Sicherheitsvorkehrungen, um KI-basierte Fehler zu erkennen, bevor sie Kunden oder Entscheidungsträgern erreichen. Eine Umfrage unter 75.000 Macabacus-Nutzern zeigt, dass 62 % der Befragten in den letzten zwölf Monaten einen durch KI verursachten Fehler erlebt haben, wobei 46 % davon ausgehen, dass solche Fehler unbemerkt in Endprodukte gelangt sind. Der Bericht betont die Diskrepanz zwischen der schnellen Einführung von KI und den langsam voranschreitenden Sicherheitsmaßnahmen. Obwohl 87 % täglich oder wöchentlich KI einsetzen, verfügen nur 23 % über umfassende Prüfsysteme wie zugelassene Tools oder Überprüfungsabläufe. Zudem zeigt sich eine Divergenz in der Vertrauenswahrnehmung: Während Analysten ihr Selbstvertrauen durch KI gestärkt sehen, fühlen sich Führungskräfte weniger sicher. Macabacus bietet als Microsoft-native Plattform Lösungen zur Überprüfung und Automatisierung an. Das Unternehmen betont die Notwendigkeit von „Leitplanken“, um den Einsatz von KI zu ermöglichen, ohne dabei Genauigkeit oder Kundenvertrauen zu gefährden.
Topics: AI financial services productivity tools risk management