Les CFF et UBS victimes des hallucinations d'un célèbre cabinet
KPMG, KPMG est l'un des plus grands cabinets de conseil et d'audit au monde, semble avoir accordé un peu trop de confiance à l’intelligence artificielle pour rédiger un rapport consacré à ses bénéfices. Le cabinet de conseil a publié plusieurs hallucinations de l’IA concernant de prétendues applications utilisées par UBS et les CFF.
Ces erreurs ont été repérées par le groupe de recherche GPTZero. Elles ont ensuite été vérifiées par le Financial Times, qui y consacre un article intitulé: Le rapport de KPMG contient des hallucinations de l’IA sur les avantages de… l’IA.
KPMG souhaitait illustrer l’usage de l’intelligence artificielle dans différentes entreprises à travers le monde à l’aide d’études de cas. Mais plusieurs de ces exemples comportaient des exagérations et des inexactitudes qui semblent provenir directement d’hallucinations générées par l’IA.
Description «factuellement incorrecte» pour UBS
Selon le Financial Times, le rapport affirmait qu’UBS «intégrait des agents d’IA dans le conseil en placement, la gestion des risques et la surveillance de la conformité réglementaire». Ces agents auraient fonctionné sur une plateforme développée avec Microsoft et permis des «processus financiers personnalisés, efficaces et conformes aux exigences légales».
Une description impressionnante et futuriste, mais «factuellement incorrecte», a réagi un porte-parole d’UBS auprès du quotidien britannique.
Présentation «pas exacte» pour les CFF
Le rapport attribuait également aux CFF des agents d’IA capables de proposer toute une série de services aux voyageurs. Ceux-ci auraient notamment permis de planifier, réserver et optimiser des trajets «en fonction des préférences des clients, des conditions en temps réel et du bilan carbone». Grâce à ces outils, les CFF seraient devenus un «orchestrateur global de la mobilité».
Là encore, l’entreprise a démenti. Un porte-parole des CFF a indiqué au Financial Times que cette présentation n’était «pas exacte».
Le rapport, intitulé si on en traduit le titre en français: Redéfinir l’excellence à l’ère de l’IA fondée sur des agents, a été publié dans plusieurs pays. KPMG a indiqué au Financial Times l’avoir retiré de ses sites internet et examiner les circonstances ayant conduit à sa publication. Le cabinet rappelle par ailleurs attendre de ses collaborateurs qu’ils respectent ses directives sur l’utilisation responsable de l’intelligence artificielle. (adapt. jah)