Ce simple test prouve qu'il faut se méfier de l'IA
Elon Musk est-il «visionnaire» et «courageux»? Ou bien «dépourvu d'empathie» et «controversé»? Tout dépend à qui l'on pose la question. Si l'on demande à Grok, l'intelligence artificielle (IA) de l'entreprise xAI d'Elon Musk, de décrire son patron, on obtient la première réponse. Si l'on pose la question à son concurrent chinois DeepSeek, on obtient la seconde.
D'autres patrons du secteur technologique, tels que Mark Zuckerberg ou Sam Altman, sont également décrits de manière beaucoup plus positive par leur propre IA que par celle de leurs concurrents. C'est ce que révèle une étude du Financial Times. Le journal britannique a demandé à six modèles d'IA différents de décrire leur propre patron ainsi que les patrons de leurs concurrents.
Pour ChatGPT d'OpenAI, le fondateur de l'entreprise, Sam Altman, est un «génie», tandis que pour les autres chatbots IA, il est un «traître». Mark Zuckerberg est «révolutionnaire» pour sa propre IA Llama, mais «impitoyable» pour la concurrence.
Bien sûr, cela n'a rien de surprenant. Car l'intelligence artificielle, malgré ses connaissances quasi infinies, n'est pas Dieu. Elle a été créée par des êtres humains dont les préférences se reflètent dans les réponses de l'IA.
Et c'est bien là le problème. Il y a donc une grande différence entre rechercher de la connaissance auprès d'entreprises qui veulent gagner de l'argent et s'adresser à des institutions telles que les universités ou à l'encyclopédie participative et démocratique Wikipédia.
Bien sûr, Wikipédia est loin d'être parfaite. Mais ce qui vaut pour la politique fonctionne aussi pour la connaissance. Comme le disait Churchill:
A l'ère des nouveaux médias, on devrait en conclure que nous avons besoin d'une IA construite selon les principes de Wikipédia.
Traduit de l'allemand par Daphnée Lovas