Les risques de ce dangereux modèle IA exposés
Avec le déploiement limité de Mythos, la jeune pousse américaine Anthropic entend «mettre sur la table » les risques de son nouveau modèle d'intelligence artificielle dont les capacités en cybersécurité font craindre un basculement pour les États et les entreprises.
Ce modèle «commence à dépasser la capacité des humains dans le monde du cyber» vante le Français Guillaume Princen, directeur international des entreprises technologiques d'Anthropic. Il «est capable de déceler des failles informatiques qui existent depuis des dizaines d'années dans des systèmes qui ont été testés par des experts humains et des automates et n'avaient jamais été découvertes avant», selon lui.
Une stratégie commerciale?
Jugé trop dangereux en l'état par ses créateurs et des acteurs du secteur, Mythos a vu sa commercialisation repoussée, Anthropic le partageant seulement avec une poignée de géants technologiques américains, tels Nvidia, Amazon, J. P Morgan Chase ou Apple, et d'organisations pour sécuriser leurs infrastructures critiques. Mais l'entreprise à l'origine de Claude est aussi accusée de surjouer les dangers d'une technologie qu'elle commercialise activement, dans une compétition acharnée avec son rival OpenAI et son puissant modèle ChatGPT.
D'autant plus que ces annonces surviennent au moment où les rumeurs bruissent sur son intention d'entrer en Bourse dans le courant de l'année. «On préfère être transparent et mettre ces risques sur la table», balaie Guillaume Princen, pour qui les préoccupations de sécurité sont au «coeur de l'ADN d'Anthropic».
Exagérés ou non, les risques de cybersécurité de Mythos suscitent des inquiétudes au sein du système bancaire américain, du gouvernement britannique ou encore de l'Union européenne qui s'est entretenue avec Anthropic pour obtenir davantage d'informations. Aucune entreprise européenne ne fait d'ailleurs partie des testeurs du consortium créé par la jeune pousse, soulevant la question de la préparation du reste du monde face à un modèle dont les capacités offensives ne s'arrêteraient pas aux frontières des Etats-Unis.
«Ce n'est sûrement pas un modèle qui va être ouvert au grand public bientôt pour des raisons évidentes mais on est en train de réfléchir aux prochaines vagues d'ouverture», avance Guillaume Princen.
Un différend avec Trump
L'Europe constitue pourtant la région qui se développe le plus fortement pour Anthropic. La croissance de son outil pour les développeurs, Claude Code, qui génère 2,5 milliards de chiffre d'affaires annualisé, c'est-à-dire extrapolé à partir des revenus récents, dans le monde, vient en partie «des entreprises européennes» qui ont «pris cette vague», explique Princen.
Anthropic, qui réalise 80% de son chiffre d'affaires auprès des entreprises, collabore notamment avec la jeune pousse suédoise Lovable, spécialisée dans le code, ou l'assureur allemand Allianz. Pour étendre sa présence sur le Vieux Continent, elle a ouvert l'année dernière des bureaux à Paris et Munich et a récemment annoncé une expansion significative de ses antennes à Dublin et à Londres.
Fondée en 2021 par des anciens d'OpenAI, Anthropic était jusqu'à récemment moins connue du grand public que ses concurrents. Elle a pris une nouvelle dimension fin février lorsqu'elle a refusé de voir ses outils d'intelligence artificielle être utilisés par le Pentagone pour la surveillance de masse des citoyens américains et pour rendre des armes totalement autonomes. En représailles, l'administration Trump l'a désigné comme «un risque» pour la sécurité nationale.
Plusieurs procès sont en cours pour régler ce différend avec le gouvernement américain qui pourrait faire perdre plusieurs milliards de dollars de revenus à Anthropic cette année, a mis en garde sa directrice financière Krishna Rao dans des documents juridiques consultés par l'AFP. Dans le même temps, «on a vu un mouvement intéressant, il y a beaucoup de gens qui se sont mis à utiliser Claude de par cette position qu'on a prise sur le sujet», raconte Guillaume Princen.
Anthropic a ainsi annoncé début avril avoir multiplié par trois ses revenus en un trimestre, faisant état d'un chiffre d'affaires annualisé, qui a dépassé 30 milliards de dollars, soit davantage qu'OpenAI. (jzs/ats)