larges éclaircies
DE | FR
International
Technologie

OpenAI: L'altruisme efficace, ce mouvement très influent

Les deux co-fondateurs d'OpenAI font face à des tensions.
Sam Altman et Ilya Sutskever ne partagent pas le même courant de pensée.Getty Images

Deux camps se font la guerre dans la Silicon Valley

L'altruisme efficace influence fortement la Silicon Valley et le monde de l'IA. Un courant de pensée qui aurait causé du tort à Sam Altman qui tient d'une philosophie à l'opposé. Décryptage d'une guerre d'idéologie.
25.11.2023, 15:5401.03.2024, 14:59
Suivez-moi
Plus de «International»

Le nom de Sam Altman n'a pas arrêté de peupler les titres de presse. Viré comme un malpropre du jour au lendemain, avant de trouver refuge chez Microsoft et de revenir comme un général à la tête de son armée, chez OpenAI. La saga Altman a tenu en haleine le monde de la tech et la Bourse.

D'un côté le papa de ChatGPT, encombrant avec ses ambitions commerciales dopées par Microsoft, a fait peur aux membres du conseil d’administration qui craignaient les désirs de grandeur du boss. En toile de fond, les craintes sont plus profondes, comme celle que l’IA puisse un jour anéantir l’humanité. Une querelle entre deux idéologies qui a provoqué une secousse dans le monde opaque de la Big Tech.

Nombreux comptent les jours (en se frottant les mains) avant de voir naître une adaptation des déboires et du retour sur le trône d'Altman. Le débat glisse et se muscle au fil des articles et des communiqués; le vocabulaire devient technique et échappe au commun des mortels.

C'est là que des termes nébuleux viennent sur la table, comme l'altruisme efficace. Non, il n'est pas question d'une secte des Davidiens ou d'une brèche de L'Ordre du Temple solaire, mais d'un mouvement emprunté par les membres de la tech.

Peter Singer comme modèle d'un bénévolat déguisé

Derrière cette pensée, un philosophe et professeur à l'Université de Princeton: Peter Singer. Né à la fin des années 2000, le mouvement vise à utiliser la recherche et le raisonnement pour résoudre les problèmes mondiaux les plus urgents au bénéfice du plus grand nombre. En résumé: gagner plus pour reverser plus - un pourcentage important de fanatiques patentés donnent à des associations caritatives. Dans un rapport à l'argent presque décomplexé, l'altruiste efficace repense le modèle de charité pour essayer de produire un modèle de bienfaisance efficace et optimal. On peut le définir comme du bénévolat déguisé. Pour ses détracteurs, la théorie du mouvement tient à ce ratio entre le don et son efficacité, toujours motivée par un savant calcul d'argent investi pour sauver des vies.

Un système qui renvoie à une autre notion: l'utilitarisme. Ce courant de pensée convoque la notion du juste à celle de l'utile, apparu sous la plume du philosophe Jeremy Bentham. Selon lui, il faut maximiser nos actes, les motiver par une action qui contribue le plus au bonheur de l’humanité.

Mais pourquoi les caciques de l'IA viennent s'empêtrer dans ce mouvement philosophique?

L'élargissement de la mission des altruistes efficaces est embrassé par une poignée de technocrates, animés par cette idée de sauver l'humanité. La guerre nucléaire ou encore les pandémies sont dans le même panier, tout comme... l'apocalypse de l'IA, renseigne Bloomberg.

Une peur féconde, qui a donné naissance à une organisation à but non lucratif appelée AI Safety. Des pontes de la Silicon Valley y ont adhéré; des adeptes de l'altruisme efficace, comme notamment Peter Thiel, Elon Musk ou encore le crypto-fraudeur Sam Bankman-Fried.

Peter Thiel et Elon Musk font partie d'un cercle très sélect

Altman pencherait pour «l'accélérationisme efficace»

En contrepoint, un autre camp se crée. Si d'un côté, les altruistes efficaces critiquent les avancées trop rapides de l'IA, de l'autre, les «accélérationnistes efficaces», ou en abrégé e/accs, estiment que nous n'allons pas assez vite. Sam Altman est considéré, par certains, comme le saint patron de la deuxième équipe.

L'autre boss d'OpenAI, Ilya Sutskever, devant le danger prégnant des desseins des e/accs, a tiré le frein à main. En réponse, il a pris la direction d'une équipe consacrée au «superalignement», qui développe des outils pour superviser l'intelligence artificielle si elle dépasse l'intelligence de l'homme.

La communauté des altruistes efficaces craint cette force maléfico-artficielle. Les décisions prises actuellement, par le biais des différentes technologies, façonneront irrévocablement le cours de l’humanité, assurent les aspirants de l'altruisme efficace.

Cette prise de conscience, cette mesure des enjeux renvoie à un autre courant de pensée: le long-termisme. Ce prisme philosophique est surtout plébiscité par les anglo-saxons, rappelle que la priorité morale de notre époque est de sauvegarder les vies futures - Elon Musk en est un grand défenseur, comme il l'écrivait en 2022.

Altman a voulu aller trop vite

OpenAI et le licenciement brutal de Sam Altman est intimement lié à cette vague philosophique qui déferle sur les bureaux des gardiens de la tech. Le conquérant Altman face au réfléchi Sutskever ont croisé le fer à l'interne. Les tensions ont commencé à poindre dans la foulée du succès colossal et rapide de ChatGPT et n'ont cessé de grandir jusqu'à ce fameux 17 novembre. Les reproches sont dus à cette course au profit pour garder le leadership de l'intelligence artificielle.

OpenAI a été fondé avec pour mission de «garantir que l'IA profite à toute l'humanité». La structure était prévue comme un contrepoids face à Google, par exemple, et son Google Bard.

Sauf que le changement de statut – la startup a commencé comme une organisation à but non lucratif, mais a greffé une filiale à but lucratif afin de pouvoir lever les énormes sommes d'argent – a conduit à ce face-à-face entre les deux co-fondateurs, au milieu d'une bataille commerciale et morale. A cela, ajoutez Helen Toner, membre du conseil d'administration, qui s'était opposée à l'hyperactivité d'Altman pour foncer tête baissée, selon les informations du New York Times.

Mais à présent, OpenAI a semble-t-il décidé de passer à la vitesse supérieure, avec le retour du porte-étendard de l'intelligence artificielle et une structure transformée à l'interne.

Une IA imagine si Harry Potter avait été Japonais
Video: watson
0 Commentaires
Comme nous voulons continuer à modérer personnellement les débats de commentaires, nous sommes obligés de fermer la fonction de commentaire 72 heures après la publication d’un article. Merci de votre compréhension!
Pourquoi la droite vénère Poutine
Présenté comme le sauveur présumé de l'Occident chrétien, le président russe est devenu le nouveau messie de la droite.

Lors de sa récente apparition dans le Daily Show, le vieux maître de la comédie Jon Stewart n'a pas seulement démonté Tucker Carlson. Il a également résumé de manière concise l'essence de l'adoration de la droite pour Vladimir Poutine. Selon Stewart, le duel entre le capitalisme et le communisme, qui a duré des décennies, est terminé. Aujourd'hui, tout tourne autour du «woke contre unwoke».

L’article