La théorie des jeux et le drame OpenAI - Digital Explorers' Diary #60

Bienvenue dans le Digital Explorers' Diary #60 !

Une sélection de sujets stimulants sur les technologies interactives, l'IA, le web3, la compréhension du monde, l'entrepreneuriat et la psychologie.

En résumé :

• La théorie des jeux pour porter un autre regard sur le feuilleton OpenAI,
• Les nouveautés de l'Apple Vision Pro,
• Microsoft Teams accueille les réunions en réalité virtuelle,
• Le prototype Butterscotch de Meta,
• Et une étude passionnante sur la VR sociale !

La théorie des jeux pour porter un autre regard sur le feuilleton OpenAI/Altman

À ce jour, 20 novembre 2033, vous avez probablement entendu parler du feuilleton en cours chez OpenAI. Je n'entrerai pas dans les détails, mais en résumé : le conseil d'administration a limogé le PDG, Sam Altman, pour se heurter aussitôt à un rejet massif de presque tout le monde. Puis la rumeur a annoncé le retour d'Altman et le remplacement du conseil. Mais finalement, il rejoint Microsoft avec son ancien associé Greg Brockman.

Je vois beaucoup de surprise et de stupéfaction face à ce qui s'est passé, avec des remarques du type : « Comment un conseil composé de personnalités de ce calibre peut-il prendre des décisions aussi stupides ? »

Dans cet article, j'utiliserai des concepts de théorie des jeux pour analyser les dynamiques à l'œuvre et en tirer des enseignements pour l'avenir de la gouvernance d'entreprise.

Le jeu

D'abord, rappelons que la structure d'OpenAI est très inhabituelle. Le rôle du conseil d'administration n'est pas de maximiser la rentabilité ; c'est de s'assurer qu'OpenAI reste fidèle à sa mission d'origine : « garantir que l'intelligence artificielle générale bénéficie à toute l'humanité. » Sam Altman, la voix la plus connue et la plus en vue de l'IA, a défendu cette mission en appelant gouvernements et entreprises à réguler l'IA.

Mais dans le même temps, depuis leur restructuration de 2019 destinée à accueillir des capitaux privés, et surtout depuis GPT-3, OpenAI a publié sans relâche de nouvelles fonctionnalités selon sa stratégie risquée du « on sort d'abord, on corrige ensuite ».

Ajoutez à cela un marché très concurrentiel face à des entreprises comme Meta, X ou Anthropic, et l'on commence à percevoir la complexité de la partie.

Oui, tout est un jeu, et chaque joueur a des incitations à suivre ou à contourner les règles. Dans un environnement aussi concurrentiel, on pourrait croire que chacun agit avec réflexion et rationalité, mais la théorie des jeux sait rendre compte de décisions apparemment irrationnelles. Entrons dans le détail.

La décision du conseil était-elle irrationnelle ?

Avec le biais rétrospectif, il est facile de balayer la décision du conseil comme stupide, mais pour eux elle ne l'était pas, sinon ils ne l'auraient pas prise, n'est-ce pas ? Voici quelques outils pour aider à comprendre :

• La rationalité limitée. Le conseil disposait peut-être d'informations limitées, de peu de temps pour décider et d'une capacité de traitement cognitif restreinte. Ils ont pu agir sur la base des informations et des ressources dont ils disposaient à ce moment-là.
• L'information incomplète. Le conseil a pu décider sans comprendre ni anticiper pleinement les réactions de Sam Altman, des salariés, des investisseurs ou du public.
• Aversion au risque contre goût du risque. Leur décision peut refléter une approche de prise de risque, privilégiant un objectif précis (la sûreté de l'IAG) sur la stabilité du statu quo.
• La théorie de l'utilité non espérée. La décision du conseil a pu être influencée par des facteurs autres que la maximisation de l'utilité : politiques internes, biais personnels ou visions divergentes de l'avenir et de la mission de l'entreprise.
• Jouer le long terme. Cet épisode prend peut-être davantage de sens vu comme un élément d'une stratégie plus large, ou d'une série de coups étalés dans le temps.
• Signalement et réputation. La défiance envers Altman pourrait être un signal fort indiquant que les actes qui lui sont reprochés sont inacceptables et suffisants pour justifier un renvoi.
• Facteurs émotionnels et psychologiques. La décision du conseil a pu être prise sous pression, par crainte de laisser passer de nouvelles opportunités, ou par volonté d'affirmer son autorité, poussée par leur mission.

La vue d'ensemble

En prenant de la hauteur, le rejet auquel le conseil a fait face s'explique aisément par un concept de théorie des jeux appelé piège multipolaire.

Cette situation apparaît dans la plupart des environnements concurrentiels : chaque joueur est incité à prendre des décisions qui lui profitent à court terme mais qui ont des conséquences négatives pour tous à l'échelle globale.

Dans la course à l'intelligence artificielle générale, tous les acteurs gagnent à court terme en publiant de nouveaux modèles et de nouvelles fonctionnalités le plus vite possible, même si cela nuit à la sûreté et à l'alignement au bénéfice de toute l'humanité.

À supposer que le conseil d'OpenAI soit resté fidèle à sa mission, limoger Sam Altman doit signifier qu'il n'était plus aligné avec la création d'une intelligence artificielle générale bénéfique à toute l'humanité. Mais pour tous les autres, salariés et investisseurs, l'objectif de court terme est de s'assurer qu'OpenAI reste en tête face à la concurrence de Meta, Anthropic ou X.ai. Se retourner contre le conseil est donc pour eux le meilleur coup pour garantir leurs objectifs de court terme, au détriment de la vue d'ensemble à long terme.

Un succès ou un échec de la gouvernance d'entreprise sûre ?

En examinant les événements des derniers jours sous cet angle, on voit que si Altman était revenu comme PDG et que le conseil avait été renvoyé, cela aurait été un véritable échec de la structure mise en place pour garantir la mission de l'entreprise. Mais aujourd'hui, le conseil a tenu bon, et Altman travaille pour le principal investisseur d'OpenAI.

La grande question est celle-ci : contrairement à l'opinion dominante, l'issue de ce feuilleton ne montre-t-elle pas un exemple réussi de cette structure d'entreprise ? Le conseil a-t-il réussi à préserver la mission de la société ?

Et tous ceux qui reprochent au conseil sa stupidité ont peut-être été, à leur tour, irrationnels, confondant leurs objectifs de court terme avec la mission de long terme, sûre et alignée, d'une intelligence artificielle générale sans danger.

Bien sûr, tout cela est hautement spéculatif, et de nombreuses hypothèses sont faites sur des informations inconnues, mais ce sont des outils précieux pour adopter un autre point de vue.

En parlant d'autres points de vue, écrivez-moi ici ou sur LinkedIn pour réfléchir ensemble !

L'actualité de la semaine :

• Quelques nouvelles autour de l'Apple Vision Pro :
  À 3 500 $, il est déjà cher, mais cela empire pour les développeurs qui veulent utiliser le moteur Unity : un MacBook coûte plus de 2 000 $, le compte développeur Apple 100 $/an, et la licence Unity démarre à 2 400 $... Soit au moins 8 000 $ à avancer, un obstacle majeur pour les petites structures et les créateurs !
  Dans le même registre, la version moins chère du Vision Pro, nommée Project Alaska, devrait sortir fin 2025 ou début 2026.
  Enfin, Apple a déposé un brevet pour une « cape de confidentialité » : en s'approchant de quelqu'un dans un environnement virtuel, la conversation basculera en mode privé, audible seulement par ce petit groupe. Je ne vois pas bien pourquoi cela nécessite un brevet, mais l'idée est excellente !
  XR News
• En 2022, Microsoft a cessé de prendre en charge AltspaceVR, mais le ressuscite au sein de Microsoft Teams.
  À partir de janvier, les collègues pourront se retrouver directement depuis Microsoft Teams dans un environnement de réalité virtuelle.
  Microsoft Mesh, la colonne vertébrale de cet environnement, ne semble pas avoir rencontré le succès escompté. En l'intégrant à Teams, Microsoft espère amener les réunions virtuelles à ses plus de 300 millions d'utilisateurs.
  Cette version corporate d'AltspaceVR réussira-t-elle ? Ah, et vous n'aurez pas de jambes. Mais est-ce si grave ?
  The Verge
• La semaine dernière, j'ai eu la chance formidable d'essayer Butterscotch, un prototype de casque VR des Reality Labs de Meta, et sa fonctionnalité la plus impressionnante : la focale variable.
  Qu'est-ce que cela signifie ? Actuellement, dans la plupart des casques VR, l'image que vous voyez est mise au point à une distance fixe, généralement de quelques mètres. Vos yeux peuvent regarder des objets à des distances différentes, mais ne peuvent pas s'y accommoder correctement, ce qui provoque de la fatigue oculaire et une perte de netteté.
  Ce prototype résout ce problème en suivant vos yeux, en détectant quel objet vous regardez et en déplaçant physiquement les écrans pour ajuster la distance de mise au point.
  Est-ce que ça marche ? En bref, oui ! La netteté des objets est impressionnante à toute distance, et l'ajustement dynamique est très rapide. C'en est presque imperceptible, aidé par la haute résolution des écrans à 56 pixels par degré, proche des 60 PPD de l'œil humain.
  Arrivera-t-il sur le marché ? Peut-être, même si la production d'une telle mécanique pourrait s'avérer délicate. Une solution mixte matériel-logiciel est plus vraisemblablement viable pour un casque grand public.
  En résumé, c'est un prototype très impressionnant, un aperçu de la netteté qu'aura la réalité virtuelle de demain !

Dans le podcast

Chaque semaine, je retrouve Guillaume Brincin et Sébastien Spas dans le podcast Lost In Immersion. Cette semaine :

• Nous approfondissons le pin Humane.ai dont je parlais la semaine dernière. La grande question est celle de l'adoption par les utilisateurs, et il est intéressant de voir qu'un tel appareil avait déjà été conceptualisé il y a des années au MIT !
• Une étude passionnante est parue il y a quelques semaines, analysant le comportement des utilisateurs de mondes virtuels à vocation sociale. Voici les résultats les plus intéressants :
  La plupart des utilisateurs sont des hommes (~80 %), mais la plupart des avatars sont féminins (~75 %).
  Fait intrigant, 41 % affirment être tombés amoureux sur ces plateformes.
  La plupart des utilisateurs sont prêts à dépenser de l'argent pour du contenu VR,
  Mais une minorité seulement monétise ses activités.
  Dans le même registre, et c'est un enseignement précieux : ~35 % des utilisateurs ont acheté un produit physique après avoir vécu une visite ou une démonstration en VR.
  Enfin, la plupart des utilisateurs rapportent des sensations fantômes pendant les sessions, ce qui montre à quel point la réalité virtuelle peut être immersive.
  C'est encourageant, mais selon moi, il reste beaucoup de chemin à parcourir pour impliquer davantage de personnes de tranches d'âge et de profils variés.

Regardez le podcast ci-dessous, et rejoignez-nous les mardis à 10 h UTC sur Twitch, ou écoutez les épisodes sur Youtube, Spotify, Apple Podcasts, Google Podcasts ou Amazon !

Cette newsletter vous a donné des idées ? Il y a plein de façons de travailler ensemble :

• Un brainstorming éclair de 30 minutes avec moi - réservez ici !
• Nous pouvons imaginer, prototyper et construire vos expériences - contactez-nous ici !