ゲーム理論で読むOpenAIの混乱 - Digital Explorers' Diary #60

Digital Explorers' Diary #60へようこそ。

インタラクティブ技術、AI、web3、センスメイキング、起業、心理学をめぐる、考えるきっかけになるトピックを厳選してお届けします。

今回の要点:

• ゲーム理論を使って、OpenAI騒動を別の角度から読む。
• Apple Vision Proの続報。
• Microsoft TeamsでVR会議が可能に。
• MetaのButterscotch試作機。
• そしてソーシャルVRについての興味深い調査。

ゲーム理論から見るOpenAI/Altman騒動の別の読み方

本稿を書いている2033年11月20日現在、OpenAIで起きている騒動についてはすでにお聞き及びでしょう。細部には立ち入りませんが、要するに取締役会がCEOのサム・アルトマンを解任し、ほぼ全方位から猛烈な反発を受けました。その後アルトマンが復帰し取締役会が入れ替わるという噂が流れましたが、結局彼は元の相棒であるグレッグ・ブロックマンとともにMicrosoftへ移ることになりました。

この出来事には驚きと当惑の声が数多く上がっており、「あれほどの経歴を持つ人々が集まった取締役会が、なぜこんな愚かな判断を下せるのか」といった反応が見られます。

この記事では、ゲーム理論の考え方を使って、そこで働いていた力学を読み解き、これからの企業統治への教訓を引き出してみます。

そのゲーム

まず思い出しておくべきは、OpenAIの組織構造が非常に変わっているという点です。取締役会の役割は収益の最大化ではありません。OpenAIが本来の使命、すなわち「汎用人工知能が人類全体に益をもたらすようにする」ことに忠実であり続けるよう保証することです。AI分野で最も名の知れた発言者であるサム・アルトマンは、各国政府や企業にAI規制を呼びかけることで、この使命を体現してきました。

しかし同時に、企業からの資本を受け入れるための2019年の組織再編以降、とりわけGPT-3以降、OpenAIは「まず出して、あとで直す」という危うい方針のもとで新機能を次々に投入し続けてきました。

そこにMeta、X、Anthropicといった企業との激しい競争が加われば、この局面の複雑さが見えてきます。

そう、すべてはゲームであり、各プレイヤーには規則に従う、あるいは曲げる誘因があります。これほど競争の激しい環境では、誰もが深く考え合理的に動いていると思いたくなりますが、ゲーム理論は一見不合理に見える判断も説明できます。見ていきましょう。

取締役会の判断は不合理だったのか

後知恵の偏りをもってすれば、取締役会の判断を愚かだと切り捨てるのは簡単です。しかし彼らにとってはそうではなかったはずです。でなければ実行しなかったでしょう。理解を助ける道具立てをいくつか挙げます。

• 限定合理性。取締役会が持っていた情報も、判断に使える時間も、認知的な処理能力も限られていたのかもしれません。その時点で手にしていた情報と資源に基づいて動いた可能性があります。
• 不完全情報。取締役会は、サム・アルトマン、従業員、投資家、そして世間の反応を完全には理解も予測もしないまま決断したのかもしれません。
• リスク回避か、リスク選好か。彼らの判断は、現状維持という安定よりも特定の目的（AGIの安全性）を優先する、リスク選好的な姿勢の表れだったのかもしれません。
• 非期待効用理論。取締役会の判断は、効用の最大化以外の要因に左右された可能性があります。たとえば社内政治、個人的な偏り、あるいは会社の将来と使命についての見解の食い違いです。
• 長期戦を打つ。この出来事は、より大きな戦略の一部、あるいは時間をかけた一連の手のひとつとして見たほうが、筋が通るのかもしれません。
• シグナリングと評判。アルトマンへの不信は、彼がしたとされる行為が容認できず、解任に値するという強い合図だったのかもしれません。
• 感情的・心理的な要因。取締役会の判断は、圧力のもとで、新しい機会を逃す恐れから、あるいは使命に突き動かされて主導権を握ろうとする意志から下された可能性もあります。

全体像

視野を広げれば、取締役会が浴びた反発は、ゲーム理論でいう多極的な罠という概念で容易に説明できます。

この状況は競争の激しい環境の多くで生じます。各プレイヤーには、短期的には自分に有利でも、全体としては皆に悪い結果をもたらす判断を選ぶ誘因が働くのです。

汎用人工知能をめぐる競争では、たとえそれが人類全体の利益のための安全性と整合性を損なうとしても、新しいモデルや機能をできる限り速く出すことが、短期的にはすべての当事者にとって得になります。

OpenAIの取締役会が使命に忠実だったと仮定するなら、サム・アルトマンを解任したということは、人類全体に益する汎用人工知能をつくるという方向から、彼がもはや外れていたことを意味するはずです。しかし、それ以外の全員、つまり従業員や投資家にとっての短期的な目標は、Meta、Anthropic、X.aiとの競争のなかでOpenAIが首位を保つことです。したがって取締役会を叩くことは、長期的な全体像を犠牲にしてでも短期的な目標を守るための、彼らにとっての最善手なのです。

安全な企業統治の成功か、失敗か

この視点で数日間の出来事を眺めると、もしアルトマンがCEOとして復帰し取締役会が解任されていたなら、それこそが会社の使命を守るために築かれた仕組みの本当の失敗だったと分かります。しかし実際には取締役会は判断を貫き、アルトマンはOpenAI最大の投資家のもとで働くことになりました。

大きな問いはこうです。世間の見方とは逆に、この騒動の結末は、あの企業構造がうまく機能した例を示しているのではないか。取締役会は会社の使命を守り抜いたのではないか。

そして取締役会を愚かだと批判した人々こそ、実は不合理だったのかもしれません。安全で整合の取れた汎用人工知能という長期的な使命と、自分たちの短期的な目標とを取り違えて。

もちろんこれはかなり思弁的な議論であり、分からない情報について多くを仮定しています。それでも、違う角度から物事を眺めるための有用な道具ではあります。

違う角度といえば、私と一緒に考えたい方はこちらまたはLinkedInからご連絡ください。

今週のニュース:

• Apple Vision Proについての続報をいくつか。
  3,500ドルという時点でかなり高価ですが、Unityで開発したい人にとってはさらに厳しくなります。MacBookが2,000ドル超、Appleの開発者アカウントが年間100ドル、Unityのライセンスは2,400ドルから。最低でも8,000ドルを先に用意する必要があり、小規模な事業者や個人の制作者には大きな壁です。
  関連して、Vision Proの廉価版であるProject Alaskaは、2025年末から2026年初頭の投入が見込まれています。
  最後に、Appleが「プライバシークローク」の特許を登録しました。仮想環境で誰かに近づくと、会話がその近くの集団にしか聞こえない非公開モードに切り替わるというものです。なぜ特許が要るのかは分かりませんが、着想としては見事です。
  XR News
• 2022年にMicrosoftはAltspaceVRのサポートを終了しましたが、Microsoft Teamsの中で蘇らせようとしています。
  1月から、同僚同士がMicrosoft Teamsから直接、VR環境で集まれるようになります。
  この環境を支える基盤であるMicrosoft Meshは、期待どおりの成功を収めていないようでした。Teamsに統合することで、Microsoftは3億人を超える利用者にバーチャル会議を届けようとしています。
  この法人版AltspaceVRは成功するでしょうか。ちなみに脚はありません。とはいえ、それは問題でしょうか。
  The Verge
• 先週、MetaのReality Labsが手がけるVRヘッドセットの試作機Butterscotchを試すという、またとない機会に恵まれました。最も印象的だった機能が可変焦点です。
  どういうことでしょうか。現在の多くのVRヘッドセットでは、見える映像は固定した距離、通常は数メートル先に焦点が合っています。目は異なる距離の対象を見ることはできても、そこへ正しくピントを合わせられず、眼精疲労と輪郭の甘さを招きます。
  この試作機は、目の動きを追い、どの対象を見ているかを検出し、ディスプレイを物理的に動かして焦点距離を調整することで、その問題を解いています。
  実際に効くのか。ひと言で言えば、効きます。どの距離でも対象の輪郭の鮮明さは見事で、しかも調整は非常に素早く働きます。ほとんど気づかないほどで、1度あたり56画素という高い解像度がそれを後押ししています。人間の目の60PPDに迫る数字です。
  市場に出るのか。可能性はありますが、こうした機構の量産は難しいかもしれません。マス市場向けのヘッドセットには、ハードとソフトを組み合わせた解のほうが現実的でしょう。
  まとめると、実に見事な試作機であり、VRの未来がどれほど鮮明になるかを先取りして見せてくれるものでした。

ポッドキャストから

毎週、Guillaume BrincinとSébastien Spasとともに、ポッドキャストLost In Immersionをお届けしています。今週の内容は次のとおりです。

• 先週触れたHumane.aiのピンを、さらに掘り下げます。最大の論点は利用者に受け入れられるかどうかであり、こうした端末が何年も前にMITで構想されていたという事実も興味深いところです。
• 数週間前に興味深い調査が公開され、交流を主目的とした仮想世界の利用者の行動を分析しています。とくに面白い結果を挙げます。
  利用者の大半は男性（約80%）ですが、アバターの大半は女性像（約75%）です。
  41%がこれらのプラットフォームで恋に落ちたことがあると答えており、これは注目に値します。
  利用者の多くはVRコンテンツにお金を使う意思があります。
  一方で、自らの活動を収益化しているのは少数です。
  関連して、これは重要な示唆です。約35%の利用者が、VRでの見学やデモを体験したあとに実物の商品を購入しています。
  最後に、多くの利用者がセッション中に幻の感覚を報告しており、VRの没入がいかに強力かを物語っています。
  心強い結果ですが、私の見るところ、より幅広い年齢層や属性の人を巻き込むにはまだ道のりは長いと言えます。

下のポッドキャストをご覧ください。毎週火曜UTC10時にTwitchで配信、Youtube、Spotify、Apple Podcasts、Google Podcasts、Amazonでも聴けます。

このニュースレターから何かアイデアが浮かびましたか。ご一緒できる方法はいろいろあります。

• 30分のスピーディーなブレインストーミングを私と - こちらから予約できます。
• 体験の企画、プロトタイピング、開発までお引き受けします - こちらからお問い合わせください。