人工知能（AI）の開発者たちの能力を上回るほど圧倒的にスマートなAIの出現に備えて、OpenAIが新しい研究チーム「スーパーアライメントチーム 」の結成を発表したのは2023年7月のことだった。この新チームの共同責任者に指名された人物が、OpenAIのチーフサイエンティストで共同創設者のひとりであるイルヤ・サツキヴァーである。このチームにはOpenAIのコンピューティング能力の20％が提供されるとされていた。
このスーパーアライメントチームは、もはや存在しない。複数の研究者が会社を去り、サツキヴァーが退社し（このニュースは5月14日に伝えられた）、さらにチームのもうひとりの共同責任者も辞めたことで、チームがなくなったことをOpenAIが認めたのである。その活動はOpenAIの他の研究業務に吸収されるという。
サツキヴァーの退社は大きな話題になった。サツキヴァーは2015年に最高経営責任者（CEO）のサム・アルトマンと共にOpenAIを立ち上げ、「ChatGPT」につながる研究の方向性を決定した人物である一方で、昨年11月にアルトマンを解任した4人の取締役のひとりでもあったからだ。
このときアルトマンは、従業員による大規模な反乱と、その収拾と引き換えにサツキヴァーと別のふたりが取締役会メンバーを辞めるという“取引”を経て、混乱の5日間の末にCEOに復帰している。
また、サツキヴァーの退社が5月14日に発表されてから数時間後、スーパーアライメントチームのもうひとりの共同責任者で、かつてDeepMindの研究者だったジャン・レイクも退社したことをXに投稿した。
サツキヴァーもレイクもコメントの求めには応じておらず、退社の理由について公には発言していない。だが、サツキヴァーはXへの投稿で、OpenAIの現在の路線を支持すると表明している。「OpenAIの軌跡は奇跡的としか言いようがなく、わたしはOpenAIが（現在のリーダーシップの下で）安全かつ有益なAGI（汎用人工知能）を構築することを確信しています」
相次いだ研究者たちの離脱
OpenAIでは、昨年11月に起きたガバナンスの危機をきっかけに社内再編が進められている。スーパーアライメントチームの解散も、その動きの証明する一例だ。
テック系ニュースサイトの「The Information」は今年4月、スーパーアライメントチームの研究者であるレオポルド・アッシェンブレナーとパヴェル・イズマイロフのふたりが、機密漏洩により解雇されたと報じた。また、チームのもうひとりのメンバーであるウィリアム・サンダースも2月にOpenAIを去ったことが、本人の名前でオンライン掲示板に書き込まれた投稿から明らかになっている。
OpenAIでAI に関するポリシーやガバナンスを研究していた研究者ふたりも、最近になってOpenAIを去ったようだ。 LinkedInによると、カレン・オキーフは4月にポリシーフロンティアの研究責任者の役職を降りている。
OpenAIの研究者で、より高度なAIモデルの危険性に関する複数の論文の共著者でもあるダニエル・ココタジロは、オンライン掲示板への自分名義の投稿で「AGIの時代にOpenAIが責任ある行動をとるであろう確信をもてなくなったのでOpenAIを辞めた」と書き込んでいる。OpenAIを辞めたとみられる研究者のうち、コメントの要請に応じた者はいない。
サツキヴァーやスーパーアライメントチームのその他のメンバーの離脱、AIの長期的リスクに関する研究の将来について、OpenAIはコメントを避けている。より性能の高いAIモデルがもたらすリスクに関する研究は、AIモデルのトレーニング後の微調整を担当するチームの責任者であるジョン・シュルマンが率いることになる。
OpenAIを異色の存在たらしめた人々
AIの制御をいかに維持するかという問題をOpenAIで扱うチームは、スーパーアライメントチームだけではない。だが、このチームは最も遠い将来を見据えて問題に取り組む主要なチームとして、公に位置づけられていた。
昨年夏にチームについて告知した公式ブログへの投稿には、次のように書かれていた。「いまのところ、スーパーインテリジェントな潜在力をもつAIを操縦・制御し、その暴走を防ぐための解決策はない」
OpenAIは憲章において、いわゆるAGI、つまり人間に匹敵するか人間の能力を上回るテクノロジーを人類の利益のために安全に開発することを義務づけている。サツキヴァーやほかのリーダーたちは、しばしば慎重に進む必要性を説いてきた。ところがOpenAIは、早い段階から実験的なAIプロジェクトを開発し、公開してきたのだ。
OpenAIではかつてサツキヴァーら研究のリーダーが、超人的AIの創造とその種のテクノロジーが人類に牙をむく可能性について熱心に語っていた。その意味では、著名なAI研究機関のなかでもOpenAIは異色の存在だったのである。
ChatGPTが、OpenAIを世界で最も著名で注目されるテクノロジー企業に押し上げた後、AIに関するこのような不吉な話題が人々の口に広くのぼるようになった。しかし、研究者や政策立案者たちがChatGPTの意味するところや、いまよりはるかに高度なAIの出現の展望といった問題と真剣に向き合うようになるにつれ、AIが人間や人類全体に害を及ぼすのではないかという懸念についての論争は次第に収まった。
それ以来、人類の存在にかかわる苦悩は沈静化し、AIもまだ新たな飛躍を見せてはいない。だが、AIを規制する必要性が注目すべき話題であることには変わりない。
こうしたなかOpenAIは、ChatGPTの新バージョンを発表した。この新バージョンはテクノロジーと人々の関係を、強力に、そして恐らく問題をはらむ新たなかたちで再び変える可能性がある。
サツキヴァーとレイクは、OpenAIの最近の重大発表（マルチモーダルなAIモデルである「GPT-4o」）の直後に会社を去った。このモデルは、ChatGPTがより自然で人間に近いやり方で世界を見たり会話したりすることを可能にする。
ライブ配信されたデモンストレーションでは、新バージョンのChatGPTが人間の感情を模倣し、ユーザーに軽い調子でやりとりする様子も映し出された。この新しいインターフェイスを、OpenAIは数週間以内に有料ユーザーに提供する計画だという。
最近の主要メンバーの退社が、より人間に近いAIの開発や製品を送り出そうとするOpenAIの取り組みと関係があると示唆するものはない。だが、AIの進歩をめぐる最近の動向は、プライバシーや感情操作、サイバーセキュリティのリスクなどの倫理的な問題を提起している。OpenAIには、こうした問題に焦点を当てた別の研究グループとして「Preparedness（事前対策）」のチームが置かれている。
（Originally published on wired.com, edited by Daisuke Takimoto)
※『WIRED』によるOpenAIの関連記事はこちら。人工知能（AI）の関連記事はこちら。
雑誌『WIRED』日本版 VOL.52
「FASHION FUTURE AH!」は好評発売中！
ファッションとはつまり、服のことである。布が何からつく���れるのかを知ることであり、拾ったペットボトルを糸にできる現実と、古着を繊維にする困難さについて考えることでもある。次の世代がいかに育まれるべきか、彼ら／彼女らに投げかけるべき言葉を真剣に語り合うことであり、クラフツマンシップを受け継ぐこと、モードと楽観性について洞察すること、そしてとびきりのクリエイティビティのもち主の言葉に耳を傾けることである。あるいは当然、テクノロジーが拡張する可能性を想像することでもあり、自らミシンを踏むことでもある──。およそ10年ぶりとなる『WIRED』のファッション特集。詳細はこちら。