「OpenAIも他の最先端の研究室も（汎用人工知能に対して）準備ができていませんし、世界も準備ができていません。」

マイルズ・ブランデージはそう語った。彼はOpenAIを去り、どこか別の場所で大金を稼ごうとしている。公式には、彼の辞任の理由は「機会費用が高すぎる」ためとされているが、これは言い換えれば、他の企業が彼に金をちらつかせているということだ。

ブランデージ氏は、OpenAIの汎用人工知能（AGI）への準備を支援する「AGI準備」チームを率いています。OpenAIは、AIの安全性確保を支援することになっていたスーパーアライメントチームを既に解散しています。

汎用人工知能（ソフトウェアにおける人間の知能）は、見方によって、次のステップ、既に達成されているもの、あるいは不可能と捉えられるかのどちらかです。多くの人は、これは避けられない次のステップだと捉えており、画期的な状況認識論文の著者もこの点を詳細に論じています（今でも素晴らしい読み物です）。中には、既に達成されていると言う人もいるでしょう。ChatGPTは典型的な人間の高校生と同じくらいうまく機能しているのですから。実現は不可能だと考える懐疑論者もいますが、人間が空を飛ぶことは不可能だと言った人もいます。

そしてそれが来たとしても、どうやらOpenAIはまだ準備ができていないようだ。誰が準備できるだろうか？

世の中には、AI技術がどこへ向かおうとも、それが何をもたらすとしても、そして人間への影響がどうであろうとも、科学者たちはAI技術を追い求めるだろうという議論が渦巻いている。確かに、サム・アルトマンとその仲間たちは、ただひたすらに輝かしいものを追い求めているように見える。