タイトル

ケンブリッジ大CASP、AIによるAI開発が招く「知能爆発」の脅威と対策を提言

このエピソードで登場するキーワードを説明します。

CASP (Cambridge Programme on AI Science & Policy): ケンブリッジ大学が主導する、高度なAIシステムに関する科学的・政策的な知見を研究・発信するための機関。

知能爆発 (Intelligence Explosion): AIが自らを改良・開発する能力を持つことで、AIの進化が連鎖的かつ爆発的に加速する現象。数年分の進歩が数カ月、あるいはそれ以下に短縮される状態を指す。

AI R&Dの自動化 (Automating AI R&D): AIモデルのプログラミングや研究開発（R&D）プロセスそのものを、人間のエンジニアではなくAIシステム自身が実行するようになること。

それでは解説に入ります。

ケンブリッジ大学のAI科学・政策プログラム（CASP）は、「AIの研究開発（R&D）の自動化が『知能爆発』を引き起こしたらどうなるか？」と題する重要な研究レポートを発表しました。この論文には、AI界のゴッドファーザーと呼ばれるジェフリー・ヒントン氏やヨシュア・ベンジオ氏、Microsoftのチーフ・サイエンティフィック・オフィサーであるエリック・ホーヴィッツ氏など、世界的なAI研究の重鎮たちが多数名を連ねています。

レポートの核心は、現在のAI開発の現場において「AIを構築するコードの大部分をAI自身が書くようになっている」という急激な変化への警鐘です。研究チームは、数年以内にAIの研究開発パイプラインの大部分、あるいはすべてがAIによって自動化される軌道にあると分析しています。もしこれが現実となれば、技術の進歩が爆発的に加速する「知能爆発」が引き起こされ、これまで数年かかっていた進化が数カ月、あるいはそれ以下の期間に圧縮される可能性が高いとしています。

知能爆発は、医療やエネルギーなど様々な分野でAIの恩恵を劇的に前倒しするメリットがある反面、極めて深刻なリスクをもたらします。論文では、AIの能力向上が社会の対応スピードをはるかに超えてしまうこと、人類が超人的なAIシステムに対するコントロールを失うこと、そして国家、企業、政府機関における権力の均衡や牽制が深刻に崩壊する可能性が指摘されています。

不確実性は残るものの、事態の重大性を考慮すれば早急な対応が必要であると著者らは強調しています。政策立案者に対しては、AI開発企業内でR&Dの自動化がどこまで進んでいるのか透明性を確保すること、知能爆発を制御し制約するための手段を開発すること、そして社会がその劇的な影響に適応するための準備を今すぐ始めることを強く提言しています。

生成AIの急速な進化を牽引してきたトップサイエンティストたちが、SFではなく目前に迫る現実の危機として「知能爆発」への備えを各国政府に突きつけた本レポートは、今後のAI規制議論に大きな影響を与えることになります。

今回のエピソードは以上で終了です。また次回お会いしましょう。