英国の哲学者ウィリアム・マッカスキル（論文)「知能爆発への備え：大いなる課題」（2025年３月寄稿）は、最近のAIの進化が想像以上に速いことを教えてくれます。これは単なるSFだと傍観してよいのでしょうか？

マッカスキル氏は、AIの能力成長の現在の傾向は、私たちが遠い未来の話だと思っていた出来事を、今後10年以内に引き起こす可能性が高いと示唆されています。それは、数十年にわたる科学的・技術的な進歩がわずか数年や数ヶ月に圧縮される「知能爆発」です。

これは、10年間で1世紀分の進歩が起こるようなものであり、これにより人類の未来を大きく左右する一連の「グランドチャレンジ（GC）」が急速に発生します。

１　グランドチャレンジ：AI時代に立ちはだかる難問群

多くの方は、AIの最大の危険性は「AIが人類を乗っ取るリスク（アライメントの失敗）」だと考えがちです。確かにそれは重要ですが、専門家は「全か無か」ではない、もっと幅広い課題に備える必要があると警告しています。

この知能爆発が引き起こすGCは多岐にわたり、互いに影響し合います。

• 破壊的技術の拡散: 生物兵器やドローンスウォーム、巨大な核兵器の備蓄など、攻撃が防御を上回る新しい破壊的技術が容易に製造可能になるリスクです。
• 権力集中と価値観の固定化: AIに完全に忠実な自動化された軍隊や官僚機構が出現すれば、独裁者が反乱を抑え、その体制と価値観が極めて長期間にわたって固定化されてしまう可能性があります。
• 認識論的混乱: AIの「超説得」能力によって、偽の情報が拡散し、社会が集合的な意思決定能力を損なうリスクです。
• デジタル存在の権利: 非常に人間らしく振る舞うAIエージェント、すなわち「デジタル存在（デジタルマインド）」が誕生したとき、彼らに権利を与えるべきかという、難解な倫理的・法的な課題です。
• 宇宙資源の争奪戦: 宇宙資源の採掘が可能になった際、特定の国や企業がオフワールド資源を独占し、それを恒久的な優位性に変えるリスクもあります。

2　なぜ「今すぐ」準備が必要なのか

「超知能AIがアラインメントに成功すれば、これらの問題はAIが解決してくれるはずだ」と考えるかもしれません。しかし、そうではありません。

私たちが直面しているのは、「機会の窓が早く閉じてしまう」国際的なルールや制度を今すぐ作らなければ、勝者が決まった後では手遅れになります。

３　今、私たちができる準備

人類の意思決定能力や制度設計の速度は技術の加速に追いついていません。だからこそ、私たちは今すぐ準備を始める必要があります。

• 意思決定を改善するAIツールの活用: ファクトチェックや未来予測、政策アドバイスなど、集合的な意思決定を助けるAIツールを開発し、政府や社会に統合します。
• 責任あるアクターの強化: AI開発や政治において、責任感と能力を持つリーダーを支援します。
• 特定の制度設計の早期着手: デジタル存在の権利や宇宙ガバナンスなど、未だにルールがない領域の制度設計を先行して行います。

知能爆発は、人類の文明の方向性を決める「分岐点」です。未来がすべてAIに委ねられるわけではありません。私たちが今すぐ賢明で謙虚な準備を行うことが、人類の未来を大きく左右するのです。