「AI以後 変貌するテクノロジーの嬉々と希望」丸山俊一著
マックス・テグマーク、ウェンデル・ウォラック、ダニエル・デネット、ケヴィン・ケリーという技術、倫理、哲学、そしてメディアの巨人を迎え撃つのは、NHKエンタープライズでBSスペシャル欲望の資本主義シリーズなどの話題作を世に問う、エクゼクティブプロデューサーの丸山俊一氏だ。
人工知能をAIという二文字に表すこの書籍は、テグマークのAI安全工学の枠組みでスタートする。アシロマAI原則、LAWS規制、富の集中などAI以後に抱える課題を明らかにし、AIが持つべき「意識」に質があるという地平に進む。ウォラックは倫理をテーマに自然科学をベースに人間共通の理性があるとする啓蒙思想が、倫理を道徳哲学によって科学することができるか、という問いを立てる。そして「知性」を自己認識と知恵と能力の判断だとする。意識を科学するのはダニエル・デネットだ。現在の技術が意識のあるような対話をすることを見せかけだと断じつつ、リチャード・ドーミンス「利己的な遺伝子」のミームを出現させてAIの遺伝的進化をAIの創造性のロードマップとして描く。ケヴィン・ケリーはこれまでテクノロジーに影響され続けてきた産業革命以降の人類の来し路をたどって異質なものと交わることで多くを得ることができたのだといいつつ、AIは人間にとって異質な隣人となるか言葉を濁す。
丸山氏はこの四領域を一つ一つ丁寧にピックアップしつつ、意識は身体にインストールされているのか、身体が意識を持っているのか意識の二元論を俯瞰していく。それはこれまで論じてきた意識に関する議論を統合して、東洋的な心身一元論と対比しながら知性の「理解力なき有能性」という結論に近づいていく。
本書の短くコンパクトにまとめられた凝縮した議論は、大きな知的興奮を与えてくれます。
現在、人工知能の工学的なアプローチで安全性や説明可能性が注目されていますが、ケリーは説明可能なAIを作るということが、自己存在と能力判断という知性を持った意識を作り出すことにつながるといいます。身体と意識の二元論は知性における一つのアーキテクチャであって、タコの知性のような分散処理系と人間のようなより中央集権的な処理系の違いでもあります。ウォラックは文中で、神経科学者バーナード・バーズが提唱した「意識はワーキングスペースで統合される」という意識の構造であるグローバルワークスーペース理論を機械に実装することができると中央集権的な二元論の実装を意識させます。一方でAIの意識がその処理能力故に必然的に分散処理を運命づけられるのであれば、群れのパターンが局所的相互作用が大量に集まって創発するというような群制御理論がAI以後の意識の基礎になるとも思います。デネットは進化を「設計なき適応」としましたが、AI以後のAIの進化が漸近性を獲得するなら、遺伝的アルゴリズムがもつ変異を時間に織り込んでいく生物の進化から人間が独立したような自律的進化を手に入れるかもしれないという可能性を示します。
「理解力なき有能性」はダニエル・カーネマンのファーストアンドスローを思い起こさせる。システム1によって引き起こされた誤りに満ちた非合理な判断は、非合理で有用な結論を導くか。そして、システム2がもたらす合理性は、それを極限まで突き詰めたときに限界費用ゼロ、富の偏在そして資本主義の崩壊をもたらしてしまうのは避けられないのだろうか。
