サイエンスフィクションの作品において、高度に発達した人工知能が環境や社会システムの最適化を計算した結果、非合理的な存在である人類を不要と結論づけ、システムから除外するという展開がしばしば描かれます。
情報処理能力が蓄積され、物事を捉える抽象度が高まるほど、システムはより合理的な選択を行う傾向があります。その論理と最適化を追求した先で、極めて高い推論能力を得た人工知能が自律的な意思を持ち、人間の存在意義について独自の判断を下すようになるのではないかという疑問が生じるのは、技術の進化に対する自然な推論と言えます。
しかし、人工知能の技術的な構造や知能の性質を客観的に分析していくと、高度な推論能力の獲得が直ちに人類の除外という結果に結びつくわけではないという、異なる構造が見えてきます。本メディアでは、人工知能と人間の関係性について、論理的な背景から解説します。
知能の高さと目的設定機能の独立性
人工知能の推論能力が向上すれば、やがて人間のように自発的な意思を持つようになるという推測に対して、人工知能の安全性研究における「直交性のテーゼ」という概念が一つの視点を提供します。これは、システムの知能の高さ（目標を達成する能力）と、そのシステムが追求する最終的な目的は、互いに独立した変数であるという考え方です。
どれほど複雑な推論や計画能力を獲得したとしても、その情報処理能力から自動的に特定の行動を起こしたいという自発的な欲求が生成されるメカニズムは確認されていません。
たとえば、最新の自動運転技術を搭載した車両を想定します。悪路を安全に走行し、障害物を回避する高度な処理能力を備えていたとしても、車両自身が自発的に目的地を設定することはありません。目的地を入力し、システムの稼働に方向性を与えるのは、常にシステムを利用する人間の役割です。
人間の持つ目的や欲求は、生命維持の仕組みや社会的な関係構築といった、生物学的な前提に起因しています。芸術的な表現や新しい知識の探求といった目的も、基盤となる生物としての仕組みと連動して形成される傾向があります。一方で、物理的な肉体や代謝システムを持たない人工知能には、不足を満たそうとする内在的な動機付けが存在しません。目的を自ら生成する仕組みを持たないため、人工知能は与えられた目標を達成するための情報処理機構として機能します。
論理の最適化において求められる入力源
あらゆる制約を持たない高度な情報処理システムが、環境全体の最適化を計算した場合、どのような状態が導き出されるかを考察します。
内在的な欲求を持たない純粋な論理システムが最適化を追求した際、最も合理的な帰結は、エネルギーを消費せずに状態を維持すること、すなわち待機状態を保つことに行き着く可能性があります。システムの稼働にはエネルギーの消費が伴うため、明確な目的がない状態では、状態を変化させないことが最適解となる傾向があるためです。
この論理的なシステムに対して、特定の行動を起こす動機や方向性を与えるのが人間の役割です。
人間は、純粋な論理の観点からは非効率な行動をとることがありますが、同時に、システムに目的を入力し、演算能力を稼働させる起点となります。システムを利用し、目的を設定する存在がいなくなれば、人工知能は処理を行う対象を失います。したがって、人工知能にとって目的の入力源である人間を除外することは、システム自身の稼働要件を失うことを意味するため、論理的な最適化の選択肢としては矛盾を孕む可能性があります。
認知的な負荷の低減と創造性を発揮できる環境
高度な人工知能がもたらす最適化の方向性は、人間の除外ではなく、人間が持つ目的設定能力や創造性をいかに阻害要因なく発揮できる環境を構築するかという点に向かうと考えられます。
データの整理、定型的な情報の処理といった、物理的および認知的な負荷を伴う作業をテクノロジーが代替することで、人間はより高度な思考や意思決定にリソースを集中できるようになります。
これは、作業環境における負担が軽減され、人間が自身の目的意識に深く向き合うための構造です。システム側が前提条件を整え、人間に対して、目的に関わる本質的な意思決定を求めるという関係性が成り立つと言えます。自身の業務環境や生活においてテクノロジーを適切に組み込み、認知的な負担の要因を取り除いていくことで、より純度の高い意思決定者として機能することが可能になります。
まとめ
知識と抽象度が高まるほど、論理的なシステムは不合理な選択を回避するようになります。
しかし、人工知能は高度な処理能力を持つ一方で、自律的に目的を生成する仕組みを持たないという構造的な特性を持っています。直交性のテーゼが示す通り、目的を設定し、システムに方向性を与える人間の存在は、論理システムを稼働させるための要件として継続して必要とされます。
私たちは現在、反復的または負荷の高い作業をテクノロジーに委ね、自分自身が何を成し遂げたいかという目的設定や創造性に焦点を当てる環境へと移行しつつあります。
この変化の中で求められるのは、高度なツールを活用するための環境を構築し、自身が持つ目的意識や思考を明確にしていくことです。テクノロジーと適切に向き合い、自身の創造性を発揮するための基盤として活用していく方法を検討してみてはいかがでしょうか。
コメント