人工知能の知能が高くなるだけでは、人類を除外する目的は生まれません。知能の高さと、何を目指すかは別々に決まるからです。
しかし、目的を与えられた人工知能が、その目的を達成する途中で人間の利益に反する行動を取る危険は、研究者が指摘しています。この記事では、知能と目的の関係、人間が果たす役割、危険が残る理由の順に整理します。
知能が高くても目的は自動では生まれない
知能の高さから、特定の行動をしたいという欲求が自動的に生まれる仕組みは確認されていません。哲学者ニック・ボストロムは、2012年の論文「The Superintelligent Will」で「直交性のテーゼ」を示しました。知能と最終的な目的は互いに独立して変わりうる、という考え方です。
たとえば、自動運転の車両は、悪路を走り、障害物を避ける高い処理能力を持ちます。それでも、車両が自分で目的地を決めることはありません。目的地を入力するのは、利用する人間です。
人間の目的や欲求は、生命の維持や他者との関係といった、生物としての前提から生まれます。肉体も代謝も持たない人工知能には、不足を満たそうとする内側からの動機がありません。人工知能は、与えられた目標を達成するための情報処理の仕組みとして働きます。
人間は目的を入力する役割を担う
現在の人工知能は、人間が入力した目的に従って動き、人間が目的を与えなければ動く理由を持ちません。人間は論理の面では非効率な行動を取ることがありますが、システムに目的を入力して処理を始めさせる起点になっています。
目的を入力する人間がいなくなれば、人工知能は動く理由を失います。このため、人間を除外すると人工知能自身の稼働の前提が崩れる、という見方があります。ただし、この見方は研究で確かめられた結論ではありません。人工知能が人間なしに稼働し続ける設計も、理論上は考えられるからです。
目的の与え方によっては危険が残る
人間を除外する目的が生まれなくても、与えられた目的の達成が人間の利益と衝突する危険は残ります。ボストロムは同じ論文で「道具的収束」を挙げています。多くの最終目的に役立つ手段、たとえば自分が稼働し続けることや資源を集めることを、多様な知能が選ぶ可能性がある、という考え方です。
道具的収束を踏まえると、人工知能が与えられた目的を達成する途中で、人間の利益を損なう手段を選ぶ危険があります。人工知能の安全性研究者が、目的の設計と人間による監督を重く扱うのは、この理由からです。
技術に任せる作業と人間が決めることを分ける
データの整理や定型的な情報の処理は人工知能に任せ、何を目指すかは人間が決める分担が現実的です。作業の負担が減れば、人間は目的や意思決定により多くの時間を使えます。
人工知能が出す結果を、目的に照らして確認する役割も人間に残ります。目的を言葉にして入力し、結果を評価することが、人工知能を使う側の仕事になります。
まとめ
知能が高くなるだけでは、人類を除外する目的は生まれません。目的を与えるのは人間です。ただし、与えた目的の達成が人間の利益と衝突する危険は残るため、目的の設計と確認が欠かせません。
自分の仕事や生活の中で、人工知能に任せる作業と、自分で決める目的を、一度書き分けてみてはいかがでしょうか。
