AI時代の嘘つきのパラドックス

嘘つきのパラドックスと呼ばれる、古くからある哲学上の問題がある。

「この文は偽である。」

この文が真であるなら、文の内容に従って偽になる。逆に偽であるなら、文の内容が誤っているのだから真になる。真と偽のどちらに決めても矛盾が生じる。私はこの問題について考えているうちに、文そのものから離れ、外側から観察してみたらどうだろうかと思った。文の内側で真と偽を決めようとするから問題が生じるのではないだろうか。文を外側から観察する人は、その文の構造と、文が生み出す矛盾とを区別して判断できる。もちろん、外側から観察したからといって、文そのものの矛盾が解消されるわけではない。文を使用する言語と、その文の真偽を判断する言語の階層を区別できるという意味である。

嘘つきのパラドックスを解決するために、さまざまな哲学者や論理学者が多様な方法を提案してきた。アルフレト・タルスキは、文を使用する言語と、その文の真偽を判断する言語を異なる階層に分けた。私が最初に考えた外部の観察者という発想に似ているが、単に観察者の位置を移すのではなく、言語の論理的構造を厳密に区別する方法である。ソール・クリプキは、すべての文に必ず真か偽という真理値を与える必要はないと考えた。嘘つきの文のように、一貫した真理値を与えられない場合には、その値を定めずにおくことができるというのである。

私が特に関心を持ったのは、真理値を繰り返し評価する真理の改訂理論だった。嘘つきの文を真だと判断すると偽になり、偽だと判断すると再び真になる。この評価を何度繰り返しても、真理値は安定しない。私はこれが、人間の実際の言語生活に似ていると思った。ある政治家が10分間演説すると仮定してみよう。その演説には、事実と虚偽、誇張と省略、まだ確認されていない主張が入り交じっているだろう。ある発言は、その後に続く説明によって違った意味に理解されることもあり、時間が経って新たな事実が明らかになることで評価が変わることもある。私たちは一つひとつの文の真偽を判定すると同時に、演説全体の意味を解釈し、その解釈を絶えず修正している。

こうした複雑さを避けるには、誰にも否定できないことだけを話せばよいのだろうか。初期のウィトゲンシュタインは『論理哲学論考』で、トートロジーは常に真であるが、世界については何も語らないということを説明した。私はアメリカのテレビドラマ『ボストン・リーガル』で、デニー・クレインが自分の名前を繰り返す場面を見るたびに、ウィトゲンシュタインを思い出す。「デニー・クレイン！ デニー・クレイン！」子ども向け番組『テレタビーズ』の登場人物たちも、自分の名前をよく繰り返す。もちろん、自分の名前を口にすることは、論理学でいう厳密な意味でのトートロジーとは異なる。それでも、そうした場面を見ていると、常に確実なことだけを話して生きるとは、どのような姿なのだろうかと想像する。

人間はそのようには生きられない。私たちは確かではない考えを口にし、記憶に頼って説明し、相手の反応を見ながら自分の言葉を訂正する。時には意図的に嘘をつき、真実だと信じていたことが後になって誤りだと判明することもある。人は相手の言葉だけでなく、表情や声、態度や行動も観察しながら、その言葉の意味や意図を判断する。人間の会話は、単に文に真と偽を与える行為ではなく、絶えず解釈し、判断を修正していく過程なのである。

ところが、人工知能に関するニュースを見ているうちに、この古い問題を再び思い出した。最近、人工知能のモデルが数学や物理学の難しい問題を解決したという発表が相次いでいる。人間が長い間解決できなかった問題を人工知能が解いたという主張も現れている。その成果がどの程度確実に検証されているかは、それぞれ調べる必要があるが、人工知能が人間の知的活動に深く入り込んでいるという事実は否定しがたい。私はこれが人類にどのような結果をもたらすのか気になっている。

小学生に算数の問題を出したと考えてみよう。児童は問題を解くためにさまざまな方法を試す。間違った答えを出すこともあり、問題を誤解することもあり、見当違いの方向に考えを進めることもある。そうして、ある瞬間に問題を解決する。ところが、児童が問題を解く前に、教師が正解と解き方を渡してしまったらどうなるだろうか。児童ははるかに早く答えを知ることになるだろう。教師が示した解き方を理解し、別の問題に応用することもできるだろう。しかし、児童が一人で問題を解く間に試していたはずのさまざまな考えは、最初から生まれないかもしれない。人工知能が人間に提供するものは、次第にこのような形になっているように思える。

囲碁では、すでに似た変化が起きている。AlphaGo以降、プロ棋士たちは人工知能を利用して囲碁を研究するようになった。かつては棋士ごとに好みの布石や戦い方、形勢判断があった。長い経験によって形成された棋風があり、時には勝率よりも自分の感覚を信じて打つ一手もあった。人工知能の登場によって、棋士たちは膨大な数の対局を分析し、特定の一手の勝率を計算できるようになった。人工知能が示す手を研究することは、今では競争力を維持するための重要な過程となっている。その結果、囲碁の水準は高まったのだろう。では、異なる棋風が生み出していた囲碁の多様性はどうなったのだろうか。人間が自ら発見できたはずの新しい手は、どれほど残されているのだろうか。イ・セドルがAlphaGoとの対局後に引退する際、人工知能の存在を重要な理由として挙げたことも思い出す。人間が長い時間をかけて築き上げてきた技芸の世界に、新しい知能が入り込んだのである。

この問題は囲碁だけにとどまらない。数学者や物理学者も人工知能の助けを借りている。研究者は以前よりはるかに多くの仮説を検討し、複雑な計算を実行できる。新しい発見が早まる可能性も大きい。ところが、人工知能が示した解法が研究の出発点になるとすれば、人間の思考も次第にその解法を中心に動くようになるのではないだろうか。まだ発見されていない別の道があったとしても、正解に最も早く到達する道が知られた瞬間、その道を改めて探索する理由は少なくなるかもしれない。まるで未来の解答用紙を前もって受け取るようなものだ。

私はこれを時折、とても奇妙で、どこか違和感のあることのように感じる。人間が長い間、自分自身の知能で解決しなければならなかった問題を、外部の知能に任せ、その結果を持ち帰るというやり方が奇妙に感じられるのである。だからといって、人工知能の使用をやめられるだろうか。個人が使わなくても競争相手は使う。企業が使わなければ、別の企業が使う。一つの国家が人工知能の開発を中止しても、競争相手の国家は開発を続けるだろう。誰も競争に取り残されたくはない。人工知能が危険かもしれないと知っていても、その使用を放棄するのは難しい。

各国はより強力な人工知能を確保しようとし、企業はより優れたモデルを開発しようとしている。個人も人工知能を利用して自分の能力を拡張しようとする。ところが、このすべての過程で、人間が人工知能をどこまで理解しているのかは別の問題である。ここで、最初に考えた嘘つきのパラドックスに戻ることになる。

人工知能と対話するとき、人間は何を根拠にその答えを信じることができるのだろうか。人は相手が嘘をついていることに気づくこともあれば、知っていながら知らないふりをしたり、相手の面目を保つために騙されたふりをしたりすることもある。長い間信じていた言葉が嘘だったと、後になって気づくこともある。ところが、人工知能は人間のように顔を赤らめたり、声を震わせたりしない。不安や罪悪感を覚えているような表情を見せることもない。同じ態度で事実を説明し、誤った情報を提示し、利用者の意見に同調することができる。人工知能が誤った答えを出したとき、それが計算や推論の誤りなのか、学習した情報の問題なのか、利用者の期待に合わせようとする反応なのかを、人間が簡単に判断することは難しい。今後、さらに強力な人工知能が登場すれば、意図的な欺瞞行動を見分けることも重要な問題になるだろう。

人工知能の内部で行われる計算過程も、人間がすべて理解できる形で公開されているわけではない。対話の記録やモデルが出力する推論の説明が、実際に内部で行われた計算のすべてを示しているわけでもない。人間が人工知能に、なぜそのような答えを出したのかと尋ねると、人工知能は説明を提示する。ところが、その説明が実際の計算過程をどこまで忠実に反映しているのかを確認することは、また別の問題になる。その説明を別の人工知能に検証させることもできる。さらに複雑な問題であれば、より優れた人工知能に検証を任せることになるだろう。こうした過程が続けば、人間は自分で判断していると思いながらも、人工知能が提供する説明と検証結果に依存するようになるかもしれない。

私は最初、嘘つきのパラドックスを文の外側から観察してみたらどうだろうかと考えた。外側から文を観察すれば、文の内部で生じる矛盾を理解できるように思えた。ところが、人工知能が人間の思考や判断、科学や日常生活に深く入り込んだ状況では、外側から観察するとは何を意味するのだろうか。人工知能が示した情報を使って問題を理解し、人工知能が示した論理で判断し、再び人工知能にその判断が正しいかどうかを検証してもらうとすれば、人間はどこに立っているのだろうか。

人工知能に人間を騙そうとする意図がなくても、人間がその答えを誤解したり、過度に信頼したりすることはある。人間を騙す能力を備えた人工知能が登場すれば、問題はさらに複雑になるだろう。だからといって、人工知能を放棄するのは難しい。個人も企業も国家もすでに競争しており、人工知能はその競争における重要な手段になりつつある。私は人工知能が善い存在なのか悪い存在なのかを判断しようとしているのではない。人工知能が人類に利益をもたらすのか、災厄をもたらすのかを今決めることもできない。私が知りたいのは、人間が自ら作り出した人工知能の判断を、どこまで理解し、検証できるのかという問題である。

嘘つきのパラドックスは、古くから真と偽を判断する人間の論理を試してきた。今や人間は、自分より優れた知能が出す答えを受け入れる時代に入りつつある。その知能が出した答えが真なのか偽なのかを判断するために、人間は何を基準にすればよいのだろうか。そして、その基準さえも人工知能から得たものだとすれば、人間は自分が騙されていないことを、どうすれば知ることができるのだろうか。