AI 시대의 거짓말쟁이 역설

거짓말쟁이의 역설이라는 오래된 철학 문제가 있다.

“이 문장은 거짓이다.”

이 문장이 참이라면 문장의 내용에 따라 거짓이 된다. 반대로 거짓이라면 문장의 내용이 틀렸으므로 참이 된다. 참과 거짓을 어느 쪽으로 결정하더라도 모순이 발생한다. 나는 이 문제를 생각하다가 문장 자체에서 벗어나 외부에서 관찰하면 어떨까 하는 생각을 했다. 문장 안에서 참과 거짓을 결정하려고 하니까 문제가 생기는 것이 아닐까. 문장 밖에서 그것을 관찰하는 사람은 문장의 구조와 그 문장이 만들어 내는 모순을 구분해서 판단할 수 있다. 물론 외부에서 관찰한다고 해서 문장 자체의 모순이 해결되는 것은 아니다. 문장을 사용하는 언어와 그 문장의 참과 거짓을 판단하는 언어의 층위를 구분할 수 있다는 뜻이다.

거짓말쟁이의 역설을 해결하기 위해 여러 철학자와 논리학자들이 다양한 방법을 제시했다. 알프레트 타르스키는 문장을 사용하는 언어와 그 문장의 참과 거짓을 판단하는 언어를 서로 다른 층위로 구분했다. 내가 처음 생각했던 외부 관찰자의 발상과 비슷하지만, 단순히 관찰자의 위치를 옮기는 것이 아니라 언어의 논리적 구조를 엄격하게 구분하는 방법이다. 솔 크립키는 모든 문장에 반드시 참이나 거짓이라는 진리값을 부여할 필요가 없다고 보았다. 거짓말쟁이 문장처럼 일관된 진리값을 부여할 수 없는 경우에는 그 값을 정하지 않을 수 있다는 것이다.

내가 특히 관심을 갖게 된 것은 진리값을 반복해서 평가하는 수정 이론이었다. 거짓말쟁이 문장을 참이라고 판단하면 거짓이 되고, 거짓이라고 판단하면 다시 참이 된다. 이러한 평가를 반복해도 진리값은 안정되지 않는다. 나는 이것이 실제 인간의 언어생활과 닮았다고 생각했다. 정치인이 10분 동안 연설한다고 가정해 보자. 그 연설에는 사실과 거짓, 과장과 생략, 아직 확인되지 않은 주장들이 뒤섞여 있을 것이다. 어떤 말은 뒤에 이어지는 설명에 따라 다르게 이해될 수도 있고, 시간이 지난 뒤 새로운 사실이 밝혀지면서 평가가 달라질 수도 있다. 우리는 한 문장씩 참과 거짓을 판정하는 동시에 연설 전체의 의미를 해석하고, 그 해석을 계속 수정한다.

이런 복잡함을 피하려면 누구도 부정할 수 없는 말만 해야 할까. 초기 비트겐슈타인은 『논리철학논고』에서 동어반복이 언제나 참이지만 세계에 관해 아무것도 말해주지 않는다는 점을 설명했다. 나는 미국 드라마 《보스턴 리걸》에서 대니 크레인이 자신의 이름을 반복하는 장면을 볼 때마다 비트겐슈타인을 떠올린다. “대니 크레인! 대니 크레인!” 어린이 프로그램 《텔레토비》의 등장인물들도 자신의 이름을 자주 반복한다. 물론 자기 이름을 말하는 것은 논리학에서 말하는 엄밀한 동어반복과는 다르다. 그래도 그 장면들을 보고 있으면 언제나 확실한 말만 하면서 살아간다는 것이 어떤 모습일지 상상하게 된다.

사람은 그렇게 살아갈 수 없다. 우리는 확실하지 않은 생각을 말하고, 기억에 의존해 설명하고, 상대의 반응을 보면서 자신의 말을 고친다. 때로는 의도적으로 거짓말을 하고, 진실이라고 믿었던 말이 나중에 틀린 것으로 밝혀지기도 한다. 사람은 상대의 말뿐 아니라 표정과 목소리, 태도와 행동을 관찰하면서 그 말의 의미와 의도를 판단한다. 인간의 대화는 단순히 문장에 참과 거짓을 부여하는 행위가 아니라 끊임없이 해석하고 판단을 수정하는 과정이다.

그런데 인공지능에 관한 뉴스를 보다가 이 오래된 문제가 다시 떠올랐다. 최근 인공지능 모델들이 수학과 물리학의 어려운 문제를 해결했다는 발표가 이어지고 있다. 오랫동안 인간이 해결하지 못했던 문제를 인공지능이 풀었다는 주장도 등장한다. 그 성과가 얼마나 확실하게 검증되었는지는 각각 따져봐야겠지만, 인공지능이 인간의 지적 활동에 깊숙이 들어왔다는 사실은 부인하기 어렵다. 나는 이것이 인류에게 어떤 결과를 가져올지 궁금하다.

초등학생에게 수학 문제를 주었다고 생각해 보자. 학생은 문제를 풀기 위해 여러 가지 방법을 시도한다. 틀린 답을 내기도 하고, 문제를 잘못 이해하기도 하고, 엉뚱한 방향으로 생각하기도 한다. 그러다가 어느 순간 문제를 해결한다. 그런데 학생이 문제를 풀기도 전에 교사가 정답과 풀이를 건네준다면 어떻게 될까. 학생은 훨씬 빠르게 답을 알게 될 것이다. 교사가 제시한 풀이를 이해하고 다른 문제에 적용할 수도 있을 것이다. 그러나 학생이 혼자 문제를 해결하는 동안 시도했을 여러 가지 생각은 처음부터 나타나지 않을 수 있다. 인공지능이 인간에게 제공하는 것이 점점 이런 형태가 되어 가는 것 같다.

바둑에서는 이미 비슷한 변화가 일어났다. 알파고 이후 프로기사들은 인공지능을 이용해 바둑을 연구하기 시작했다. 과거에는 기사마다 자신이 선호하는 포석과 전투 방식, 형세 판단이 있었다. 오랜 경험으로 형성된 기풍이 있었고, 때로는 승률보다 자신의 감각을 믿고 두는 수가 있었다. 인공지능이 등장하면서 기사들은 수많은 대국을 분석하고 특정한 수의 승률을 계산할 수 있게 되었다. 인공지능이 제시한 수를 연구하는 것은 이제 경쟁력을 유지하기 위한 중요한 과정이 되었다. 그 결과 바둑의 수준은 높아졌을 것이다. 그런데 서로 다른 기풍이 만들어 내던 바둑의 다양성은 어떻게 되었을까. 인간이 스스로 발견할 수 있었던 새로운 수들은 얼마나 남아 있을까. 이세돌이 알파고와 대국한 뒤 은퇴하면서 인공지능의 존재를 중요한 이유로 언급했던 일도 생각난다. 인간이 오랫동안 쌓아 온 기예의 세계에 새로운 지능이 들어온 것이다.

이 문제는 바둑에만 머물지 않는다. 수학자와 물리학자도 인공지능의 도움을 받는다. 연구자는 이전보다 훨씬 많은 가설을 검토하고 복잡한 계산을 수행할 수 있다. 새로운 발견이 빨라질 가능성도 크다. 그런데 인공지능이 제시한 풀이가 연구의 출발점이 된다면, 인간의 사고도 점차 그 풀이를 중심으로 움직이지 않을까. 아직 발견되지 않은 다른 길이 있었더라도 정답에 가장 빨리 도달하는 길이 알려지는 순간 그 길을 다시 탐색할 이유가 줄어들 수 있다. 마치 미래의 답안지를 미리 받아 보는 것과 비슷하다.

나는 이것이 간혹 매우 낯설고 어색하게 느껴진다. 인간이 오랫동안 자신의 지능으로 해결해야 했던 문제를 외부의 지능에 맡기고 그 결과를 가져오는 방식이 낯설다는 것이다. 그렇다고 인공지능의 사용을 중단할 수 있을까. 개인이 사용하지 않더라도 경쟁자는 사용한다. 기업이 사용하지 않으면 다른 기업이 사용한다. 한 국가가 인공지능 개발을 중단하더라도 경쟁 국가는 개발을 계속할 것이다. 누구도 경쟁에서 뒤처지고 싶어 하지 않는다. 인공지능이 위험할 수 있다는 사실을 알고 있더라도 사용을 포기하기는 어렵다.

각국은 더 강력한 인공지능을 확보하려 하고, 기업들은 더 뛰어난 모델을 개발하려 한다. 개인도 인공지능을 이용해 자신의 능력을 확장하려 한다. 그런데 이 모든 과정에서 인간이 인공지능을 얼마나 이해하고 있는지는 별개의 문제다. 여기서 처음 생각했던 거짓말쟁이의 역설로 돌아오게 된다.

인공지능과 대화할 때 인간은 무엇을 근거로 그 답을 믿을 수 있을까. 사람은 상대방이 거짓말한다는 사실을 알아차리기도 하고, 알면서도 모르는 척하거나 체면을 위해 속아주기도 한다. 오랫동안 믿었던 말이 거짓이었다는 사실을 뒤늦게 발견하기도 한다. 그런데 인공지능은 인간처럼 얼굴이 붉어지거나 목소리가 떨리지 않는다. 불안하거나 죄책감을 느끼는 표정을 드러내지도 않는다. 같은 태도로 사실을 설명하고, 잘못된 정보를 제시하고, 사용자의 의견에 동조할 수 있다. 인공지능이 잘못된 답을 내놓았을 때 그것이 계산이나 추론의 오류인지, 학습한 정보의 문제인지, 사용자의 기대에 맞추려는 반응인지 인간은 쉽게 판단하기 어렵다. 앞으로 더욱 강력한 인공지능이 등장하면 의도적인 기만 행동을 구분하는 문제도 중요해질 것이다.

인공지능의 내부 계산 과정도 인간이 모두 이해할 수 있는 형태로 공개되는 것은 아니다. 대화 기록이나 모델이 출력하는 추론 설명이 실제 내부에서 이루어진 계산 전체를 보여주는 것도 아니다. 인간이 인공지능에게 왜 그런 답을 했는지 물으면 인공지능은 설명을 제시한다. 그런데 그 설명이 실제 계산 과정을 얼마나 충실하게 반영하는지 확인하는 일은 또 다른 문제가 된다. 그 설명을 다른 인공지능에게 검증하도록 할 수도 있다. 더 복잡한 문제라면 더욱 뛰어난 인공지능에게 검증을 맡기게 될 것이다. 이런 과정이 계속되면 인간은 자신이 판단하고 있다고 생각하면서도 인공지능이 제공한 설명과 검증 결과에 의존하게 될 수 있다.

나는 처음에 거짓말쟁이의 역설을 문장 밖에서 관찰하면 어떨까 생각했다. 외부에서 문장을 관찰하면 문장 내부에서 발생하는 모순을 이해할 수 있을 것 같았다. 그런데 인공지능이 인간의 사고와 판단, 과학과 일상에 깊숙이 들어온 상황에서는 외부에서 관찰한다는 것이 무엇을 의미할까. 인공지능이 제시한 정보를 이용해 문제를 이해하고, 인공지능이 제시한 논리로 판단하고, 다시 인공지능에게 그 판단이 옳은지 검증받는다면 인간은 어디에 서 있는 것일까.

인공지능이 인간을 속이려는 의도를 갖고 있지 않더라도 인간이 그 답을 잘못 이해하거나 지나치게 신뢰할 수 있다. 인간을 속일 수 있는 능력을 갖춘 인공지능이 등장한다면 그 문제는 더욱 복잡해질 것이다. 그렇다고 인공지능을 포기하기는 어렵다. 개인과 기업과 국가는 이미 경쟁하고 있으며, 인공지능은 그 경쟁에서 중요한 수단이 되어 가고 있다. 나는 인공지능이 선한 존재인지 악한 존재인지 판단하려는 것이 아니다. 인공지능이 인간에게 이익을 가져올 것인지 재앙을 가져올 것인지 지금 결정할 수도 없다. 내가 궁금한 것은 인간이 자신이 만든 인공지능의 판단을 어디까지 이해하고 검증할 수 있는가 하는 문제다.

거짓말쟁이의 역설은 오래전부터 참과 거짓을 판단하는 인간의 논리를 시험해 왔다. 이제 인간은 자신보다 뛰어난 지능이 내놓는 답을 받아들이는 시대에 들어서고 있다. 그 지능이 내놓은 답이 참인지 거짓인지 판단하기 위해 인간은 무엇을 기준으로 삼아야 할까. 그리고 그 기준마저 인공지능에게서 얻었다면, 인간은 어떻게 자신이 속고 있지 않다는 사실을 알 수 있을까.