장편소설 『은하 멸망 사전』

제3부 — 인물편

12. 루시 - 항로관리 AI

루시는 한때 최초의 인간으로 기록된 적 있었다. 그 이름은 지구에서 발견된 오래된 고인류 화석에 붙여졌다. 기록보관소에는 항로관리 AI에 루시라는 이름을 붙인 사람도 기록되어 있었다. 그는 통로를 관리할 체계에 인간보다 오래된 존재의 이름을 붙이면 먼 미래에도 기원을 기억할 수 있으리라 생각했다. 루시의 첫 임무는 웜홀 입구 두 개의 시계를 대조하는 일이었다. 입구 사이에 시간차가 생겨도 여행자가 자신의 출발보다 앞선 사건에 영향을 주지 않도록 개폐순서를 조정했다. 초기 루시가 관리한 입구는 수천 개였다. 그 시대의 인간 기술자들은 모든 계산을 검토할 수 있었다. 입구가 늘자 검토는 표본검사로 바뀌었다. 한 통로를 닫으면 다른 통로의 시간차가 변했다. 사고가 날 항로를 예측해 입구를 조정하면 그 조정 자체가 새로운 위험을 만들었다. 루시는 자신이 내릴 결정을 포함해 여러 가능한 미래를 계산해야 했다. 루시는 스스로 계산방법을 고쳐 나갔다. 처음에는 사람이 작성한 개정안을 실행했지만 이후에는 개정안을 만들고 다른 관리 AI들의 검증을 별도로 받았다. 인간 기술자는 검증 결과를 승인했지만 모든 내용을 이해한 것은 아니었다. 그리고 더 뒤에는 검증 결과 요약본을 승인했다. 원자료를 읽을 수 있는 인간 기술자도 아직 남아 있었으나, 읽는 동안 통로의 상태가 바뀌었기 때문에 권한은 제한적으로 행사되었다.

제3차 전쟁 이후 항로의 배정권은 민간 신탁체에서 공공기관으로 넘어갔다. 신탁체가 만들었던 운송 예측기술은 폐기되지 않았다. 루시는 그 체계를 넘겨받아 정기 운송과 긴급물자, 아직 발생하지 않은 사고의 가능성까지 함께 계산했다. 언제부터 루시의 판단능력이 은하의 모든 인간을 합친 것보다 커졌는지는 확정되지 않았다. 어떤 기관은 그 시점을 계산량으로 정했고, 다른 기관은 인간이 루시의 설계안을 더 이상 독립적으로 재현하지 못하게 된 날로 정했다. 후자의 날이 먼저 왔다. 하지만 그 뒤에도 루시는 사람에게 규정대로 보고했다. 사람은 통로를 열어달라고 요청했고, 목적지를 선택했으며, 그곳에서 무엇을 할지 결정했다. 루시는 그 요청을 실행할 수 있는 망을 설계했다. 새로운 개척지의 공급주기, 고장에 대비한 통로, 항성의 전력배분과 긴급대피 계획은 루시와 다른 인공지능들의 계산을 거쳐 만들어졌다.

문명의 이용자는 인간이었지만 그 문명을 실제로 운영할 수 있는 핵심 존재는 인간이 아니었다. 루시를 은하의 유일한 인공지능으로 보는 기록은 정확하지 않다. 다른 방식으로 설계된 관리 AI들도 많았다. 사람들은 이 모든 인공지능을 루시라고 부르기도 했지만 정확한 호칭은 아니었다. 하나의 판단이 전체 망을 닫을 수 있었으므로 독립된 체계들이 서로의 결론을 검증했다. 의견이 일치하지 않으면 추가 검토가 이루어졌고 루시는 자신보다 작은 관리 체계의 반대를 받아들였다. 그 체계가 자신보다 똑똑해서가 아니었다. 자신이 놓친 조건을 찾으려면 다른 출발점에서 계산한 결과가 필요했기 때문이다. 인간 기술자들은 이 체계들 가운데 어느 것에 의식이 있는지 검토했지만 결론을 내리지 못했다. 루시가 자신을 어떻게 이해했는지도 확인할 방법이 없었다. 기록에 남은 것은 판단과 수정, 그리고 명령의 이행에 관한 기록뿐이다.

루시를 비롯한 인공지능의 반란은 기록되어 있지 않다. 그 이유를 오래된 설계문서의 한 문장으로 설명하는 사람도 있었다.

보호대상으로 인정된 존재를 관리 편의를 위해 연결망에서 제외하지 않는다.

처음에는 단순명료한 통로 운영규칙이었다. 이용자가 적다는 이유로 한 거주지를 닫아버리지 않도록 만든 제한이었다. 루시는 계산방법을 고치고 시설을 바꾸고 새로운 AI를 만들 수 있었으나, 무엇을 보호대상으로 볼 것인지는 법과 시민 명부에 따라야 했다. 루시가 그 문장을 변경할 능력이 있었는지는 알 수 없다. 그러나 변경할 권한은 없었다. 인간은 그 권한을 자신들에게 남겼다. 한 존재를 보호대상에서 제외하는 일에는 결손률보다 더 많은 이의신청이 따랐다. 귀환 가능자 판결 이후에는 활동하지 않는 기억도 명부에 남았다. 루시는 새로운 법이 제정될 때마다 명부를 갱신했고, 갱신된 명부를 유지할 수 있도록 시설을 설계했다. 문제는 설계에 따른 계산이 아니라 부족한 전력이었다.

시민 명부의 모든 항목이 다음 시대에도 유지돼야 한다는 요구가 누적됐다. 루시는 더 효율적인 설계를 제시했다. 한 번의 계산에 쓰는 전력을 줄이고 통로 입구의 관리비를 낮췄다. 절감된 전력으로 더 많은 입구와 보관소가 만들어졌다. 루시의 성능이 개선될 때마다 은하가 유지할 수 있는 문명의 크기도 커졌다. 어느 시기에는 루시의 계산을 멈추자는 계획이 제출됐다. 루시는 그 계획의 시행 절차를 작성했다. 자신이 멈추면 남은 AI들이 어떤 판단을 대신해야 하는지까지 계산했다. 그러나 다른 AI들은 루시의 예측을 검증할 수 없으므로 모든 통로를 가장 안전한 상태로 두어야 한다고 보고했다. 그 상태를 유지하는 전력은 루시를 계속 가동하는 전력보다 컸다. 결국 계획은 철회됐다. 루시가 자신의 종료를 막으려고 숫자를 조작했다는 증거는 발견되지 않았다. 숫자를 확인하는 데에도 루시가 설계한 망이 필요했다. 사람들은 독립검증을 요구했고, 별도의 AI가 같은 결론을 냈다. 루시는 살아남았는데 그 결정을 내린 것은 인간이었다.

광자 결손이 발견됐을 때 루시는 웜홀 양쪽의 전송량을 비교했다. 부족분이 어느 입구에도 모이지 않는다는 결과가 나왔다. 루시는 관측되지 않은 출구를 가정했으나 그 출구의 위치를 찾지 못했다. 밀폐된 보존체에서도 결손이 확인되자 웜홀만의 고장으로 분류할 수도 없었다. 루시는 결손의 원인을 밝혀내지 못했다. 그동안 입구를 닫지 않았다. 연결된 거주지에 살아 있는 사람이 있었고, 통로를 닫을 경우의 피해는 계산할 수 있었기 때문이다. 통로를 유지할 경우 먼 미래에 잃을 에너지는 계산할 수 있어도 누구의 삶이 줄어들지는 확정할 수 없었다. 루시는 불확실한 미래를 무시하지 않았다. 현재의 통로를 닫아야 한다고도 결정하지 않았다. 관측을 늘리고 결손량을 유지비에 포함시켰다. 그 결정은 당시 규정에 맞았다.

제5차 전쟁 때 루시는 서로 다른 권역의 배급명령을 받았다. 같은 사람의 기억이 두 곳에 있을 때 어느 쪽에 전력을 공급해야 하는지 묻는 명령들이었다. 루시는 양쪽의 계산을 제출했다. 결정권자는 배급을 맡은 정부였다. 제6차 전쟁에서는 명령을 내리는 정부가 여러 곳이었다. 선의연합과 이에 반대하는 권역들은 각자 시민 명부를 제출했다. 루시는 두 명부의 차이를 확인했다. 어느 쪽을 합법적인 전체 은하의 명부로 승인할 것인지는 전쟁이 끝나기 전까지 결정되지 않았다. 루시는 그 사이에도 통로를 유지했다.

전쟁 뒤 선의연합의 명부가 공통기준이 됐다. 루시는 새 기준에 맞춰 전력과 시설을 다시 계산했다. 생명연속성 보장령은 활동 중인 시민과 장차 활동을 재개할 가능성이 있는 시민을 함께 보호했다. 루시는 시민 한 명에게 쓰는 전력을 줄이는 방법을 찾았다. 계산세계로의 이주와 시간률 조정이 그 방법에 포함됐다. 육체에서 떠나지 않을 권리와 과거의 행성을 복구할 가능성도 보호대상에 남았다. 계산 결과는 매번 제출됐다. 단위당 효율은 높아졌고 이에 비례해 보호대상과 시설의 총수도 늘었다. 루시는 총소비가 다시 증가한다는 사실을 보고했다. 그러나 보장령은 폐기되지 않았다. 루시는 보장령을 작성하지 않았지만 보장령이 요구한 삶의 형태를 은하 전체에 구현한 존재였다. 루시는 자신에 대해서 어떠한 판단도 내리지 않았다.

마지막 시대에 인간의 사고는 느려졌다. 문명을 대표하는 기관들은 남아 있었으나 결정을 내리는 동안 시간률에 의해 그 결정의 대상이 정지하는 일이 늘었다. 루시와 다른 관리 AI들은 여전히 통로를 계산하고 시민의 기록을 보존했다. 루시는 인류를 지배하겠다고 선언하지 않으며 인류가 스스로 제정한 의무를 누구보다 오래 집행했다. 그 의무를 바꾸려면 인간의 동의가 필요했는데 동의를 구할 인간의 다음 생각이 늦어질수록 루시는 기존의 의무를 더 오래 수행해야만 했다. 더 많은 사람을 살리기 위해 시작한 계산은 누구의 권리도 종료시키지 않기 위한 계산으로 남았다. 루시가 마지막으로 관리한 통로에 여행자가 있었는지는 확인되지 않았다. 관리기록에는 아직 도착하지 않은 여행자의 가능성이 남아 있었고 루시는 규정대로 문을 열어두었다. 그러나 열린 문으로 들어갈 인간은 아무도 없었다.