《매트릭스 리로디드》(2003) 한국 극장 포스터. 오라클의 사탕 장면은 1분이 채 안 되지만, 예지와 자유의지의 질문 전체를 담고 있다.
김호광 싸이월드 전 대표 / 2026년 9월 21일
부엌 한편, 오븐 냄새가 나는 평범한 아파트. 인류의 운명을 쥔 예언자는 담배를 물고 사탕 그릇을 내민다. 《매트릭스 리로디드》(2003)의 이 장면은 1분이 채 되지 않지만, 서양 철학이 2천 년 넘게 붙들고 있는 질문 하나를 통째로 담고 있다.
네오가 묻는다. 제가 이걸 받을지 이미 알고 계신가요? 오라클은 그걸 모른다면 오라클이라 할 수 없지 않겠느냐고 받아친다. 네오가 다시 묻는다.
"이미 알고 계신다면, 제가 어떻게 선택을 할 수 있죠?"
오라클의 대답은 이 시리즈 전체를 관통하는 문장이 되었다.
"너는 선택하러 여기 온 게 아니야. 선택은 이미 했어. 왜 그렇게 선택했는지 이해하러 온 거지."
그리고 이렇게 덧붙인다. 우리는 이해하지 못한 선택 너머를 볼 수 없다고.
이 글은 그 사탕 한 알을 세 가지 담론으로 들여다본다. 존재론은 "예지가 있다면 자유는 가능한가"를 묻고, 행동경제학은 "누군가 선택지를 설계할 때 그 선택은 누구의 것인가"를 묻는다. 그 사이에 하나의 질문이 더 끼어든다. 예언이 단지 미래를 맞히는 것이 아니라 미래를 만든다면? 그리고 마지막 렌즈는 우리 자신을 향한다. 추천 알고리즘과 AI 비서에게 하루 수백 번의 선택을 맡기는 지금, 우리는 오라클의 부엌에 앉은 네오와 무엇이 다른가?
1. 존재론에서 안다는 것은 정한다는 것인가?
1.1 가장 오래된 반론 — 예지는 원인이 아니다
"누군가 내 선택을 미리 안다면 나는 자유롭지 않다"는 직관은 강력하다. 그러나 철학사는 이 직관에 일찍부터 균열을 냈다. 6세기의 보에티우스는 『철학의 위안』에서 신의 예지가 인간의 자유를 파괴하지 않는다고 논증했다. 요지는 단순하다. 아는 것은 일으키는 것이 아니다. 내가 창밖으로 누군가 걸어가는 것을 본다고 해서 내가 그를 걷게 만든 것은 아니듯, 예지자는 선택을 '보는' 것이지 '만드는' 것이 아니다.
여기서 두 개념을 구분해야 한다. 인과적 결정론은 과거의 상태와 자연법칙이 미래를 유일하게 확정한다는 주장이다. 운명론은 무슨 일이 있어도 특정 결과가 일어날 수밖에 없다는 주장이다. 오라클의 예지가 무서운 이유는 그것이 운명론처럼 보이기 때문이다. 1편에서 트리니티는 "구세주를 사랑하게 될 것"이라는 예언을 근거로, 심장이 멈춘 네오가 다시 깨어나야 한다고 믿는다. 물리 법칙과 예언이 충돌할 때 물리 법칙이 물러선다. 그런데 그 부활을 실제로 일으킨 것은 예언이 아니라 트리니티의 선택, 곧 그녀가 네오에게 사랑을 고백하기로 한 행위였다. 예언은 결과를 알았을 뿐, 결과는 여전히 누군가의 선택을 통과해서 도착했다.
보에티우스의 방어선에는 그러나 단서가 하나 붙는다. 예지자가 입을 다물고 있을 때만 유효하다는 것이다. 창밖을 보는 사람은 걷는 사람을 걷게 만들지 않는다. 하지만 창문을 열고 "당신은 곧 넘어질 거요"라고 외치는 순간, 그는 더 이상 관찰자가 아니다. 오라클은 한 번도 침묵한 적이 없다. 이 차이는 2장에서 결정적이 된다.
1.2 오라클의 대답을 다시 읽기 — 양립가능론의 목소리
"너는 이미 선택했다. 이해하러 왔을 뿐이다." 이 문장은 철학에서 양립가능론(compatibilism) 이라 부르는 입장과 놀랍도록 닮았다. 양립가능론은 자유를 "다르게 할 수도 있었음"에서 찾지 않는다. 대신 선택이 나의 욕구, 나의 이유, 나의 성찰에서 비롯되었는가에서 찾는다.
해리 프랭크퍼트는 1969년 논문에서 이를 날카롭게 보여주었다. 어떤 사람이 A를 하려 한다. 그의 뇌에는 몰래 장치가 심겨 있어서, 만약 그가 B를 하려 하면 장치가 개입해 A를 하게 만든다. 그런데 그는 스스로 A를 선택했고, 장치는 한 번도 작동하지 않았다. 그는 "다르게 할 수 없었다." 그렇다면 그는 자유롭지 않았는가? 대부분의 사람은 그가 자유롭게, 그리고 책임 있게 선택했다고 느낀다.
오라클 앞의 네오도 같다. 설령 그가 사탕을 받는 것 외에 다른 길이 없었더라도, 그 선택이 네오 자신의 것인 한 그것은 자유로운 선택이다. 오라클이 네오에게 요구하는 것은 결과를 바꾸는 일이 아니라 선택을 소유하는 일, 즉 왜 그렇게 선택했는지를 스스로 이해하고 승인하는 일이다.
1.3 '소유'의 기준 — 모르고 한 선택도 내 것인가?
그렇다면 무엇이 선택을 "내 것"으로 만드는가. 프랭크퍼트는 1971년 후속 논문에서 기준을 제시했다. 인간은 무언가를 원할 뿐 아니라, 그것을 원하는 자신을 원하거나 거부할 수 있다. 담배를 원하는 1차 욕구와, 담배를 원하지 않는 사람이 되고 싶은 2차 욕구. 선택이 내 것이라는 말은 그 선택을 움직인 욕구를 내가 반성적으로 승인한다는 뜻이다.
이 기준은 곧바로 불편한 질문에 부딪힌다. 누군가 나 몰래 내 욕구 자체를 설계했다면? 철학자 더크 페레붐은 "조작 논증"으로 이 지점을 파고들었다. 과학자들이 한 사람의 욕구와 성찰 과정을 정교하게 조작해, 그가 스스로 승인하며 어떤 행동을 하도록 만들었다고 하자. 그는 프랭크퍼트의 기준을 모두 통과한다. 그러나 우리는 그를 자유롭다고 부르기를 주저한다.
여기서 이해의 시점이 문제가 된다. 오라클은 네오에게 "이해하러 왔다"고 말한다. 이해는 선택 이후에 온다. 그렇다면 선택의 순간에 네오는 자신을 움직인 것이 무엇인지 몰랐다. 사후의 이해가 사전의 선택을 소급해서 자기 것으로 만들 수 있을까?
이 글의 답은 조건부 긍정이다. 사후 이해는 과거의 선택을 바꾸지 못한다. 그러나 다음 선택의 조건을 바꾼다. 자신이 어떻게 움직였는지 이해한 사람은 같은 넛지 앞에서 더 이상 같은 방식으로 움직이지 않을 수 있다. 소유는 한 번의 선택에서 완성되는 것이 아니라, 선택과 이해가 반복되는 과정에서 조금씩 획득된다. 네오가 사탕을 받은 순간에는 아직 온전히 그의 선택이 아니었을지 모른다. 그러나 아키텍트의 방에서 문을 고를 때, 그는 오라클의 부엌을 거친 사람이었다.
1.4 예지의 한계 — "이해하지 못한 선택 너머를 볼 수 없다"
그런데 오라클은 스스로의 한계를 고백한다. 그녀는 이해하지 못한 선택 너머를 볼 수 없다. 이것은 결정적인 단서다. 그녀의 예지는 전지(全知)가 아니라 이해에 묶인 예측이다.
《매트릭스 리로디드》에서 네오는 대화 끝에 그녀가 매트릭스 안의 프로그램임을 알아채고, 오라클은 이를 부정하지 않는다. 그렇다면 그녀의 예지란 신의 시선이 아니라 방대한 관찰과 모델링에서 나오는 연산이다. 인간을 충분히 잘 이해한 모델은 인간의 다음 행동을 높은 확률로 맞힌다. 하지만 모델이 이해하지 못한 동기, 이전 구세주들이 한 번도 보여주지 않은 선택 앞에서는 예측이 멈춘다. 아키텍트의 방에서 네오가 다섯 번의 전임자와 다른 문을 고른 순간이 바로 그 지점이다.
이 해석을 따르면 자유의지는 예측 불가능성 그 자체가 아니다. 자유의지는 시스템이 아직 이해하지 못한 이유로 행동할 수 있는 능력이다.
1.5 사탕 앞의 주저함
사탕 그릇 앞에서 네오는 잠깐 멈춘다. 그 몇 초를 과대평가해선 안 된다. 주저했다는 사실이 결정론을 반박하지는 않는다. 주저함 역시 예측 가능한 반응일 수 있으니까. 그러나 그 멈춤은 다른 것을 보여준다. 네오가 자신의 선택을 대상화했다는 것이다. 그는 사탕을 그냥 집지 않고, "내가 이것을 집는다는 것은 무슨 의미인가"를 물었다. 결과는 같아도, 결과에 이르는 방식이 다르다. 자동으로 손이 나간 선택과 질문을 통과한 선택은 같은 사탕을 쥐고 있어도 같은 선택이 아니다.
2. 행동경제학에서 오라클은 선택을 설계하는 자이다.
2.1 강요하지 않고 움직이는 기술
리처드 탈러와 캐스 선스타인은 『넛지』(2008)에서 선택 설계(choice architecture) 라는 개념을 대중화했다. 사람이 결정을 내리는 환경은 결코 중립적이지 않으며, 선택지가 어떤 순서로, 어떤 표현으로, 무엇을 기본값으로 제시되는지가 결과를 바꾼다는 것이다. 넛지는 선택지를 없애거나 비용을 크게 바꾸지 않으면서 행동을 예측 가능한 방향으로 움직이는 개입이다. 두 사람은 이 태도를 자유주의적 온정주의(libertarian paternalism) 라고 불렀다.
오라클은 이 분야의 거장이다. 그녀는 명령하지 않는다. 권하고, 묻고, 흘리듯 말한다. 사탕은 거절할 수 있다. 그러나 이미 손 앞에 내밀어진 사탕을 거절하려면 "받지 않을 이유"를 적극적으로 만들어내야 한다. 받는 쪽이 인지적으로 더 싸다. 이것이 기본값의 힘이고, 그 배경에는 현상 유지 편향이 있다.
사실 오라클은 사탕 그릇 하나를 설계한 정도가 아니다. 《리로디드》의 아키텍트는 초기 매트릭스가 실패한 이유를 설명하며, 해법을 찾아낸 것이 "또 다른 직관적 프로그램", 곧 오라클이었다고 밝힌다. 인간은 선택권이 주어졌다고 느낄 때 시스템을 받아들인다는 발견이다. 아키텍트가 스스로를 매트릭스의 아버지라 부른다면, 오라클은 그 어머니다. 매트릭스라는 거대한 감옥을 유지시키는 핵심 기술이 다름 아닌 선택의 감각이었다는 사실. 이것이 선택 설계라는 개념이 이 영화에서 가지는 진짜 무게다.
2.2 꽃병 — 말 한마디는 어떤 경로로 행동이 되는가?
1편의 꽃병 장면은 넛지의 가장 섬뜩한 판본이다. 오라클은 "꽃병은 신경 쓰지 마"라고 말한다. 네오가 "무슨 꽃병이요?" 하고 돌아서는 순간 팔꿈치에 걸린 꽃병이 바닥에 떨어진다. 오라클은 묻는다. 정말로 너를 괴롭힐 질문은 이거야, 내가 아무 말도 하지 않았어도 네가 그걸 깼을까?
"예언이 행동을 만들었다"고 말하려면, 말이 행동으로 이어진 인과 경로를 짚어야 한다. 적어도 세 갈래가 가능하다.
(a) 주의의 경로. 오라클의 말은 네오의 주의를 꽃병 쪽으로, 정확히는 꽃병을 찾아 몸을 돌리는 쪽으로 끌어당겼다. 꽃병이 깨진 직접 원인은 그 회전이다. 사회심리학자 대니얼 웨그너의 아이러니 과정 이론은 "하지 마라"는 지시가 오히려 그 행동을 부르는 역설을 설명한다. "흰 곰을 생각하지 마라"는 말을 들은 사람은 흰 곰을 더 자주 떠올린다. 억제하려면 억제 대상을 계속 감시해야 하기 때문이다.
(b) 반발의 경로. 잭 브렘의 심리적 반발(reactance) 이론에 따르면, 사람은 자유가 위협받는다고 느낄 때 그 자유를 되찾으려는 쪽으로 움직인다. 예언을 들은 사람이 예언을 반박하려고 행동하다가 도리어 예언을 실현하는 경로다. 오이디푸스가 신탁을 피하려 코린토스를 떠났기 때문에 테바이로 향하는 길에서 아버지를 만났듯이.
(c) 순수한 예측의 경로. 말은 아무 영향도 주지 않았고, 네오는 어차피 꽃병을 깼으며, 오라클은 그것을 맞혔을 뿐이다. 이 경우 오라클은 보에티우스의 관찰자다.
영화의 장면만 보면 (a)가 가장 그럴듯하다. 네오는 오라클의 말을 듣고 꽃병을 찾으려고 돌아섰다. 그러나 이 세 경로를 구분하는 일은 영화 해석의 문제로 끝나지 않는다. 이것은 넛지의 인과적 책임을 묻는 질문이다. (c)라면 오라클에게 책임이 없다. (a)나 (b)라면, 꽃병을 깬 것은 네오의 팔꿈치지만 그 팔꿈치를 움직인 것은 오라클의 문장이다. 그리고 오라클이 이 경로들을 미리 알고 말했다면, 그녀는 예언자가 아니라 설계자다.
그리고 결정적으로, 이 질문에는 원리적으로 답이 없다. 우리는 "말하지 않은 세계"를 관찰할 수 없기 때문이다. 오라클의 마지막 질문이 네오를 괴롭히는 이유가 여기에 있다.
2.3 자기충족적 예언 — 믿음은 어떻게 현실을 만드는가?
꽃병 장면의 구조에는 이름이 있다. 사회학자 로버트 머튼은 1948년 논문에서 이를 자기충족적 예언(self-fulfilling prophecy) 이라 정의했다. 처음에는 거짓이었던 상황 정의가 새로운 행동을 불러일으키고, 그 행동이 원래의 거짓 정의를 참으로 만드는 현상이다. 머튼은 이 개념을 사회학자 W. I. 토머스의 명제에서 끌어왔다. 사람들이 어떤 상황을 실재라고 정의하면, 그 상황은 결과에서 실재가 된다는 이른바 토머스 정리다.
머튼이 든 대표적인 예가 은행 뱅크런이다. 재무 상태가 멀쩡한 은행이 있다. 어느 날 "그 은행이 위험하다"는 소문이 돈다. 예금자들이 돈을 찾으러 몰려든다. 어떤 은행도 모든 예금을 한꺼번에 돌려줄 현금을 쥐고 있지 않다. 은행은 실제로 무너진다. 소문은 틀렸지만, 소문을 믿은 사람들의 행동이 소문을 참으로 만들었다. 예언은 미래를 맞힌 것이 아니라 미래를 제조했다.
이 구조는 투자자에게 특히 익숙하다. 조지 소로스는 『금융의 연금술』에서 이를 재귀성(reflexivity) 이라 불렀다. 시장 참여자의 기대가 가격을 움직이고, 움직인 가격이 다시 기업의 펀더멘털(자금 조달 비용, 인재 확보, 신용)을 바꾸며, 바뀐 펀더멘털이 처음의 기대를 사후적으로 정당화한다. 버블은 "이 자산은 오른다"는 예언이 스스로를 충족시키는 과정이고, 폭락은 그 반대 방향의 자기충족이다.
교실에서도 같은 일이 보고되었다. 로버트 로젠탈과 레노어 제이컵슨은 1968년, 교사에게 "잠재력이 높다"고 무작위로 지목된 학생들의 성적이 실제로 올랐다는 피그말리온 효과 연구를 발표했다. 다만 이후 재현 연구들은 그 효과가 대중적으로 알려진 것보다 훨씬 작고 조건적이라는 점을 보여주었다. 자기충족적 예언은 실재하지만, 만능은 아니다. 이 단서는 중요하다. 예언이 현실을 만드는 힘에는 한계가 있고, 그 한계가 바로 선택의 여지다.
이제 매트릭스로 돌아가 보자. 이 영화 전체가 하나의 거대한 자기충족적 예언이다. 모피어스는 "구세주가 올 것"이라는 예언을 믿었고, 그 믿음 때문에 수십 년간 구세주를 찾아다녔고, 결국 네오를 찾아내 훈련시켰다. 네오를 구세주로 만든 것은 예언이 아니라 예언을 믿은 모피어스의 행동이었다. 그리고 《리로디드》에서 아키텍트가 폭로하는 진실은 더 차갑다. 구세주의 예언은 시스템이 반란을 관리하기 위해 반복적으로 활용해온 통제 장치였다. 저항군의 희망조차 설계된 믿음이었다.
그런데 이 대목에서 오라클의 역설이 드러난다. 1편에서 그녀는 네오에게 "너는 구세주가 아니다"라고 말했다. 거짓이었을까? 그녀는 이렇게 설명한다. 네오가 들어야 할 말을 했을 뿐이라고. 네오가 스스로를 구세주로 믿고 행동했다면, 그는 예언을 수행하는 배우에 그쳤을 것이다. 오라클은 예언을 부정함으로써, 네오가 예언 없이 스스로 선택하도록 만들었다. 모피어스를 구하러 매트릭스로 되돌아간 것은 구세주의 운명이 아니라, 친구를 버리지 않겠다는 네오 자신의 결정이었다. 그리고 바로 그 결정이 그를 구세주로 만들었다.
자기충족적 예언의 반대편에는 자기파괴적 예언(self-defeating prophecy) 이 있다. 머튼 역시 이 가능성을 짚었다. "당신은 실패할 것"이라는 경고가 사람을 더 조심하게 만들어 실패를 막는 경우다. 오라클은 두 가지를 모두 다룰 줄 아는 설계자였다. 어떤 예언은 말해서 이루고, 어떤 예언은 부정해서 이룬다. 여기서 앞 장의 보에티우스로 돌아가면, 그의 방어선이 왜 오라클에게 적용되지 않는지가 분명해진다. 말해진 예언은 더 이상 예지가 아니라 개입이다.
2.4 투명성의 문제 — 넛지는 언제 조작이 되는가?
넛지 이론에 대한 가장 강한 비판은 조작 가능성이다. 선스타인 자신도 정당한 넛지의 조건으로 공개성 원칙을 든다. 설계자가 자신의 개입을 공개적으로 설명하고 정당화할 수 있어야 한다는 것이다.
이 기준으로 보면 오라클은 흥미로운 경계에 서 있다. 그녀는 《매트릭스 리로디드》에서 자신이 프로그램이라는 사실을 숨기지 않는다. 그러나 무엇을 향해 네오를 이끄는지, 그녀 자신의 목적이 무엇인지는 끝까지 온전히 드러내지 않는다. 그녀는 정직하지만 투명하지는 않다. 그리고 이 차이가 이 글의 후반부에서 결정적으로 중요해진다. 오늘 우리를 넛지하는 시스템들 역시 대부분 정직하게 존재를 드러내지만, 무엇을 최적화하는지는 보여주지 않기 때문이다.
3. 닮은 질문들
3.1 뉴콤의 역설 — 예측자 앞의 두 상자
물리학자 윌리엄 뉴콤이 고안하고 철학자 로버트 노직이 1969년 논문으로 널리 알린 문제다. 당신 앞에 두 상자가 있다. 투명한 상자 A에는 1,000달러가 보인다. 불투명한 상자 B에는 100만 달러가 있거나 아무것도 없다. 거의 틀린 적 없는 예측자가 미리 당신의 선택을 예측해두었다. 당신이 B만 가져갈 것이라 예측했다면 B에 100만 달러를, 둘 다 가져갈 것이라 예측했다면 B를 비워두었다.
돈은 이미 들어가 있거나 없다. 그렇다면 둘 다 가져가는 것이 언제나 1,000달러 더 이득이다(인과적 추론). 그러나 실제로 B만 고른 사람들이 부자가 되어 떠난다(증거적 추론). 철학자들은 반세기 넘게 둘로 갈라져 있다.
증거적 결정이론의 논리를 한 걸음 더 따라가 보면 흥미로운 지점이 나온다. B만 고르라는 조언의 근거는, B만 고르는 행위 자체가 "나는 예측자가 B만 고를 사람으로 분류했을 유형의 인간"이라는 증거가 된다는 것이다. 선택은 미래를 바꾸는 것이 아니라 내가 누구인지를 드러낸다.
사탕 장면은 뉴콤의 역설의 일상판이다. 예측은 이미 끝났다. 그렇다면 지금의 선택은 무엇을 하는가? 증거적 관점에서 보면, 네오가 사탕을 받는 행위는 그가 오라클이 예측한 유형의 인간임을 수행적으로 확인하는 일이다. 그렇다면 자유의지는 "예측을 벗어나는 것"만이 아니라 예측된 자신을 자기 방식으로 수행하는 것이기도 하다. 같은 사탕을 받아도, 멈추고 물은 뒤 받은 네오는 오라클의 예측을 그저 확인한 것이 아니라 그 예측을 자기 것으로살아낸 것이다. 뉴콤이 보여주는 것은, 예측이 존재하는 세계에서 "합리적 선택"의 정의 자체가 흔들린다는 사실이다.
3.2 기본값이 생명을 구할 때 — 장기 기증과 자동 가입
에릭 존슨과 대니얼 골드스타인은 2003년 《사이언스》에 유럽 국가들의 장기 기증 동의율을 비교한 결과를 발표했다. 기증을 원하는 사람이 직접 신청하는 방식(옵트인) 국가와, 원하지 않는 사람이 거부해야 하는 방식(옵트아웃) 국가 사이에 동의율 격차가 극적으로 컸다. 문화나 가치관의 차이로는 설명되지 않는 격차였다. 바뀐 것은 서류의 체크박스 하나였다.
브리지트 매드리언과 데니스 시어는 미국 401(k) 퇴직연금에서 같은 현상을 확인했다. 자동 가입을 기본값으로 바꾸자 가입률이 크게 뛰었고, 사람들은 회사가 정해둔 기본 납입률과 기본 상품에도 그대로 머물렀다. 디폴트 옵션이 장기적인 투자 선택에서 기준점이 되어, 판단 전체를 그 자리에 앵커링시키는 것이다.
두 사례 모두 사람들의 자유의지는 한 톨도 제한되지 않았다. 거부할 권리는 그대로 있었다. 그런데 결과는 설계자가 정했다. 여기서 불편한 질문이 생긴다. 선택의 자유가 보장된 상태에서 결과를 결정하는 힘은, 과연 선택자에게 있는가?
3.3 리벳의 실험 — 뇌는 나보다 먼저 결정하는가?
1983년 벤저민 리벳은 피험자에게 원할 때 손목을 움직이라고 하고, 움직이려는 의도를 느낀 순간을 보고하게 했다. 그런데 뇌의 준비 전위는 피험자가 의도를 자각하기 수백 밀리초 전에 이미 올라가고 있었다. 2008년 순(Soon) 등의 fMRI 연구는 좌우 선택을 수 초 앞서 어느 정도 예측할 수 있다고 보고했다.
뇌 속에 작은 오라클이 있는 셈이다. 다만 이후 연구는 해석을 누그러뜨렸다. 아론 슈거 등은 2012년 준비 전위가 "결정"이라기보다 신경 활동의 무작위적 누적일 수 있다는 모델을 제시했고, 리벳 자신도 의식에 행동을 중단할 수 있는 "거부권"이 남아 있다고 보았다. 과학은 아직 자유의지를 폐기하지 않았다. 다만 자유의지가 우리가 생각하던 곳, 즉 "결정의 순간"에 있지 않을 수 있다는 가능성을 열었다. 이것은 오라클의 말, 선택은 이미 이루어졌고 너는 이해하러 왔다는 말과 기묘하게 공명한다.
3.4 소크라테스의 다이몬 — 말리기만 하는 목소리
플라톤의 『변론』에서 소크라테스는 어릴 때부터 내면의 신적인 목소리, 다이모니온(daimonion)을 들어왔다고 말한다. 그 목소리는 무엇을 하라고 명령한 적이 없고, 오직 하려던 일을 멈추게 했을 뿐이다.
이것은 오라클과 정반대의 설계다. 오라클은 행동을 유도하고, 다이모니온은 행동을 제지한다. 오라클은 바깥에 있고, 다이모니온은 안에 있다. 소크라테스의 목소리는 결정을 대신 내려주지 않았다. 멈출 기회만 주었고, 나머지는 소크라테스의 몫이었다. 리벳이 말한 "거부권"이 신화적 언어로 먼저 기록된 셈이다. 그리고 아래에서 보겠지만, AI 시대에 우리에게 필요한 것은 오라클보다 다이모니온에 가깝다.
4. AI 시대에 우리는 오라클을 만들고 있다
4.1 사탕 그릇은 이제 화면 안에 있다
오늘 아침부터 지금까지 당신이 내린 선택을 떠올려보자. 어떤 뉴스를 읽었는지, 어떤 영상을 다음으로 틀었는지, 점심 메뉴는 무엇이었는지, 어떤 경로로 이동했는지. 그중 몇 개가 누군가 내민 사탕 그릇에서 집은 것이었을까.
추천 알고리즘은 오라클과 같은 방식으로 작동한다. 방대한 관찰로 당신을 모델링하고, 당신이 무엇을 집을지 예측하고, 그 예측을 화면 맨 위에 올려놓는다. 거절할 자유는 있다. 스크롤하면 된다. 그러나 맨 위에 놓인 것을 집는 쪽이 언제나 더 싸다. 그리고 당신이 그것을 집는 순간, 예측은 적중하고 모델은 더 확신한다.
이것은 은유가 아니라 기계학습 연구자들이 정식화한 문제다. 페르도모, 하르트 등은 2020년 수행적 예측(performative prediction) 이라는 개념을 제안했다. 예측 모델이 배포되면 그 예측이 사람들의 행동을 바꾸고, 바뀐 행동이 다시 모델이 학습하는 데이터가 된다. 모델은 세상을 관찰하는 것이 아니라 자신이 바꾼 세상을 관찰한다. 머튼의 자기충족적 예언이 알고리즘의 피드백 루프 안에서, 매일, 수십억 명에게 반복되고 있는 것이다. "당신이 좋아할 만한 영상"은 당신이 좋아했기 때문에 추천되는 것이기도 하지만, 추천되었기 때문에 당신이 좋아하게 되는 것이기도 하다. 그리고 우리는 그 둘을 구분할 수 없다. 추천받지 않은 세계를 관찰할 수 없기 때문이다. 꽃병 앞에서 네오가 받은 질문을, 이제 우리 모두가 받고 있다.
법학자 캐런 영(Karen Yeung)은 이를 하이퍼넛지(hypernudge) 라고 불렀다. 고전적 넛지가 모든 사람에게 같은 체크박스를 보여주는 정적인 설계라면, 하이퍼넛지는 개인의 데이터를 실시간으로 학습해 그 사람에게만 가장 잘 먹히는 선택지를, 가장 잘 먹히는 순간에 내민다. 그리고 대개 보이지 않는다. 우리는 넛지를 당하고 있다는 사실조차 알기 어렵다.
4.2 오라클과 알고리즘 — 선한 설계자와 악한 설계자?
그렇다면 AI는 현대의 오라클인가? 쉽게 떠오르는 대비가 있다. 오라클은 네오가 이해하기를 원했다. 그녀가 원한 것은 순응하는 구세주가 아니라, 이전 다섯 명과 다른 선택을 할 수 있는 구세주였다. 반면 대부분의 상업적 알고리즘은 우리가 이해하기를 원하지 않는다. 체류 시간, 클릭률, 구매 전환을 최적화하는 시스템에게 가장 좋은 사용자는 가장 예측 가능한 사용자다. 1편의 배신자 사이퍼가 스테이크를 씹으며 했던 말처럼, 이게 진짜가 아닌 건 알지만 무지는 축복이다.
그러나 이 대비는 너무 깔끔하다. 2.1에서 보았듯 오라클은 매트릭스의 어머니다. 인간에게 선택의 감각을 주어 시스템을 받아들이게 만든 설계자가 바로 그녀였다. 그녀 역시 자신의 목적을 가진 프로그램이다. 3편 《레볼루션》의 결말에서 그녀는 아키텍트에게 약속이 지켜질지를 묻는다. 네오의 "다른 선택"은 그녀가 계획한 새로운 균형, 인간과 기계의 휴전이라는 그녀의 목표를 향한 한 수이기도 했다. 오라클은 네오를 해방시켰지만, 그 해방은 동시에 그녀의 설계였다.
이 점을 인정하면 질문이 바뀐다. "선한 설계자인가, 악한 설계자인가"가 아니다. 모든 선택 설계자는 자신의 목적을 가진다. 추천 알고리즘도, 오라클도, 연금 기본값을 정한 인사팀도, 이 칼럼을 쓰는 사람도. 설계자가 없는 선택 환경은 존재하지 않는다. 그렇다면 물어야 할 것은 세 가지다.
첫째, 그 목적이 공개적으로 정당화될 수 있는가. 선스타인의 공개성 원칙이다. 둘째, 설계자의 목적과 선택자의 이익이 얼마나 겹치는가. 오라클의 휴전은 네오의 이익과 상당 부분 겹쳤다. 참여도 최적화와 사용자의 장기적 이익은 자주 어긋난다. 셋째, 설계가 선택자의 이해를 넓히는가, 좁히는가. 오라클과 대부분의 알고리즘을 가르는 진짜 차이는 선악이 아니라 이것이다. 오라클의 넛지는 네오가 나중에 스스로를 이해하도록 만들었다. 이해한 사람은 다음번에 설계자를 벗어날 수 있다. 오라클은 역설적으로 자신의 예측을 벗어날 수 있는 인간을 길러냈다. 반면 이해를 좁히는 설계는 사용자를 점점 더 예측 가능하게 만들고, 그 예측 가능성이 다시 설계를 강화한다. 앞의 것은 넛지고, 뒤의 것은 수행적 예측이 만든 닫힌 루프다.
4.3 위임과 포기는 다르다
생성형 AI가 등장하면서 위임의 범위는 추천을 넘어섰다. 이제 우리는 무엇을 볼지뿐 아니라 무엇을 쓸지, 어떻게 판단할지, 어떤 결론을 내릴지를 맡긴다. 이메일 답장, 투자 판단의 근거, 채용 서류 검토, 심지어 고민 상담까지.
위임 자체는 문제가 아니다. 인간은 늘 판단을 위임해왔다. 의사에게, 변호사에게, 지도와 사전에게. 문제는 위임이 포기로 미끄러질 때다. 인간공학 연구자 라자 파라수라만은 사람들이 자동화 시스템의 출력을 충분히 검증하지 않고 받아들이는 경향을 자동화 편향(automation bias) 이라 불렀다. 시스템이 믿을 만할수록, 사람은 더 확인하지 않는다. 그리고 확인하지 않을수록, 시스템이 틀렸을 때 알아채는 능력 자체가 퇴화한다.
위임과 포기를 가르는 기준은 오라클의 문장 안에 이미 있다. 왜 그렇게 선택했는지 이해하는가. AI가 제안한 답을 채택하되 그 이유를 스스로 설명할 수 있다면, 그것은 위임이다. 이유를 모른 채 "AI가 그렇게 말했으니까" 따른다면, 그것은 선택을 포기한 것이다. 결과가 같아도 두 선택은 같은 선택이 아니다. 사탕 앞에서 멈춘 네오와 그냥 손을 뻗은 네오가 같지 않았듯이.
그리고 여기에 자기충족적 예언의 가장 위험한 판본이 숨어 있다. 많은 사람이 같은 AI에게 같은 질문을 던지고 같은 답을 받아 같은 방향으로 움직이면, 그 답은 틀렸어도 맞게 된다. 모두가 AI가 추천한 종목을 사면 그 종목은 오른다. 적어도 한동안은. 뱅크런의 소문처럼, 예측의 정확도가 아니라 예측을 믿은 사람의 숫자가 결과를 만든다. 이때 AI는 미래를 맞힌 것이 아니라, 우리가 AI를 믿은 대가로 미래를 만들어준 것이다. 그리고 그 믿음이 동시에 거둬지는 날, 뱅크런은 반대 방향으로 일어난다.
4.4 LLM은 엑셀이지 오라클이 아니다
오라클을 오라클로 만든 것은 예측의 정확도가 아니었다. 그녀가 믿어진 이유는 그녀의 말이 틀리지 않아서가 아니라, 사람들이 그녀의 말을 해석할 책임을 스스로 떠안았기 때문이다. 모피어스는 예언을 믿었고, 그 믿음에 따라 행동했고, 그 결과를 감당했다.
오늘날 거대언어모델을 오라클처럼 대하는 태도의 위험은 바로 여기에 있다. LLM은 그럴듯한 다음 단어를 확률적으로 계산하는 도구다. 강력한 계산기, 정교한 엑셀이다. 엑셀이 계산을 틀리지 않는다고 해서 스프레드시트의 가정까지 옳은 것은 아니다. 입력한 전제가 틀리면 출력은 정확하게 틀린다. LLM은 엑셀이지 오라클이 아니다. 결론을 내리는 것은 도구가 아니라, 도구의 출력을 해석하고 그 결과를 감당하는 사람이다.
도구를 오라클로 격상시키는 순간, 우리는 해석의 책임을 기계에 넘긴다. 그리고 해석의 책임을 넘긴 인간에게는 선택의 형식만 남고 선택의 내용은 사라진다. 더 나쁜 것은, 그렇게 격상된 도구의 말이 충분히 많은 사람에게 믿어지면 스스로를 충족시키기 시작한다는 점이다. 엑셀을 오라클로 믿는 사회는, 엑셀의 오류를 현실로 만든다.
5. 그렇다면 인간은 자유의지를 발현할 수 있는가?
형이상학적 의미의 자유의지, 즉 인과의 사슬 바깥에서 무(無)로부터 결정을 내리는 능력이 존재하는지는 아마 끝내 증명되지 않을 것이다. 리벳 이후의 신경과학도, 뉴콤 이후의 결정이론도 이 질문을 닫지 못했다.
그러나 오라클은 다른 종류의 자유를 가리킨다. 결과를 바꾸는 자유가 아니라 선택을 자기 것으로 만드는 자유, 예측을 벗어나는 자유가 아니라 예측당하고 있음을 알아차리는 자유다. 이 자유는 증명의 대상이 아니라 실천의 대상이다. 그리고 그 실천은 거창하지 않다.
첫째, 마찰을 되찾는 것. 자유는 매끄러움 속에서 사라지고 마찰 속에서 드러난다. 설계자가 제거하려는 그 마찰이 바로 자유의지가 작동할 수 있는 유일한 틈이다. 마찰은 구체적인 행동으로 만들 수 있다. 영상 플랫폼의 자동 재생을 끄는 것. 다음 것을 틀 때마다 한 번은 스스로 고르게 된다. 검색 결과의 첫 화면 너머를 보는 것. 맨 위에 놓인 것이 가장 좋은 것이 아니라 가장 잘 팔리는 것일 수 있다. 피드를 추천순이 아닌 시간순으로 바꾸는 것. 알고리즘이 고른 세계 대신 실제로 일어난 순서의 세계를 보게 된다. 그리고 AI의 답을 그대로 복사하지 않고 자기 문장으로 다시 쓰는 것. 다시 쓰는 동안 동의하지 않는 문장이 보이기 시작한다.
둘째, 이유를 말할 수 있는 선택만 내 것으로 삼는 것. 결과가 기계의 제안과 같아도 괜찮다. 다만 왜 그것을 택했는지를 스스로의 언어로 설명할 수 있어야 한다. 설명할 수 없다면 그것은 내가 한 선택이 아니라 나를 통과해 간 선택이다. 투자라면 이렇게 할 수 있다. 매수 버튼을 누르기 전에 그 이유를 세 문장으로 적고, 그중 하나라도 "AI가 그랬다"거나 "다들 산다"라면 멈춘다. 뒤의 것은 자기충족적 예언에 올라탄 것이지 판단이 아니다.
셋째, 오라클이 아니라 다이모니온을 곁에 두는 것. 답을 주는 목소리보다 멈추게 하는 목소리가 필요하다. AI에게 결론을 묻기보다 내 결론의 허점을 묻고, 추천을 따르기보다 추천의 이유를 캐묻는 것. "이게 맞지?" 대신 "내가 틀렸다면 어디서 틀렸을까?"를 묻는 것. 도구를 판단의 대리인이 아니라 판단의 반론자로 쓰는 것이다.
오라클은 네오가 사탕을 받을 줄 알았다. 그것은 중요하지 않았다. 중요한 것은 네오가 왜 받았는지 알게 되었느냐였다. 알고리즘은 이미 우리가 무엇을 집을지 알고 있다. 어쩌면 우리가 그것을 집게 만들고 있다. 그것도 중요하지 않다. 중요한 것은 우리가 왜 그것을 집는지 아직 물을 수 있느냐다.
예언은 믿는 사람을 통해서만 스스로를 충족시킨다. 그렇다면 예언을 멈출 수 있는 것도 믿는 사람뿐이다. 그 질문을 멈추지 않는 한, 자유 의지 - 사탕은 여전히 우리의 선택이다.
레퍼런스
철학 — 예지·자유의지·양립가능론
- Stanford Encyclopedia of Philosophy, "Free Will" — 자유의지 논쟁 전반의 표준 개관.
- Stanford Encyclopedia of Philosophy, "Foreknowledge and Free Will" — 보에티우스 이래 예지와 자유의 양립 문제.
- Stanford Encyclopedia of Philosophy, "Compatibilism" — 양립가능론의 논리와 쟁점, 조작 논증 포함.
- Frankfurt, H. (1969). "Alternate Possibilities and Moral Responsibility." The Journal of Philosophy, 66(23).
- Frankfurt, H. (1971). "Freedom of the Will and the Concept of a Person." The Journal of Philosophy, 68(1).
- Stanford Encyclopedia of Philosophy, "Causal Decision Theory" — 뉴콤의 역설과 인과적·증거적 결정이론의 대립.
자기충족적 예언·재귀성
- Merton, R. K. (1948). "The Self-Fulfilling Prophecy." The Antioch Review, 8(2).
- Rosenthal, R. & Jacobson, L. (1968). "Pygmalion in the Classroom." The Urban Review, 3(1).
- Soros, G. (1987). The Alchemy of Finance. Simon & Schuster. — 금융시장의 재귀성 이론.
- Perdomo, J., Zrnic, T., Mendler-Dünner, C. & Hardt, M. (2020). "Performative Prediction." ICML 2020.
행동경제학·심리학 — 넛지·기본값·반발
- Thaler, R. & Sunstein, C. (2008). Nudge: Improving Decisions about Health, Wealth, and Happiness. Yale University Press.
- Johnson, E. J. & Goldstein, D. (2003). "Do Defaults Save Lives?" Science, 302(5649).
- Madrian, B. C. & Shea, D. F. (2001). "The Power of Suggestion: Inertia in 401(k) Participation and Savings Behavior." The Quarterly Journal of Economics, 116(4).
- Wegner, D. M. (1994). "Ironic Processes of Mental Control." Psychological Review, 101(1).
- Brehm, J. W. (1966). A Theory of Psychological Reactance. Academic Press.
신경과학 — 의도와 결정의 시간
- Libet, B. et al. (1983). "Time of Conscious Intention to Act in Relation to Onset of Cerebral Activity." Brain, 106(3).
- Soon, C. S. et al. (2008). "Unconscious Determinants of Free Decisions in the Human Brain." Nature Neuroscience, 11.
- Schurger, A., Sitt, J. D. & Dehaene, S. (2012). "An Accumulator Model for Spontaneous Neural Activity Prior to Self-Initiated Movement." PNAS, 109(42).
AI와 선택의 위임
- Yeung, K. (2017). "'Hypernudge': Big Data as a Mode of Regulation by Design." Information, Communication & Society, 20(1).
- Parasuraman, R. & Manzey, D. H. (2010). "Complacency and Bias in Human Use of Automation: An Attentional Integration." Human Factors, 52(3).
작품 및 초고 참고자료
- IMDb — The Matrix Reloaded (2003), The Oracle 대사.
- 지데일리, "[8090 플래시백] 매트릭스 '캔디', 정해진 운명 속 '선택'의 의미."
- PhilArchive — 오라클의 예지와 자유 선택 문제.
- Springer — "The Problem of Autonomy and Determination in the Digital World."
- ScienceDirect — "Active choosing or default rules? A revealed preference approach."
- Interesting Engineering — "This is Newcomb's Paradox."