중국어 방 논증은 철학자 존 설이 1980년에 내놓은 사고실험이에요. 규칙에 따라 기호만 다루는 프로그램은 그럴듯한 답을 내더라도 뜻을 이해하지 못한다는 주장이죠. 챗봇이 사람처럼 말할 때 정말 이해한다고 볼 수 있을까요? 이 질문을 따지려면 지금도 이 논증부터 짚어야 해요.
중국어 방 논증이란? 존 설의 사고실험 장면
먼저 이런 상황을 떠올려 보세요. 학생 A씨가 챗봇에게 과제 질문을 하고 막힘없는 답을 받았어요. A씨는 이렇게 물어요. "이 챗봇은 내 질문을 이해한 걸까? 아니면 그럴듯하게 흉내만 낸 걸까?" 중국어 방 논증이 정확히 이 질문을 다뤄요.
사고실험의 장면은 단순해요. 중국어를 전혀 모르는 사람이 닫힌 방 안에 있어요. 방 밖에서 중국어 기호가 적힌 쪽지가 들어와요.
방 안의 사람은 두꺼운 규칙서를 펼쳐요. 규칙서에는 "이런 모양의 기호가 들어오면 저런 모양의 기호를 내보내라"는 지시만 적혀 있어요. 그는 지시대로 기호를 골라 밖으로 내보내요.
결과는 이래요. 방 밖 사람들은 안에 중국어 화자가 있다고 믿을 만한 답을 받아요. 그런데 방 안의 사람은 여전히 중국어를 이해하지 못해요. 설은 여기서 결론을 끌어내요. 프로그램을 실행하는 것만으로는 이해가 생기지 않는다는 거예요.
예를 들어 볼게요. 쪽지에 '你好吗'라는 기호가 들어왔다고 해 봐요. 규칙서에는 "이 세 기호가 이 순서로 오면 '我很好'를 내보낸다"고 적혀 있어요. 방 안 사람은 이 지시를 그대로 따라요.
밖에서 보면 안부 인사에 "잘 지내요"라고 자연스럽게 답한 셈이에요. 그런데 방 안 사람은 자신이 안부를 주고받았다는 사실조차 몰라요.
설이 말하려는 건 컴퓨터가 이 방 안의 사람과 같은 처지라는 거예요. 컴퓨터도 입력된 기호를 규칙(프로그램)에 따라 다른 기호로 바꿔 내보내요. 방 안 사람이 그 일을 직접 해도 이해가 생기지 않았어요. 설은 컴퓨터가 같은 일을 할 때도 이해가 생기지 않는다고 봐요.
존 설은 왜 중국어 방 논증을 내놓았나요? 강한 AI와 약한 AI
이 논증은 설의 1980년 논문 「Minds, brains, and programs」에서 처음 나왔어요. 학술지 Behavioral and Brain Sciences 3권 3호(417–457쪽)에 실렸죠. 이 논문에는 동료 논평 27편과 설의 답변이 함께 실렸어요.
설이 원문에서 직접 비판한 대상은 예일대 로저 섕크의 프로그램이에요. 이 프로그램의 목표는 이야기를 이해하는 사람의 능력을 흉내 내는 것이었어요. 설은 같은 논증이 다른 프로그램에도 똑같이 적용된다고 했어요. 대화 프로그램 ELIZA, 블록 세계를 다루는 SHRDLU가 여기에 들어가요. 정신 현상을 시뮬레이션하는 모든 튜링 기계도 마찬가지라고 했어요.
설은 인공지능에 대한 견해를 둘로 나눴어요.
- 약한 AI: 컴퓨터는 마음을 연구하는 강력한 도구라는 견해예요.
- 강한 AI: 알맞게 프로그램된 컴퓨터는 정말로 마음이라는 견해예요.
중국어 방 논증이 반박하는 쪽은 강한 AI예요. 약한 AI는 비판 대상이 아니에요. 컴퓨터로 사람의 언어 처리를 흉내 내 연구하는 일 자체는 설도 문제 삼지 않았어요. 이 논증은 기능주의와 계산주의 마음 이론도 겨냥해요. 계산주의는 마음을 일종의 계산으로 설명하려는 이론이에요.
원논문 초록에는 두 가지 명제가 나와요. 첫째, 인간과 동물의 지향성은 뇌의 인과적 특성에서 나와요. 지향성은 생각이 무언가에 '관한' 것이 되는 성질인데, 설은 1980년 논문에서 이 말로 '이해'를 다뤘어요.
둘째, 컴퓨터 프로그램을 돌리는 것만으로는 결코 지향성의 충분조건이 되지 않아요. 두 번째 명제에서 눈여겨볼 단어는 '만으로는'이에요. 설은 프로그램을 돌리는 것 하나로 이해가 생긴다는 생각을 부정했어요.
'구문론은 의미론에 충분하지 않다'는 무슨 뜻인가요?
중국어 방 논증을 소개하는 글에는 "구문론은 의미론에 충분하지 않다"는 문장이 자주 나와요. 구문론은 기호의 모양과 배열 규칙이고, 의미론은 기호가 담고 있는 뜻(내용)이에요. 이 문장은 1980년 원논문이 아니라 설의 1984년 책 『Minds, Brains and Science』에서 나왔어요. 1980년 논문은 같은 주장을 지향성이라는 용어로 펼쳤죠. 출처를 인용할 때 이 차이를 구분해 두면 좋아요.
1984년 판본은 전제 세 개와 결론 하나로 이루어져요.
- 프로그램은 순전히 형식적이에요. 기호의 모양과 배열만 다뤄요(구문론).
- 인간의 마음은 정신적 내용을 가져요. 생각에는 뜻이 담겨 있어요(의미론).
- 구문론만으로는 의미론을 구성하지 못해요. 의미론에 충분하지도 않아요.
- 결론: 프로그램만으로는 마음을 구성하지 못해요. 마음에 충분하지도 않아요.
중국어 방은 세 번째 전제를 보여 주는 장면이에요. 앞의 '你好吗' 예시에서 방 안 사람은 기호의 모양과 순서를 완벽하게 다뤘어요. 구문론은 모두 갖춘 셈이죠. 그래도 그 기호가 안부 인사라는 뜻은 알지 못했어요. 모양을 아무리 정확하게 다뤄도 뜻이 저절로 따라오지 않는다는 걸 사고실험이 보여 줘요.
이 구조를 알면 아래 반론들이 어떤 생각에서 나왔는지 따라가기 쉬워요. 기호 조작이 충분히 크고 복잡해지면 뜻이 생길 수 있다는 식이에요. 또는 세계와 연결되면 뜻이 생긴다고도 해요. 아래 반론 절에서 이 지점을 차례로 짚어 볼게요.
중국어 방과 튜링 테스트는 어떤 관계인가요?
튜링 테스트는 앨런 튜링의 1950년 논문에서 나왔어요. 튜링은 학술지 Mind 59권 236호(433–460쪽)에 「Computing Machinery and Intelligence」를 실었어요. 이 논문에서 튜링은 "기계가 생각할 수 있는가"라는 질문을 다른 질문으로 바꾸자고 제안했어요. 기계가 모방 게임에서 사람 역할을 맡으면 어떻게 되느냐는 질문이에요.
오늘날 튜링 테스트는 보통 이렇게 소개돼요. 컴퓨터가 온라인 채팅에서 사람으로 통하면 지능을 인정해야 한다는 기준이에요. 판단 근거는 겉으로 드러나는 대화 행동이에요.
중국어 방은 바로 이 기준을 흔들어요. 방 밖 사람들이 받은 답은 중국어 화자의 답과 구별되지 않았어요. 행동만 보면 시험을 통과한 셈이죠. 그런데 방 안에는 중국어를 이해하는 존재가 없어요. 그래서 이 논증의 좁은 결론 하나로 "튜링 테스트는 부적절하다"는 점이 꼽혀요.
두 사람의 관점 차이는 이래요.
- 튜링의 관점: '기계가 생각할 수 있는가'라는 질문을 바꾸자는 제안이에요. 모방 게임에서 사람 역할을 해낼 수 있느냐는 질문으로요.
- 설의 관점: 겉으로 같은 답이 나와도 안에서 뜻을 이해하는지는 별개의 문제라는 주장이에요.
시스템 반론부터 직관 반론까지, 대표 반론과 설의 답변
설은 1980년 원논문에서 이미 여섯 가지 반론을 다뤘어요.
- 시스템 반론
- 로봇 반론
- 뇌 시뮬레이터 반론
- 결합 반론
- 타인의 마음 반론
- 여러 저택 반론
이후에는 가상 마음 반론, 직관 반론처럼 원논문에 없던 반론도 나왔어요. 여기서는 자주 다뤄지는 반론을 중심으로 볼게요.
시스템 반론: 사람이 아니라 방 전체가 이해한다
설은 원논문에서 이 반론의 출처를 버클리로 적었어요. 시스템 반론은 방 안의 사람이 부분일 뿐이라고 봐요. 사람과 규칙서, 쪽지와 메모를 합친 시스템 전체가 중국어를 이해할 수 있다는 주장이에요.
설의 답은 이래요. 방 안 사람이 규칙서와 데이터베이스를 전부 외웠다고 해 봐요. 이제 그 사람이 시스템 전체를 머릿속에 품은 거예요. 그래도 그는 여전히 중국어를 이해하지 못한다는 게 설의 답이에요.
가상 마음 반론: 실행 과정에서 별도의 마음이 생긴다
가상 마음 반론은 이해하는 주체를 방 안의 사람과 따로 떼어 봐요. 프로그램을 실행하면 조작자와는 다른 가상의 마음이 생길 수 있다고 보는 거죠. 이 가상의 마음이 중국어를 이해한다는 거예요.
이 반론을 따르면 규칙을 외운 사람이 중국어를 모른다는 사실은 문제가 되지 않아요. 이해하는 주체가 그 사람이 아니니까요. 1980년 원논문에는 없는 후대의 반론이에요.
로봇 반론: 세계와 연결되면 뜻이 생긴다
설은 원논문에서 이 반론의 출처를 예일로 적었어요. 로봇 반론은 컴퓨터를 센서와 모터가 달린 로봇 몸에 넣자고 제안해요. 카메라로 사물을 보고, 팔로 물건을 집으며 세계와 직접 주고받게 하자는 거죠. 그러면 기호가 실제 사물과 이어져 의미가 생긴다는 주장이에요.
설은 센서 입력도 결국 구문론적 입력일 뿐이라고 답했어요. 방 안 사람에게 카메라 영상이 숫자와 기호로 바뀌어 들어온다고 해 봐요. 그는 그 기호가 카메라에서 왔다는 사실도 모른 채 규칙대로 처리해요. 입력의 출처가 바뀌어도 방 안에서 하는 일은 기호 조작 그대로라는 거예요.
뇌 시뮬레이터 반론: 뉴런의 움직임을 그대로 따라 하면 된다
이 반론은 이야기를 처리하는 규칙 대신 뇌 자체를 흉내 내자고 해요. 중국어 화자가 중국어를 이해할 때 뉴런이 발화하는 패턴을 그대로 흉내 내자는 거죠. 실제 뇌와 같은 패턴이니 이해도 생긴다는 주장이에요.
설은 밸브와 수도관 사례로 답했어요. 방 안 사람이 거대한 밸브와 수도관 장치를 갖고 있다고 해 봐요. 그는 뉴런 발화 패턴에 맞춰 밸브를 열고 닫아요. 설은 이 장치 어디에도 중국어 이해가 없다는 점이 명백하다고 했어요.
타인의 마음 반론: 사람에게도 행동만 보고 판단한다
우리는 다른 사람의 머릿속을 들여다볼 수 없어요. 친구가 한국어를 이해한다고 믿는 근거도 결국 그 친구의 말과 행동이죠. 이 반론은 컴퓨터에도 같은 기준을 적용해야 한다고 주장해요. 사람에게는 행동만 보고 이해를 인정하잖아요. 그런데 컴퓨터에게만 더 높은 기준을 들이대는 건 불공평하다는 거예요.
설은 문제가 "어떻게 아느냐"가 아니라 "무엇을 귀속하느냐"라고 답했어요. 다른 사람의 이해를 어떻게 확인하는지는 앎의 문제예요. 설이 묻는 건 우리가 누군가에게 이해가 있다고 말할 때 그 이해가 무엇이냐는 거예요. 중국어 방에서는 그 이해가 빠져 있다는 게 설의 주장이에요.
직관 반론: 논증의 힘이 직관에 기대고 있다
철학자 블록 등은 다른 방향에서 공격해요. 중국어 방 논증의 설득력은 "이런 존재는 생각하지 않는다"는 직관에서 나와요. 방 안 사람이나 밸브와 수도관 장치는 생각하지 않을 것 같다는 느낌이죠. 이 반론은 그런 직관을 믿기 어렵다고 봐요.
이 밖에 원논문에는 결합 반론과 여러 저택 반론도 나와요.
ChatGPT 같은 대형 언어 모델도 이해하지 못한다고 봐야 할까요?
스탠퍼드 철학 백과사전은 2024년 10월 개정판에서 대형 언어 모델(LLM)을 다루는 절을 따로 두었어요.
설의 세 전제를 그대로 적용하면 결론은 분명해요. 대형 언어 모델도 컴퓨터에서 실행되는 프로그램이에요. 프로그램만으로는 의미론에 이르지 못한다는 전제를 받아들이면 대형 언어 모델도 문장을 이해하지 못해요. 아무리 자연스러운 답을 내도 방 안의 사람처럼 기호를 다룰 뿐이라는 해석이에요.
흥미로운 지점도 있어요. ChatGPT는 영어를 이해한다고 말해요. 동시에 자신에게 진정한 이해는 없다고도 말해요. 이 두 말은 서로 맞지 않아요.
더 나아가 이런 전망도 있어요. AI가 모든 맥락에서 인간처럼 언어를 쓰게 되면 어떻게 될까요? '정말' 이해하는지는 판별할 수도 없고, 중요하지도 않게 될 수 있어요.
처음의 A씨 사례로 돌아가 볼게요. A씨의 질문에 각 입장은 이렇게 답해요.
- 설의 입장: 챗봇은 규칙에 따라 기호를 바꿔 내보냈을 뿐이에요. 답이 훌륭해도 질문을 이해한 건 아니에요.
- 시스템 반론·가상 마음 반론의 입장: 챗봇의 부품 하나하나는 이해하지 못해도 시스템 전체나 그 실행 과정이 이해할 수 있어요.
- 타인의 마음 반론의 입장: 사람과 같은 기준을 쓰면 사람처럼 답하는 챗봇에게도 이해를 인정해야 해요.
어느 쪽이 맞는지 여기서 판정하진 않을게요. 다만 이 구분을 알고 나면 "AI가 생각한다"는 주장을 들을 때 질문을 더 정확하게 던질 수 있어요. 그 주장이 행동에 대한 말인지, 이해 자체에 대한 말인지부터 물어보면 돼요.
중국어 방 논증, 자주 묻는 질문
중국어 방 논증은 AI 연구 자체를 반대하나요?
아니에요. 설이 반박한 건 강한 AI, 곧 알맞게 프로그램된 컴퓨터가 정말로 마음이라는 견해예요. 컴퓨터를 마음 연구의 도구로 쓰는 약한 AI는 비판 대상이 아니에요. 챗봇이 쓸모 있느냐와 챗봇이 이해하느냐는 별개의 질문이에요.
설은 어떤 기계도 생각할 수 없다고 했나요?
설의 1980년 주장은 "프로그램을 돌리는 것만으로는" 지향성이 생기지 않는다는 거예요. 그는 인간과 동물의 지향성이 뇌의 인과적 특성에서 나온다고 봤어요. 논증의 초점은 프로그램 실행 하나로 이해가 충분히 생기느냐에 있어요.
가상 마음 반론은 설의 원논문에 나오나요?
나오지 않아요. 원논문에서 설이 다룬 반론은 여섯 가지예요. 시스템·로봇·뇌 시뮬레이터 반론, 그리고 결합·타인의 마음·여러 저택 반론이죠. 가상 마음 반론과 직관 반론은 그 뒤에 나온 반론이에요. 과제나 발표에서 인용할 때 이 구분을 지키는 편이 정확해요.
존 설은 지금도 활동하나요?
존 설은 2025년 9월 93세로 세상을 떠났어요. 부고에는 사망일이 9월 16일로 적혀 있어요. 다른 일부 매체는 9월 17일로 적어서, 정확한 날짜는 매체에 따라 달라요.
마무리
중국어 방 논증은 사고실험 하나로 이렇게 말해요. 규칙대로 기호를 다루는 것(구문론)만으로는 뜻을 이해하는 것(의미론)에 이르지 못한다고요. 시스템 반론, 로봇 반론 같은 대표 반론은 이 전제를 서로 다른 방향에서 공격해요. 챗봇이 정말 이해하는지 궁금하다면 먼저 설의 세 전제를 기준으로 삼아 보세요. 그다음 시스템 반론과 타인의 마음 반론을 함께 읽으면 찬반 양쪽의 논리를 균형 있게 따라갈 수 있어요. 과제나 발표에 인용하는 학생이라면 1980년 원논문과 1984년 정식화를 구분해 출처를 적으면 돼요.
