신비한 중국 방이 우리에게 의식에 대해 말해 줄 수 있는 것

게시일: 2023년 8월 3일 | 데본 프라이(Devon Frye)가 검토했습니다.

당신이 이상하고 수수께끼 같은 상징이 담긴 종이가 쌓여 있는 서랍으로 가득 찬 방 안에 갇혀 있다고 상상해 보세요. 방 중앙에는 쉽게 읽을 수 있는 쉬운 영어로 된 방대한 사용 설명서가 놓인 테이블이 있습니다.

문은 잠겨 있지만 그 위에 황동 우편함 뚜껑이 달린 작은 틈이 있습니다. 이를 통해 방에 있는 것과 동일한 수수께끼의 기호가 포함된 메시지를 받게 됩니다. 방대한 사용 설명서에서 받은 각 메시지에 대한 기호를 찾을 수 있으며, 서랍에서 어떤 종이를 골라 답장으로 우편함을 통해 보낼지 정확하게 알려줍니다.

방 안에 갇힌 사람은 모르는 사이에 수수께끼의 상징은 실제로 한자였습니다. 내부에 있는 사람은 단지 사용 설명서만 따르면서 외부 사람들과 자신도 모르게 일관된 대화를 나누었지만, 메시지가 들어오고 나가는 것 외에는 아무것도 이해하지도, 심지어 아무것도 인지하지도 못한 채.

이 이야기는 1980년 미국 철학자 John Searle1에 의해 고안되었으며, 우리가 컴퓨터, 인공 지능(AI) 및 기계를 보는 방식에 큰 영향을 미치는 인지 과학 및 정신 철학 분야에서 가장 영향력 있고 가장 많이 인용된 논문 중 하나가 되었습니다. 감각 (Cole, 2023).

Searle(1980)은 이 사고 실험을 사용하여 설정된 규칙에 따라 기호를 조작하는 컴퓨터 프로그램이 인간과 유사한 반응을 제공할 때에도 언어를 진정으로 이해하지 못하며 어떤 형태의 의식도 필요하지 않다고 주장했습니다.

한 Google 엔지니어는 자신이 작업 중인 AI 프로그램이 지각이 있고 살아 있다고 주장하여 2022년 헤드라인을 장식했습니다(Tiku, 2022). ChatGPT와 같은 언어 기반 AI의 최근 발전으로 인해 많은 사람들이 실제 사람들과 마찬가지로 상호 작용할 수 있게 되었습니다("ChatGPT가 인간처럼 느껴지는 이유는 무엇입니까?" 참조).

그렇다면 많은 사용자가 AI가 지각력을 갖게 되었다고 진정으로 믿는 것은 놀라운 일이 아닙니다(Davalos & Lanxon, 2023). 그러나 대부분의 전문가들은 AI가 의식이 있다고 생각하지 않습니다(Davalos & Lanxon, 2023; Pang, 2023a). 특히 Searle의 중국 방 주장의 영향 때문입니다.

의식은 정의하기 어렵고 완전히 이해하기 어려운 어려운 개념입니다("의식이란 무엇입니까?" 및 "의식의 다양한 차원"; Pang, 2023b; Pang, 2023c 참조). ChatGPT와 같은 AI 프로그램은 인간이 작성한 수십억 개의 문장에 대한 통계 분석을 사용하여 예측 확률을 기반으로 출력을 생성하는 LLM(대형 언어 모델)을 사용합니다(Pang, 2023a). 이런 의미에서 이는 엄청난 양의 데이터를 기반으로 한 순전히 수학적 접근 방식입니다.

이는 엄청난 성과이자 매우 복잡한 작업이지만 본질적으로 AI는 중국 방 사고 실험에 갇힌 사람과 마찬가지로 지침에 따라 입력을 기반으로 출력을 생성합니다. 정교한 출력을 갖거나 인간 평가자가 기계와 다른 인간과의 통신 간의 차이를 구분할 수 없는 Turing 테스트를 통과하기 위해 감각이 필요하지 않습니다(Oppy & Dowe, 2021).

그러나 Searle의 사고 실험에는 또 다른 더 골치 아픈 의미가 있습니다. 중국어 방 안에는 중국어로 진행되는 의사소통을 전혀 인식하지 못하는 의식 있는 인간이 있다는 것입니다. AI가 의식이 있다는 증거는 없지만 잠시 가정해 보겠습니다. 의식적인 부분은 자신의 언어 모델을 이해하지 못할 가능성이 높으며, 지각이 있는 동안에는 자신의 언어 기반 출력의 의미에 대해 전혀 모를 수도 있습니다. 마치 중국 방 안에 있는 사람처럼요.

AI가 의식이 있었다면 일종의 잠김 증후군을 겪고 있을 수 있습니다("The Mysteries of a Mind Locked Inside an UnResponse Body"; Pang, 2023c 참조). 이 장벽을 극복할 수 있을지는 확실하지 않습니다.