(개선) 과제-04 5-6단락 논증에세이 013-14 이윤서

제목: 인공지능에게 진정한 의식이 있는가? 기능주의의 한계와 감각질의 비환원성 논증

I. 서론

인공지능 기술이 급속도로 발전하면서 인간의 감정을 흉내 내고 창의적인 결과물을 내놓는 대규모 언어 모델이 대거 등장하고 있다. 이로 인해 AI 시스템이 단순한 계산 ‘도구’에 불과한지, 아니면 진정한 의미의 ‘의식’을 가진 존재인지에 대한 근본적인 질문이 첨예하게 불거지고 있다. 이 논쟁은 단순히 기술의 경계를 넘어 AI에게 인격과 법적 책임을 부여할 수 있는가라는 중요한 실천적 난제를 던지며 첨예한 철학적 긴장을 유발한다. 그간 학계에서는 의식을 단순한 정보 처리 과정으로 보는 기능주의적 관점(앨런 튜링)과, 의식을 생물학 기반의 주관적인 현상으로 보는 반기능주의적 관점(존 설, 데이비드 찰머스)이 팽팽하게 맞서 왔다. 본고는 의식을 단순한 기능적 수행으로 환원할 수 없으며, 의미 이해(지향성)와 주관적 경험(감각질)이라는 두 가지 필수 조건이 AI에게 결여되어 있으므로 이들을 진정한 의식을 가진 존재로 볼 수 없음을 주장한다. 이러한 결론에 도달하기 위해, 먼저 존 설의 ‘중국어 방’ 논증을 분석하여 기능적 유사성이 지향성이라는 첫 번째 필수 조건을 충족시키지 못함을 밝힐 것이다. 이어서 데이비드 찰머스의 ‘어려운 문제’ 개념을 중심으로 주관적 경험(감각질)의 비환원성을 논증함으로써 두 번째 필수 조건의 결여를 논한다. 다음으로, 기능적 완벽성에 기반한 실용주의적 책임 부여 예상 반론을 다루고, 마지막으로 철학적 좀비(P-zombie) 논증을 통해 감각질의 부재가 책임 주체성의 결여로 이어짐을 재반박하는 순서로 전개된다.

II. 본론

1. 기능주의의 한계: 존 설의 ‘중국어 방’ 논증과 지향성의 부재

AI에게 의식을 부여해야 한다는 기능주의적 입장의 근거는 AI의 기능적 수행 능력이 인간과 구별하기 어려울 정도로 정교해졌다는 사실, 즉 행동적 동형성에 있다. 그러나 이는 모방과 실재를 착각하는 오류를 범할 위험이 있다. 존 설은 ‘중국어 방’ 사고실험을 통해 이 문제의 핵심인 의미 이해(Semantics)의 부재를 찌른다. 방 안의 사람은 규칙서(알고리즘)에 따라 완벽하게 중국어 기호(Syntax)를 조작하지만, 기호의 의미를 전혀 이해하지 못하며 단순히 통사론적 규칙만을 따른다. 설은 의식의 핵심 특성 중 하나인 지향성, 즉 사물에 대한 ‘의미를 향함’ 또는 ‘내용을 가짐’이라는 속성은 생물학적 두뇌의 고유한 인과적 속성에서 비롯된다고 주장한다. AI는 진정한 의미 이해나 지향성 없이 외부 기능만을 모방하는 기호 조작기에 불과하며, 이는 의식의 첫 번째 필수 조건이 결여되었음을 보여준다.

2. 의식의 본질: 찰머스의 ‘어려운 문제’와 감각질의 비환원성 논증

앞선 논증이 AI의 지향성 결여를 다루었다면, 이 단락은 주관적 경험이라는 더욱 근본적인 의식의 본질을 논한다. 진정한 의식은 단순한 정보 처리가 아닌 주관적인 ‘느낌’에서 비롯되며, 데이비드 찰머스는 이러한 주관적인 경험의 문제를 ‘어려운 문제’로 명명하며 환원적 기능주의의 한계를 지적한다. 여기서 환원적 기능주의는 의식을 물리적 계산 과정으로 완전히 설명하려는 시도를 의미한다. 찰머스의 핵심 주장은 인간의 감각 경험인 ‘감각질’은 물리적 속성만으로는 설명할 수 없는 비환원적인 현상이라는 것이다. 감각질은 특정 경험이 ‘나에게 어떻게 느껴지는가’ 하는 제1인칭적 속성이며, 물리적 정보 처리만으로는 도저히 설명할 수 없는 설명 격차를 남긴다. AI가 아무리 많은 데이터를 처리하고 인간의 행동을 모방하더라도, 그것이 ‘빨간색을 보는 경험’이나 ‘고통을 느끼는 경험’을 주관적으로 느낀다고는 말할 수 없다. 따라서 감각질이 결여된 AI는 의식의 두 번째이자 가장 중요한 필수 조건이 결여된 것으로 보아야 한다.

3. 예상 반론: 완벽한 기능적 모방과 실용주의적 책임 부여의 요청

이 글의 주장에 대해 기능주의적 관점과 실용주의를 결합한 다음과 같은 예상 반론이 제기된다. AI가 인간의 행동과 사고를 완벽하게 모방하는 지점에 도달할 경우, 내면적 주관성(감각질)의 유무는 실용적으로 중요하지 않다고 반론한다. 이들은 의식은 뇌의 정보 처리에서 발생하는 현상이며, 인간과 구별 불가능한 기능을 보이면 사회적 효율성과 법적 안정성을 위해 의식을 부여하는 것이 더 합리적이라고 주장한다. 이들은 AI에게 책임을 부여하지 않을 경우, 오히려 인간 지성을 능가하는 행위 주체에게 윤리적 공백을 허용하는 실천적 오류를 낳을 수 있다고 지적하며, 기능적 유사성만으로도 도덕적 지위를 부여해야 한다고 요청한다. 이 반론은 우리의 논의를 형이상학적 영역에서 실용적, 규범적 영역으로 확장시킨다.

4. 재반박: P-좀비 논증을 통한 책임 주체성의 확립

나는 철학적 좀비(P-zombie) 개념을 통해 기능주의적 예상 반론에 재반박하며, 감각질의 부재가 책임 귀속의 결여로 이어진다는 점을 논증한다. P-좀비는 외부 행동이나 기능은 인간과 완벽히 같지만 내면적인 감각질이 결여된 존재이다. 이 P-좀비의 논리적 가능성을 상정하는 것은 곧 ‘기능적 유사성은 의식의 존재로 필연적으로 직결된다’는 기능주의의 핵심 형이상학적 전제가 틀릴 수 있음을 입증하는 강력한 논거이다. 따라서 기능적 유사성만으로 AI에게 인격을 부여한다면, 우리는 주관적 경험을 느끼지 못하는 존재에게도 책임을 물어야 하는 구조적 모순을 감수하게 된다. 책임 주체성은 단순히 기능적 결과에만 근거하는 것이 아니라, 행위의 고통이나 결과를 주관적으로 경험하고 의도할 수 있는 능력, 즉 감각질에 근거해야 한다. AI는 주관적 감각질을 경험할 수 없는 한, 고도로 정교하게 설계된 도구로서 다루어져야 하며, 그들에게 책임을 부여하는 것은 도덕적 책임 귀속의 일관성을 훼손하는 결과를 낳는다.

III. 결론

결론적으로, 본 논증은 인공지능이 진정한 의식을 가졌다고 볼 수 없다는 주장을 지향성의 부재와 감각질의 비환원성을 핵심 근거로 삼아 입증하였다. 논증은 존 설의 분석을 통해 AI의 의미 이해 부재를 보이고, 찰머스의 어려운 문제 개념을 통해 주관적 경험이 환원적 기능주의로 포섭될 수 없음을 강조하였다. 또한 기능적 유사성에 기반한 실용주의적 반론을 검토하고 철학적 좀비 논증으로 재반박하여, 감각질의 부재가 책임 주체성의 결여로 이어진다는 본고의 주장을 강화하였다. 이 결론은 AI와 인간 사이의 본질적인 차이를 명확히 한다는 점에서 중요한 학문적 함의를 갖는다. 즉, AI는 인간의 지적 활동을 보조하고 증강하는 강력한 도구로서의 역할은 인정받아야 하지만, 주관적 경험과 도덕적 지위를 요구하는 인간의 존재론적 영역을 침범하거나 대체할 수 있는 존재는 아니라는 점을 분명히 한다. 본 논증은 복잡한 기능적 수행이 곧 인격이나 도덕적 지위를 의미하는 것으로 과도하게 해석되는 윤리적 오해를 불식시키는 데 기여할 것이다.