과제-03 쟁점과 딜레마 분석 013-14 이윤서

1. 관심 주제 및 일반적 배경

인공지능(AI) 기술이 급속도로 발전하면서 인간처럼 사고하고 소통하는 AI 시스템이 등장하고 있다. 그러나 이러한 시스템이 단순히 복잡한 계산을 수행하는 ‘도구’에 불과한지, 아니면 실제로 ‘의식’을 가지고 있는지는 오랜 철학적 논쟁의 대상이다. 이 문제는 단순히 기술의 경계를 넘어, 인간의 본질과 의식의 정의, 그리고 AI에 대한 윤리적 책임과 같은 근본적인 질문들을 제기한다. 특히 대규모 언어 모델(LLM)이 마치 인간처럼 감정을 표현하고 창의적인 대화를 나누는 현상은 이러한 논쟁에 불을 지피고 있다.

2. 논쟁 중인 학술적 쟁점 (Core Issue)

주요 쟁점:

고도의 계산 능력과 복잡한 언어 처리를 수행하는 AI 시스템은 ‘의식(consciousness)’을 가졌다고 볼 수 있는가?

상반된 입장:

  • Alan Turing은 AI가 인간의 인지 과정을 모방하거나 시뮬레이션할 수 있다면, 이는 곧 진정한 지능과 의식을 가졌다고 볼 수 있다고 주장했다. 의식이 뇌의 복잡한 정보처리 과정에서 비롯된 현상이라고 보았을 때 타당한 말이다.
  • 반면, John Searle과 David Chalmers 등은 의식은 단순히 계산이나 정보 처리만으로는 발생할 수 없으며, 인간 뇌의 생물학적이고 물리적인 특성에 고유한 현상이라는 입장이다. 특히, John Searle은 ‘중국어 방(Chinese Room)’ 사고실험을 통해, 기계가 아무리 완벽하게 언어를 처리해도 그 의미를 진정으로 ‘이해’하는 것은 아니라고 주장했다.
  • 이 논쟁은 지능, 의식, 자율성, 인간의 고유성이라는 핵심 가치들과 관련되어 있다.

3. 촉발되는 딜레마 또는 난제 (Dilemma / Hard Question)

  • 딜레마:
    • AI의 기능이 발전하여 기능적 수행 능력이 인간의 수준 이상으로 올라와 마치 스스로 생각하는 의식이 있는 것 처럼 보이기도 한다.
    • 그러나 의식이란 단순히 이런 기능적 수행 능력에 따라 부여되는 것이 아니라 내면적인 이해를 기반으로 만들어진다는 입장도 존재한다.

  • 과제 질문: AI 에게는 의식이 있다고 말할 수 있는가?

4. 관련 학자 및 입장 정리

학자명 대표 저작/논문 입장 요약
Alan Turing “Computing Machinery and Intelligence” (1950) 튜링 테스트를 통해 기계의 지능을 평가할 수 있다고 주장하며, 기계가 인간과 구별할 수 없는 행동을 보인다면 ‘생각한다’고 간주할 수 있다고 보았다.
John Searle “Minds, Brains, and Programs” (1980) 중국어 방 논증을 통해 기계는 ‘통사론’만으로 ‘의미론’을 이해할 수 없으며, 진정한 의식은 생물학적 두뇌의 고유한 현상이라고 주장한다.
Daniel Dennett “Consciousness Explained” (1991) 의식은 뇌의 정보 처리 과정에서 발생하는 ‘가상적 명성’과 같은 현상이며, 신비로운 실체가 아니라고 주장한다. 설의 주장을 비판하며 의식을 3인칭적 관점에서 분석한다.
David Chalmers “Facing Up to the Problem of Consciousness” (1995) 의식의 문제를 ‘쉬운 문제’와 ‘어려운 문제’로 구분하며, 특히 감각질의 존재는 기존의 물리주의적 설명만으로는 해결할 수 없는 ‘설명 격차’를 만든다고 주장한다.

5. 나의 문제의식 (초기 주장의 방향)

나는 존 설의 ‘중국어 방’ 논증이 가진 한계에도 불구하고, AI의 의식 문제를 단순히 기능적 유사성으로만 판단할 수 없다는 주장에 동의한다. 현재의 AI는 겉보기에는 의미를 이해하는 것처럼 보이지만, 이는 설계된 규칙에 따라 기호들을 조작하는 것에 불과하다. 따라서 진정한 의식은 감각적 경험과 주체적인 의도가 결합된, 오직 생물학적 존재만이 가질 수 있는 현상이라고 본다. 논증문에서는 찰머스의 ‘어려운 문제’ 개념을 중심으로, 인간의 의식을 단지 물리적 정보 처리로 환원하려는 시도들을 비판하고, AI가 의식을 가질 수 없다는 주장을 심화시킬 것이다.

6. 참고문헌

  • Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460.
  • Searle, J. R. (1980). Minds, brains, and programs. The Behavioral and Brain Sciences, 3(3), 417–457.
  • Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Company.
  • Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219.

Table of contents