과제-03 쟁점과 딜레마 분석 011-19 유영명
1. 관심 주제 및 일반적 배경
인간이 아닌 인공지능과 프로그래밍으로 주행하는 자율주행 자동차의 상용화가 코앞으로 다가오고 있다. 그러나, 아직 자율주행 자동차가 불러오는 여러 문제들에 대한 공통된 사회적 합의가 부재한다. 자율주행 자동차는 본질적으로 교통사고를 줄여야 하는 방향으로 설계되어야 하지만, 가끔은 사고와 희생이 필연적으로 존재하는 상황이 발생하기도 한다. 이러한 상황 속에서 자율주행 자동차가 어느 가치를 우선으로 하여 프로그래밍되어야 할지에 대해 논의해보고자 한다.
2. 논쟁 중인 학술적 쟁점 (Core Issue)
주요 쟁점:
자율주행 자동차는 불가피한 사고 상황에서 탑승자의 안전과 공동선 중 어느 것을 우선해야 하는가?
상반된 입장:
- Jean-François Bonnefon, et al. (2016) 는 수집 데이터를 통해, 사람들은 사회적으로 ‘공공선’ 원칙을 지지하지만, 실제 자신이 탑승했을 때는 ‘자기 보호’ 쪽을 더 강하게 선호한다는 역설을 발견한다. 공동선 구현을 위해 정책과 규제가 필요함을 입증한다.
- 반면, Tripat Gill (2021) 등은 마케팅과 시장 활성화의 입장에서 공동선 규범이 옳다고 여겨지더라도 시장에서는 탑승자 보호 설계가 현실적이라는 의견을 드러낸다.
- 이 논쟁은 공동선, 생명, 시장의 자율성이라는 핵심 도덕 가치와 관련되어 있다.
3. 촉발되는 딜레마 또는 난제 (Dilemma / Hard Question)
- 딜레마:
- 자율주행 자동차는 불가피한 상황에서 공동선을 우선하도록 설계되어야 한다는 사회적 요구와 당위성이 존재한다. 그러나 소비자는 실제 구매 시 자신의 안전을 최우선으로 보장하길 원한다.
- 이 경우, 공동선을 반영하는 윤리적 알고리즘을 도입하면 소비자 채택이 저해될 수 있고, 반대로 탑승자 보호를 우선하면 사회적 정의와 공익 원칙에 어긋난다.
- 과제 질문: 그렇다면 자율주행 자동차의 사고 알고리즘은 공동선과 개인 보호 사이의 긴장을 어떻게 조정해야 하는가? 또한 그 기준은 시장, 사회, 개인 중 누구의 책임과 권한으로 정립되어야 하는가?
4. 관련 학자 및 입장 정리
| 학자명 | 대표 저작/논문 | 입장 요약 |
|---|---|---|
| Jean-François Bonnefon 외 | “The Social Dilemma of Autonomous Vehicles” (2016) | 실제 상황에서 사람들은 자기보호를 더 강하게 선택하기에, 공동선을 위한 규제가 필요하다. |
| Tripat Gill | “Ethical Dilemmas Are Really Important to Potential Adopters of Autonomous Vehicles” (2021) | 시장에서는 탑승자 보호가 현실적으로 우선시되어야 한다. |
5. 나의 문제의식 (초기 주장의 방향)
자율주행 자동차가 공동선을 무조건 따르는 것보다 탑승자를 우선하는 것이 더 바람직하다. 차량은 무엇보다 탑승자의 생명을 우선 보장하는 장치여야 하며, 이는 기술적 선택이자 소비 시장에서 신뢰 확보의 조건이다. 공동선 중심의 설계는 이상적이고 사회의 바람직한 방향성이라 볼 수 있지만, 공동선이라는 개념 자체에 대한 공통적인 합의가 없으며, 프로그램 설계상 인간이 생각하는 영향과 외부적인 요인까지 순간적으로 고려하기 힘들다. 따라서 논증문에서는 개인 보호를 중심으로 정단성을 제시하고, 공동선 논리의 한계를 비판적으로 검토할 것이다.
6. 참고문헌
- Bonnefon, J.-F., et al. (2016). The social dilemma of autonomous vehicles. Science, 352(6293), 1573–1576.
- Gill, T. (2021). Ethical dilemmas are really important to potential adopters of autonomous vehicles. Ethics and Information Technology, 23(4), 657–673.
- Krügel, S., & Uhl, M. (2024). The risk ethics of autonomous vehicles: an empirical approach. Scientific Reports, 14(1), 960–11.