과제-03 쟁점과 딜레마 분석 013-15 서윤진

1. 관심 주제 및 일반적 배경

생성형 인공지능(Generative AI)은 기존의 대규모 데이터 학습을 통해 텍스트, 이미지, 음악 등 다양한 창작물을 만들어내는 기술로 빠르게 확산되고 있다. 그러나 이러한 학습 과정에는 수많은 예술가들의 창작물이 포함되며, 상당수는 원작자의 명시적 동의 없이 수집된다. 이는 과연 이러한 데이터 학습에 기반한 예술 창작이 윤리적으로 정당한가 라는 질문을 불러일으킨다.

2. 논쟁 중인 학술적 쟁점 (Core Issue)

주요 쟁점:

원작자의 동의 없이 학습된 데이터를 기반으로 한 생성형 AI의 예술 창작은 과연 정당화될 수 있는가?

상반된 입장:

Hagendorff (2024)등의 일부 연구자들은 성형 AI의 학습 과정은 직접적 복제가 아니라는 점에서 저작권 침해로 단정하기 어렵다고 본다.
반면, 김영희·김찬선(2025)과 김병필(2023)은 원작자의 동의 없는 학습은 창작자의 권리를 침해하고 시장 윤리를 위협한다고 지적하며 생성모형이 사회적 편향과 고정관념을 강화하는 등 표상적 위해를 낳을 수 있음을 강조한다.

3. 촉발되는 딜레마 또는 난제 (Dilemma / Hard Question)

딜레마:
- 원작자의 동의를 요구하지 않으면 창작자의 권리 침해와 시장 윤리 훼손, 사회적 편향 확산 등의 위험이 커진다.
- 그러나 동의를 일일이 요구하면 데이터 활용이 사실상 불가능해져 기술 혁신과 예술 민주화의 기회를 막을 수 있다.
과제 질문: 그렇다면 생성형 AI의 학습과 예술 창작 과정에서 창작자의 권리 보호와 사회적 혁신 촉진 사이의 균형은 어떻게 설정해야 하는가? 저작권과 표현의 자유를 함께 존중하기 위해, 어떤 법적·윤리적 기준이 마련되어야 하며 이 책임은 플랫폼 기업, 개발자, 혹은 이용자 중 누구에게 귀속되어야 하는가?

4. 관련 학자 및 입장 정리

학자명	대표 저작/논문	입장 요약
김영희·김찬선	생성형 AI 혁신 기술과 디지털사회의 윤리적 딜레마(2025)	원작자의 동의 없는 학습은 창작자의 권리 침해, 시장 윤리 위기를 초래할 수 있다. 따라서 공정한 활용 제도 필요하다.
김병필	인공지능 공정성 심사 기준에 관한 연구(2023)	생성모형은 편향과 유독성을 확산시킬 위험 존재한다.
서윤경	AI와 인간 창작자 간 저작권 분쟁 연구 (2023)	AI과의 저작권 분쟁은 불가피하며, 원작자의 권리 보호가 우선되어야한다.
Hagendorff	The ethics of AI ethics: An evaluation of guidelines. Minds and Machines(2020)	저작권·편향 등 19개 윤리 쟁점 중에서 특히 저작권 불명확성이 핵심 문제이다.

5. 나의 문제의식 (초기 주장의 방향)

생성형 AI가 원작자의 동의 없는 데이터를 학습해 예술 창작에 활용하는 것은 정당하지 않다. 그 이유는 다음과 같다. 첫째, 원작자의 동의 없이 작품을 학습 데이터로 활용하는 것은 창작자의 저작권과 인격권을 침해하는 행위이다. 둘째, AI가 특정 예술가의 스타일을 모방해 결과물을 만들어낼 경우 정당한 보상이 이루어지지 않아 예술 시장의 공정성이 훼손된다. 셋째, 생성모형은 기존 사회적 편향과 고정관념을 그대로 재생산함으로써 문화적 위해를 초래할 수 있다. 넷째, 현행 법제는 빠른 기술 발전 속도를 따라가지 못하고 있어, 규제 없는 상태에서 무단 학습을 허용한다면 사회적 혼란이 심화될 가능성이 크다. 따라서 AI 창작이 가진 장점을 고려하더라도 원작자 동의 없는 데이터 학습에 기반한 예술 창작은 정당화될 수 없다. 이는 기술 혁신 자체를 부정하는 것이 아니라, 투명성과 권리 존중을 전제로 한 공정한 제도적 틀이 마련된 이후에야 가능하다.

6. 참고문헌

김영희·김찬선, 「생성형 AI 혁신 기술과 디지털사회의 윤리적 딜레마」, 융합과 통섭 제8권 제4호
김병필, 「인공지능 공정성 심사 기준에 관한 연구」, 서울대학교 법학과 박사학위논문
Hagendorff, T. (2024). Comprehensive Ethical Issues in Generative AI