과제-07 개인별 논증 구조 작성하기 011-27 김가희

제목: 왜 플랫폼은 콘텐츠를 중재해야 하는가

1. 쟁점과 딜레마

구분	내용
주제(Topic)	소셜 미디어 플랫폼의 콘텐츠 중재 행위에 대한 도덕적 책임과 그 철학적 근거
도전하려는 쟁점	“발행인인가 단순 플랫폼인가”라는 기존의 이분법적 쟁점을 비판하며, 플랫폼이 사용자의 부당한 발언을 중재해야 할 도덕적 의무의 근거와 범위를 묻는다.
딜레마/난제	중재에 소극적이면 해악에 연루되고, 적극 개입하면 사적 검열 비판을 받는다.
딜레마/난제 해소/해결 방법	연루라는 도덕적 실패가 사적 검열 비판보다 더 심각하며, 사적 검열 반론 자체가 국가와 플랫폼의 의무를 혼동한 오류임을 논증하여 적극적 중재를 정당화한다.

① 주제(Topic): 소셜 미디어 플랫폼의 콘텐츠 중재 행위에 대한 도덕적 책임과 그 철학적 근거

② 도전하는 학술적 쟁점: “발행인인가 단순 플랫폼인가”라는 기존의 이분법적 쟁점을 비판하며, 플랫폼이 사용자의 부당한 발언을 중재해야 할 도덕적 의무가 있는가, 있다면 그 근거와 범위는 무엇인가?

플랫폼 자체만으로 최소한의 의무가 있는가?
플랫폼은 왜 신고가 들어오기도 전에 적극적으로 감시해야 하는가?
플랫폼의 알고리즘 자체에 도덕적 책임이 있는가?

③ 유발되는 딜레마 또는 난제

딜레마 구조
- (A) 플랫폼이 중재에 소극적이거나 중립을 지키면, 부당한 발언이 만연하는 것을 방치하게 된다. 이는 타인의 불법 행위가 예측 가능하게 일어날 공간을 제공함으로써 연루되는 심각한 도덕적 실패를 초래한다.
- (B) 그러나 플랫폼이 적극적으로 개입하여 콘텐츠를 중재하면, 부당한 사적 검열이라는 비판과 표현의 자유를 침해한다는 문제에 직면한다.

④ 딜레마 해소 (또는 난제 해결) 전략

(A)의 연루는 플랫폼과 해악의 인과 관계에서 비롯된 명백한 도덕적 의무 위반이다.
(B)의 사적 검열은 ‘국가’와 ‘플랫폼’의 의무를 혼동한 오류다. 국가의 중립 의무와 플랫폼의 의무는 비대칭적이다.
따라서 (A)의 도덕적 실패(연류)가 (B)의 사적 검열 비판보다 더 중대하고 근본적인 문제이다. 플랫폼은 국가와 다른 고유한 도덕적 의무를 지니므로,연루를 피하기 위한 적극적 중재는 정당화된다.

2. 논증구조

기본구조(연역논증)

논제: 소셜 미디어 기업은 사용자가 게시하는 ‘부당하게 해롭거나 위험한 발언’을 적극적으로 중재해야 할 도덕적 의무를 지닌다.
- 전제1: 플랫폼은 ‘구조의 의무(duty of rescue)’를 지닌다.
  - 모든 도덕적 행위자는 합리적인 비용으로 타인을 위험에서 구할 의무가 있다.
  - 플랫폼은 인지한 위험을 제거함으로써 잠재적 피해자를 보호할 수 있다.
- 전제2: 플랫폼은 부당한 행위에 ‘연루되는 것을 피할 의무’를 지닌다.
  - 타인의 불법 행위가 ‘예측 가능하게’ 일어날 공간(주차장, 아파트, 플랫폼)을 제공하는 자는, 그 행위를 최소화할 ‘합리적 조치’를 취하지 않을 경우 공범이 된다.
  - ‘신고 및 삭제’ 방식만으로는 이 예측 가능한 연루를 피하기에 “명백히 부적절하다”. 따라서 ‘적극적 감시’가 요구된다.
- 전제3: 플랫폼은 단순 호스팅을 넘어 ‘증폭’을 통해 해악에 더 큰 인과적 기여를 하므로, 이를 금지할 더 엄격한 의무가 있다.
  - 부당한 발언(혐오 발언 등)을 알고리즘으로 증폭하는 것은 “테러리스트에게 더 큰 무기를 파는 것”과 같으며, 해악을 극대화하고 연루를 심화시킨다.
  - 그 자체로는 무해했던 발언조차 ‘집합/증폭’시켜 ‘집합적으로 해로운’ 새로운 부당한 해악으로 ‘변형’시킨다.
결론: 따라서, 플랫폼의 도덕적 의무는 단순 방관자가 아닌, 적극적이고 선제적인 중재를 요구할 만큼 강력하다.

예상반론과 재반박

예상반론: 플랫폼의 중재는 “부당한 사적 검열”이다. 플랫폼은 사실상 ‘공공 포럼’이 되었으므로, 국가가 금지할 수 없는 발언을 플랫폼 역시 금지해서는 안 된다.
- 논리적 취약점 지적: 이 반론은 ‘국가’와 ‘플랫폼’이 동일한 의무를 진다는 전제에 기반한다.
재반박: 이는 ‘국가’와 ‘플랫폼’을 혼동한 오류다. 둘은 본질적으로 다르다. 국가의 강제력은 엄청난 역량을 갖지만, 플랫폼의 제재는 그 위험이 질적으로 다르므로 다른 기준이 적용될 수 있다. 또한, 국가는 ‘관점 중립성’ 의무를 지닐 수 있지만, 플랫폼은 ‘연루를 피할 의무’라는 국가와 다른 고유한 도덕적 의무를 지닌다.’ 따라서 “국가는 혐오 발언을 금지해서는 안 된다”는 주장과 “플랫폼은 혐오 발언을 금지해야 한다”는 주장은 양립 가능하다. 플랫폼의 중재는 ‘사적 검열’이 아니라 ‘연루 회피’라는 고유의 도덕적 의무를 이행하는 것이다.

참고문헌

Howard, J., (2024) “The Ethics of Social Media: Why Content Moderation is a Moral Duty”, Journal of Practical Ethics 11(2). doi: https://doi.org/10.3998/jpe.6195