과제-07 개인별 논증 구조 작성하기 011-10 조민재

제목: 암호화 기반 플랫폼에서의 UGC에 대한 책임의 유무

1. 쟁점과 딜레마

구분	내용
주제(Topic)	뉴스 및 소셜미디어 플랫폼은 사용자 콘텐츠에 대한 책임
도전하려는 쟁점	암호화 기반 플랫폼이 UGC에 대해 법적, 도덕적 책임의 유무
딜레마/난제	책임을 진다면 표현의 자유 침해, 면책을 인정한다면 유해콘텐츠 방치 우려가 있음
딜레마/난제 해소/해결 방법	암호화 기반 플랫폼에서는 내용책임을 면책하고, 내용 비열람을 전제로 한 절차적 대응 체계를 시행함으로써, 표현의 자유 침해 없이 유해 콘텐츠 방치 우려를 실질적으로 낮출 수 있다.

① 주제(Topic): 뉴스 및 소셜미디어 플랫폼은 사용자 콘텐츠에 대한 책임을 지니는가

② 도전하는 학술적 쟁점: 뉴스·소셜미디어·메신저 등 익명/암호화 기반 플랫폼이 이용자가 올린 사용자 생성 콘텐츠(UGC)에 대해 법적·도덕적 책임을 져야 하는가, 아니면 중개자로서 원칙적 면책을 인정해야 하는가

책임은 어떤 경우에 부과되어야 하는가?
표현의 자유를 침해하지 않으면서 유해콘텐츠의 확산을 억제할 수 있는가?

③ 유발되는 딜레마 또는 난제

딜레마 구조
- (A) 책임을 강하게 요구한다면, 일반적인 모니터링이나 사전검열로 이어져 표현의 자유와 프라이버시를 침해할 위험이 있다.
- (B) 하지만 면책을 넓게 인정한다면 유해하거나 불법적인 콘텐츠를 방치할 우려가 있다.

④ 딜레마 해소 (또는 난제 해결) 전략

일반적인 플랫폼의 경우에는 표현의 자유와 불법적인 콘텐츠 방치 딜레마가 심각하나 익명/암호화 플랫폼의 경우에는 절차적 대응 체계를 도입, 시행함으로써 해결할 수 있다.
신고기반의 franking,이나 신고기반 출처 추적방식을 도입하면 내용 비열람을 전제로도 효과적으로 유해콘텐츠를 방지할 수 있다. 즉, 표현의 자유를 침해하지 않으면서 유해 콘텐츠 방치 문제를 해결할 수 있다.

2. 논증구조

기본구조

논제: 익명/암호화 기반 플랫폼은 UGC의 내용책임을 지지 않고, 대신 절차책임만 진다.
- 전제1: 플랫폼에 내용책임을 부과하기 위해서는 실행가능성, 검증가능성, 비례성이 동시에 충족되어야 한다.
  - E2EE(암호화) 환경에서 백도어, 사전열람 등의 요구는 보안이나 권리 훼손등의 문제가 크므로 부적절하다.(Gillespie et al., 2020, p. 8-9)
  - 플랫폼에서 주장하는 정책에 대한 효과는 외부에서 재현이나 검증이 불가능에 가까우므로, 책임 부과를 논하기 어렵다.(Gillespie et al., 2020, p. 8)
  - 대규모 콘텐츠 검열은 위양성/음성의 위험이 크고, 민주주의 규범과 제도에 대한 침해가 크다.(Gillespie et al., 2020, p. 12)
- 전제2: 내용 비열람을 전제로 한 절차적 대응 체계는 표현의 자유 침해를 최소화하면서 유해 콘텐츠의 확산을 실질적으로 완화한다.
  - 플랫폼이 평소에는 메시지 내용을 전혀 열람하지 않으면서도, 사용자 신고가 들어왔을 때만 진짜 전송된 메시지임을 검증, 증빙할 수 있게 한다. 이 방식은 사전 검열 없이도 보고 시점에만 악용 메시지를 추적·제재 가능하게 한다. (Grubbs, Lu & Ristenpart, 2017, pp. 66–69, 75–76).
  - 신고기반 출처 추적방식은 오직 사용자 신고가 있을 때만, 실제 전송된 메시지와 발신자 식별 정보를 안전하게 결부시켜 허위 신고를 방지하고, 반복 가해자를 집요하게 배제하는 후속 집행이 가능하다. (Tyagi, Miers & Ristenpart, 2019, pp. 413–430; Peale, Eskandarian & Boneh, 2021, pp. 1484–1506).
결론: 따라서, 익명/암호화 기반 플랫폼은 UGC에 대해 면책되고, 내용 비열람을 전제로 한 절차적 대응 체계를 도입하면 표현의 자유 침해 문제를 해결할 수 있다.

예상반론과 재반박

예상반론(연역적 논증의 타당성 공격): 전제2에서 제시한 절차적 대응 체계의 문제점은 신고를 기반으로 하므로 유해한 콘텐츠를 공유하는 공유자들끼리 신고를 하지 않으면 콘텐츠가 그대로 방치되는 것이 아닌가 라는 반론제기가 가능하다.
재반박: 신고에 의존한다는 것이 방치하는 것은 아니다. 신고받은 사건을 확실하게 처리하는 것이 표현의 자유를 침해하는 것 없이 사실상 달성 가능한 최적점이라고 볼 수 있다. 또, Pastor-Satorras의 네트워크 확산이론에 따르면 슈퍼스프레더 노드를 제거하거나 억제하면 전체 네트워크의 재생산지수가 급격히 낮아진다. 즉, 전체의 일부만 개입하더라도 확산은 멈추게 된다. 이처럼 모든 유해 콘텐츠에 대해 신고가 이루어지지 않더라도, 신고된 콘텐츠들을 확실히 제재한다면 확산이 제어된다.(Pastor-Satorras et al., 2015; Lloyd-Smith et al., 2005)

참고문헌

Grubbs, P., Lu, J., & Ristenpart, T. (2017). Message Franking via Committing Authenticated Encryption. In CRYPTO 2017, LNCS 10403, pp. 66–97.
Tyagi, N., Miers, I., & Ristenpart, T. (2019). Traceback for End-to-End Encrypted Messaging. In ACM CCS ’19, pp. 413–430.
Peale, C., Eskandarian, S., & Boneh, D. (2021). Secure Complaint-Enabled Source-Tracking for Encrypted Messaging. In ACM CCS ’21, pp. 1484–1506.
Gillespie, T. et al. (2020). Expanding the debate about content moderation: Scholarly research agendas for the coming policy debates. Internet Policy Review, 9_(4).
Pastor-Satorras, R., Castellano, C., Van Mieghem, P., & Vespignani, A. (2015). Epidemic processes in complex networks._ Reviews of Modern Physics, 87(3), 925–979.