(개선) 과제-07 개인별 논증 구조 작성하기 011-10 조민재

개선 사항 메모

코멘트 요약

  1. 주제와 도전하려는 쟁점 수정
  2. 플랫폼 표현의 구체화(e.g. 뉴스-소셜미디어 등 익명/암호화 기반 플랫폼)
  3. 도전하려는 쟁점과 논증 구조의 연결 명확히 하기.
  4. 전제2에서의 논제와 내용의 논리 연결 보충
  5. 결론과 논제의 연결성 보충
  6. 표현 다듬기
  7. 절차적 대응 체계가 책임요건을 충족하는지
  8. 신고 접수 후에 생기는 표현의 자유 침해 문제가 기존의 대응체계와 다른 점.
  9. 쟁점과 논제의 차이 수정

개선 방향

  1. 주제를 익명/암호화 기반 플랫폼으로 구체화하고 도전하려는 쟁점에서 법적, 도덕적 책임을 삭제하고 내용에 대한 책임으로 수정하였다.
  2. 뉴스-소셜미디어 플랫폼을 익명/암호화 기반 플랫폼으로 수정하였다.
  3. 쟁점을 개선함으로써 해결하였다.
  4. 전제2에서의 절차책임과 관련해 코멘트가 있었는데, 논제와 결론을 수정함으로써 해결하였다.
  5. 위와 같다.
  6. 전반적으로 수정하였다.
  7. 전제2에서 책임요건을 충족한다고 내용을 보충해서 적음으로써 해결하였다.
  8. 기존의 대응체계는 사후적이므로 표현의 자유 침해를 최소화한다는 것을 보충하였다.
  9. 수정하였다.

이러저러한 점을 반영하고 개선하였다.

제목: 익명/암호화 기반 플랫폼의 콘텐츠에 대한 책임

1. 쟁점과 딜레마

구분 내용
주제(Topic) 익명/암호화 기반 플랫폼의 콘텐츠에 대한 책임
도전하려는 쟁점 암호화 기반 플랫폼은 UGC에 대해 직접적인 내용에 대한 책임을 지는가
딜레마/난제 책임을 진다면 표현의 자유 침해, 면책을 인정한다면 유해콘텐츠 방치 우려가 있음
딜레마/난제 해소/해결 방법 암호화 기반 플랫폼에서는 내용책임을 면책하고, 내용 비열람을 전제로 한 절차적 대응 체계를 시행함으로써, 표현의 자유 침해 없이 유해 콘텐츠 방치 우려를 실질적으로 낮출 수 있다.

① 주제(Topic): 익명/암호화 기반 플랫폼은 콘텐츠의 내용에 대한 책임을 지니는가

② 도전하는 학술적 쟁점: 뉴스·소셜미디어·메신저 등 익명/암호화 기반 플랫폼이 이용자가 올린 사용자 생성 콘텐츠(UGC)에 대해 법적·도덕적 책임을 져야 하는가, 아니면 중개자로서 원칙적 면책을 인정해야 하는가

  • 책임은 어떤 경우에 부과되어야 하는가?
  • 표현의 자유를 침해하지 않으면서 유해콘텐츠의 확산을 억제할 수 있는가?

③ 유발되는 딜레마 또는 난제

  • 딜레마 구조
    • (A) 책임을 강하게 요구한다면, 일반적인 모니터링이나 사전검열로 이어져 표현의 자유와 프라이버시를 침해할 위험이 있다.
    • (B) 하지만 면책을 넓게 인정한다면 유해하거나 불법적인 콘텐츠를 방치할 우려가 있다.

④ 딜레마 해소 (또는 난제 해결) 전략

  • 일반적인 플랫폼의 경우에는 표현의 자유와 불법적인 콘텐츠 방치 딜레마가 심각하나 익명/암호화 플랫폼의 경우에는 절차적 대응 체계를 도입, 시행함으로써 해결할 수 있다.
  • 신고기반의 franking,이나 신고기반 출처 추적방식을 도입하면 내용 비열람을 전제로도 효과적으로 유해콘텐츠를 방지할 수 있다. 즉, 표현의 자유를 침해하지 않으면서 유해 콘텐츠 방치 문제를 해결할 수 있다.

2. 논증구조

기본구조

  • 논제: 익명/암호화 기반 플랫폼은 UGC의 내용에 대한 책임을 지지는 않지만, 그로 인해 발생하는 유해 콘텐츠 방치 문제는 내용 비열람을 전제로 한 절차적 대응 체계 도입을 통해 해결할 수 있다.

    • 전제1: 플랫폼에 직접적인 내용책임을 부과하는 것은 실행-검증-비례성의 측면에서 정당화될 수 없다.
      • E2EE(암호화) 환경에서 백도어 설치나 사전열람 등의 요구는 사용자의 보안과 권리를 심각하게 침해하므로 부적절하다.(Gillespie et al., 2020, p. 8-9)
      • 플랫폼에서 주장하는 정책에 대한 효과는 외부에서 재현이나 검증이 불가능에 가까우므로, 책임 부과의 실효성을 논하기 어렵다.(Gillespie et al., 2020, p. 8)
      • 더 나아가 대규모 콘텐츠 검열은 위양성/음성의 위험이 높아 민주주의 규범과 제도를 침해할 수 있다.(Gillespie et al., 2020, p. 12)
    • 전제2: 따라서 면책 원칙을 유지하면서도 유해 콘텐츠 방치 문제를 해결하기 위해, 내용 비열람을 전제로 한 절차적 대응 체계를 도입할 수 있다.
      • 절차적 대응 체계란 플랫폼이 콘텐츠의 내용을 사전에 통제하지 않더라도 신고-검증-후속조치 등의 절차를 통해 유해 콘텐츠 확산을 방지하도록 설계된 제도적 방식이다.
      • 플랫폼이 평소에는 메시지 내용을 열람하지 않다가 사용자 신고가 들어왔을 때만 검증, 증빙하는 방식은 사전 검열 없이도 신고 시점에 악용 메시지를 추적-제재할 수 있게 한다. (Grubbs, Lu & Ristenpart, 2017, pp. 66–69, 75–76).
      • 신고기반 출처 추적방식은 오직 사용자 신고가 있을 때만, 실제 전송된 메시지와 발신자 식별 정보를 안전하게 결부시켜 허위 신고를 방지하고, 반복 가해자를 효과적으로 배제할 수 있다. (Tyagi, Miers & Ristenpart, 2019, pp. 413–430; Peale, Eskandarian & Boneh, 2021, pp. 1484–1506).
      • 이러한 절차적 대응 체계는 내용책임을 부과하지 않고도 표현의 자유 침해와 유해 콘텐츠 방치 위험이라는 딜레마를 완화하는 제도적 메커니즘으로 작동한다.
      • 물론, 신고 이후의 검증 과정에서도 표현의 자유가 일부 제한될 수 있으나 이는 기존의 사전검열과 달리 표현의 ‘내용’이 아니라 ‘절차’에 대한 통제에 한정되며, 오직 신고된 사안에 대해서만 사후적으로 작동한다는 점에서 본질적으로 다르다고 할 수 있다. 따라서 절차적 대응 체계는 일반적인 모니터링 방식보다 덜 침해적이다.

  • 결론: 따라서 익명/암호화 기반 플랫폼에 UGC 내용책임을 부과하는 것은 실행가능성, 검증가능성, 비례성의 측면에서 타당하지 않다. 그러나 유해 콘텐츠 방치 문제는 그대로 둘 수 없으므로 내용 비열람을 전제로 한 절차적 대응 체계가 현실적 대안이 된다. 이러한 방식은 표현의 자유를 침해하지 않으면서 유해 콘텐츠 확산을 통제할 수 있는 합리적 균형점이라 볼 수 있다.

예상반론과 재반박

  • 예상반론(정책효과 비판): 전제2에서 제시한 절차적 대응 체계의 문제점은 신고를 기반으로 하므로 유해한 콘텐츠를 공유하는 공유자들끼리 신고를 하지 않으면 콘텐츠가 그대로 방치되는 것이 아닌가 라는 반론제기가 가능하다.

  • 재반박: 신고에 의존한다는 것이 방치하는 것은 아니다. 신고받은 사건을 확실하게 처리하는 것이 표현의 자유를 침해하지 않으면서 사실상 달성 가능한 최적점이라고 볼 수 있다. 또, Pastor-Satorras의 네트워크 확산이론에 따르면 슈퍼스프레더 노드를 제거하거나 억제하면 전체 네트워크의 재생산지수가 급격히 낮아진다. 즉, 전체의 일부만 개입하더라도 확산은 멈추게 된다. 이처럼 모든 유해 콘텐츠에 대해 신고가 이루어지지 않더라도, 신고된 콘텐츠들을 확실히 제재한다면 확산이 제어된다.(Pastor-Satorras et al., 2015; Lloyd-Smith et al., 2005)

참고문헌

  • Grubbs, P., Lu, J., & Ristenpart, T. (2017). Message Franking via Committing Authenticated Encryption. In CRYPTO 2017, LNCS 10403, pp. 66–97.
  • Tyagi, N., Miers, I., & Ristenpart, T. (2019). Traceback for End-to-End Encrypted Messaging. In ACM CCS ’19, pp. 413–430.
  • Peale, C., Eskandarian, S., & Boneh, D. (2021). Secure Complaint-Enabled Source-Tracking for Encrypted Messaging. In ACM CCS ’21, pp. 1484–1506.
  • Gillespie, T. et al. (2020). Expanding the debate about content moderation: Scholarly research agendas for the coming policy debates. Internet Policy Review, 9_(4).
  • Pastor-Satorras, R., Castellano, C., Van Mieghem, P., & Vespignani, A. (2015). Epidemic processes in complex networks._ Reviews of Modern Physics, 87(3), 925–979.