극우 유튜브: 플랫폼 알고리즘은 법적 책임을 져야 하는가?

Ⅰ. 플랫폼 알고리즘은 법적 책임을 져야 하는가?

이 질문은 단순히 “유튜브가 나쁘냐”의 문제가 아니다.
이건 현대 민주주의에서 권력의 소재가 어디에 있는가라는 문제다.

플랫폼 알고리즘은 단순한 중립적 기술이 아니다.
그것은 주의(attention)를 배분하는 권력 장치다.
주의를 배분한다는 것은 곧 현실을 재구성한다는 뜻이다.

---

1️⃣ 알고리즘은 단순 중개자인가, 편집자인가?

법적으로 핵심 쟁점은 이것이다.

• 📦 중립적 호스팅 서비스인가?
• 📰 편집권을 행사하는 미디어인가?

미국에서는 **통신품위법 230조(Section 230)**가 플랫폼을 광범위하게 면책한다.
“제3자가 올린 콘텐츠에 대해 플랫폼은 책임지지 않는다.”

하지만 최근 논쟁은 여기서 한 걸음 더 나아간다.

알고리즘 추천은 단순 게시가 아니라 ‘증폭’이다.

증폭은 수동적 행위가 아니라 능동적 개입이다.
즉, 플랫폼이 특정 콘텐츠를 더 많은 사람에게 도달시키는 순간,
그건 일종의 편집 행위에 가깝다는 주장이다.

---

2️⃣ 국제 사례

🇪🇺 유럽연합 — 디지털서비스법(DSA)

• 대형 플랫폼에 위험 평가 의무 부과
• 알고리즘 투명성 요구
• 허위정보·극단주의 확산 방지 의무

EU는 이미 방향을 잡았다.
“알고리즘은 사회적 위험을 만든다면 책임이 있다.”

---

🇩🇪 독일 NetzDG

• 혐오·불법 콘텐츠를 신속 삭제 의무
• 미이행 시 과징금

---

🇺🇸 미국

• 아직 강력한 규제는 없음
• 표현의 자유 우선
• 다만 알고리즘 책임에 대한 소송 증가

---

3️⃣ 핵심 철학적 문제

알고리즘은 말하지 않는다.
그러나 무엇을 더 크게 들리게 할지 선택한다.

권력이면서도 “나는 중립”이라고 주장할 수 있는 구조.
이게 문제의 본질이다.

---

판단

완전한 형사 책임은 어렵다.
그러나 다음은 가능하다.

• 위험 평가 의무
• 알고리즘 투명성
• 증폭 책임 모델
• 고위험 콘텐츠에 대한 비증폭 정책

즉, “표현”을 처벌하기보다
“증폭”에 대한 규율이 핵심이다.

---

Ⅱ. 정치 유튜브의 수익 구조를 규제하는 것은 가능한가?

이건 더 현실적인 문제다.
극단은 도덕 때문이 아니라 보상 구조 때문에 커진다.

---

1️⃣ 현재 구조

정치 유튜브의 수익은 주로

• 광고 수익
• 슈퍼챗
• 후원
• 멤버십

분노와 음모론은 클릭률이 높다.
클릭률은 곧 돈이다.

플랫폼은 중립을 말하지만
수익은 감정적 과열에 연동된다.

---

2️⃣ 가능한 규제 방식

① 광고 차등화

• 극단적 정치 콘텐츠는 광고 단가 제한
• 이미 일부 플랫폼은 적용 중

---

② 정치 광고·정치 채널 등록제

• 일정 구독자 이상 정치 채널은 신고 의무
• 재정 투명성 공개

프랑스·EU는 정치 광고 투명성 강화 추세.

---

③ 슈퍼챗·후원 상한제

선동적 방송에서
실시간 후원이 급진 발언을 부추긴다는 연구가 있다.

즉, 후원 구조가 발언 강도를 밀어 올린다.

---

④ 알고리즘 비증폭 정책

정치적 선동 콘텐츠는 추천 제한
(삭제가 아니라 도달 범위 축소)

---

3️⃣ 현실적 한계

• 표현의 자유 침해 논란
• 정부가 정치 콘텐츠를 분류하는 순간 권력 남용 위험
• 검열로 오인될 가능성

민주주의에서 가장 어려운 균형점이다.

---

Ⅲ. 더 깊은 구조 — 문제는 극우인가, 자본주의인가?

냉정하게 말하자면
극단주의는 플랫폼 자본주의의 부산물이다.

• 감정적 강도 ↑ → 체류 시간 ↑ → 광고 수익 ↑
• 온건함은 수익성이 낮다.

즉, 시스템은 이미 “극단을 선호”하도록 설계돼 있다.

극우가 문제이기 전에
극단이 돈이 되는 구조가 문제다.

---

Ⅳ. 결론

1️⃣ 플랫폼은 완전한 면책 상태로 남기 어렵다.
2️⃣ 형사 책임보다 ‘증폭 책임’ 모델이 현실적이다.
3️⃣ 정치 유튜브 수익 구조 규제는 기술적으로 가능하다.
4️⃣ 그러나 국가 개입은 민주주의 위험을 동반한다.
5️⃣ 궁극적으로는 플랫폼 설계 철학의 전환이 핵심이다.

표현을 막는 것이 아니라
극단을 보상하지 않는 구조를 만드는 것.

그게 장기적으로 더 강력한 해법이다.

---

확장 질문

1. 알고리즘을 공공 인프라처럼 규제하는 모델은 가능한가?
2. 공영 플랫폼은 대안이 될 수 있는가?
3. 시민 미디어 리터러시는 어느 수준까지 개입해야 하는가?
4. ‘분노 경제’를 약화시키는 설계는 어떻게 가능한가?
5. 민주주의는 감정 자극 산업과 공존할 수 있는가?

---

핵심 키워드

알고리즘 책임 / 증폭 효과 / Section 230 / EU DSA / 플랫폼 자본주의 / 정치 유튜브 수익 구조 / 슈퍼챗 경제 / 표현의 자유와 규제 균형