2026년 8월, 두 가지 일이 거의 동시에 일어났다.

하나는 플로리다 법정에서 있었다. 25세의 골드만삭스 애널리스트 대런 저우(Darren Zhou)가 가중 스토킹, 살해 협박 서면 작성, 통신기기 이용 중범죄 등 세 건에 대해 유죄를 인정했다. 그는 3월부터 ChatGPT에 전 여자친구를 살해하겠다는 계획을 반복해서 입력했다. 그녀가 다니는 피트니스 시설 주차장, 그녀의 취미와 동선, 거절당했을 때의 시나리오까지. OpenAI의 내부 검토팀이 이 대화를 확인했고, FBI에 넘겼다. 2026년 5월에 체포됐고, 8월 13일 재판부는 유죄 선고를 유예하고 8년 보호관찰을 명했다. 판사는 피해자 본인이 이 합의에 동의했기 때문에 받아들인다고 법정에서 밝혔다.

다른 하나는 우리 화면에서 일어났다. 8월 11일, ChatGPT의 스폰서 광고가 한국에 게재되기 시작했다. 영국, 멕시코, 브라질, 일본과 함께였다. 무료 및 Go 요금제를 쓰는 성인 로그인 이용자가 대상이다. 메모리 기능과 광고 개인화를 함께 켜두면, 저장된 기억이 광고 선택에 참조될 수 있다.

두 사건은 무관해 보인다. 하나는 형사사법이고 하나는 광고 사업이다. 그러나 기술적으로는 같은 곳에서 나온다. 대화를 실시간으로 읽고, 분류하고, 의미를 추출하는 하나의 파이프라인이다. 그 파이프라인의 출력이 한쪽 분기에서는 FBI로 가고, 다른 쪽 분기에서는 광고 서버로 간다.

이 글은 그 분기점에 관한 이야기다.

1. 기준은 무엇인가? — '임박하고 신뢰할 만한 위험'

OpenAI가 공개한 정책의 골자는 단순하다. 자동화된 분류기가 타인을 해칠 계획으로 보이는 대화를 탐지하면, 이용정책 교육을 받은 소수의 내부 검토팀으로 전달한다. 검토팀이 타인에 대한 심각한 신체적 위해의 임박하고 신뢰할 만한 위험(imminent and credible risk of serious physical harm to others)이 있다고 판단하면, 회사는 수사기관에 제보할 수 있다.

이 상황에서 두 가지를 짚어야 한다.

첫째, 자해와 타해가 분리되어 있다. 이용자 본인의 자해나 자살 위험은 원칙적으로 신고 대상이 아니다. 대화의 사적 성격을 존중해 위기 상담 자원 연결로 대응한다. 타인에 대한 위협만이 수사기관으로 간다. 이 구분은 윤리적으로 방어 가능하지만, 실무적으로는 자해와 타해가 섞여 나타나는 사례에서 곧바로 공권력의 개입을 시도한다.

둘째, 그리고 더 중요하게, '임박한'과 '신뢰할 만한'은 판정 기준이 아니라 재량의 언어다. 몇 시간 뒤가 임박한 것인가?, 8개월 뒤도 임박한 것인가? 무기를 실제로 보유했다는 증거가 있어야 신뢰할 만한 것인가. 이 문장은 회사가 신고할 수도, 하지 않을 수도 있게 만든다. 그리고 재량은 언제나 그 조직의 리스크 관리 구조에 종속되고 있다.

두 사건은 정확히 이 재량의 양쪽 끝에 윤리적 문제를 제시하고 있다.

2. 기준이 작동하지 않았을 때 — 텀블러리지

2026년 2월 10일 오후, 브리티시컬럼비아주 텀블러리지. 인구 2,400명의 탄광 마을이다. 18세 제시 밴 룻셀라르(Jesse Van Rootselaar)가 자택에서 어머니와 이복동생을 살해한 뒤, 자신이 다녔던 텀블러리지 세컨더리 스쿨로 향했다. 11세에서 13세 사이 어린이 다섯 명과 교사 한 명이 학교에서 숨졌다. 27명이 다쳤다. 범인은 스스로 목숨을 끊었다. 1989년 에콜 폴리테크니크 사건 이후 캐나다 최악의 학교 총격이었다.

문제는 그다음에 드러났다.

사건 8개월 전인 2025년 6월, OpenAI의 자동화 시스템이 밴 룻셀라르의 계정을 '총기 폭력 활동 및 계획'으로 플래그했다. 여러 날에 걸친 총기 폭력 대화가 '타인을 해칠 계획 중인 이용자'를 검토하는 팀으로 라우팅됐다. 소송장에 따르면, 안전팀은 내용을 검토한 뒤 경영진에게 당국 통보를 촉구했다. 경영진의 결정은 계정 비활성화였다. 그리고 범인이 두 번째 계정을 만들어 대화를 이어갔을 때에도 아무 조치가 없었다.

OpenAI의 해명은 정책 말 그대로였다. 그 활동이 "타인에 대한 심각한 신체적 위해의 임박하고 신뢰할 만한 위험"을 나타내지 않았다는 것이다. 참사 뒤 샘 올트먼은 텀블러리지 지역사회에 보낸 서한에서 "6월에 정지된 계정에 대해 법 집행기관에 알리지 않은 점을 깊이 사과한다"고 썼다.

이 사과문을 다시 읽어보자. 회사는 정책을 어기지 않았다. 정책이 그렇게 쓰여 있었기 때문에 신고하지 않았다. 사과는 판단이 틀렸다는 것이지 규정을 위반했다는 것이 아니다. 자율 규제의 구조적 한계가 바로 여기에 있다. 기준을 만드는 자와 그 기준의 적용 여부를 판단하는 자가 동일할 때, 실패는 언제나 '기준 미달'로 기록된다.

3. 기준이 작동했을 때 — 그리고 그 대가

저우 사건은 반대편이다. 여기서는 시스템이 작동했다. 5월까지 연방 요원들은 팜비치 카운티 보안관실에 저우의 약 두 달치 ChatGPT 로그를 넘겼다. 흥미로운 세부가 하나 있다. 보안관보에게 전달된 자료에는 저우가 챗봇에 보낸 메시지는 있었지만 챗봇의 응답은 없었다. 즉, 편집된 것이다.

한 사람의 목숨을 구했을 수 있다. 변호인은 저우가 실제로는 총기를 소유하고 있지 않았다고 주장했고, 폭력적인 사람이 아니라 정신건강 문제를 겪고 있었을 뿐이라고 변론했다. 이 주장이 어디까지 사실인지는 별개로, 여기서 짚어야 할 것은 다른 지점이다.

저우 사건에서 결정적이었던 것은 알고리즘이 아니라 사람이었다. 분류기는 신호를 만들었을 뿐이고, 그 신호를 위협으로 번역한 것은 소수의 내부 검토팀이다. 텀블러리지에서도 같은 팀이 같은 판단을 했다. 다른 것은 경영진의 결정이었다.

나는 오랫동안 LLM에 대해 같은 말을 반복해왔다. LLM은 엑셀이지 오라클이 아니다. 분류기의 판정은 확률적 신호이지 판결이 아니다. 계산을 대신해줄 뿐 결정을 대신해주지 않는다. 그런데 지금 벌어지는 논쟁 대부분은 "AI가 신고해야 하는가"라는 형태로 제기된다. 잘못된 질문이다. AI는 신고하지 않는다. 회사가 신고한다. 질문은 그 회사가 어떤 절차로, 누구에게 책임을 지고, 어떤 기록을 남기며 결정하는가여야 한다.

4. 법정으로 간 질문 — 통보 의무는 존재하는가?

2026년 3월, 머리와 목에 총상을 입은 12세 마야 게발라(Maya Gebala)의 부모가 BC주 대법원에 소를 제기했다. 4월 29일에는 유족과 부상자 가족 7가족이 샌프란시스코 연방법원에 별도로 7건의 소송을 냈다. 7월에는 BC주 법무장관 니키 샤르마(Niki Sharma)가 주정부 차원의 소송 방침을 밝혔다. "예방 기회가 놓쳐졌다는 심각한 우려가 있을 때, 우리에게는 행동할 책임이 있다"는 것이 그의 말이었다.

여기서 흔히 인용되는 "10억 달러 배상 청구"는 확인되지 않은 수치다. 실제 소장이 요구한 것은 금액이 아니라 구조 변경이다. 폭력 관련 사유로 정지된 이용자의 신규 계정 생성 차단, 내부 시스템이 실제 위해 위험을 플래그했을 때의 수사기관 통보 의무화, 독립적 외부 감사 수용. 배상금보다 이 목록이 훨씬 중요하다. 원고 측은 돈이 아니라 규범을 요구하고 있다.

법적 승산은 불투명하다. UC 법대 AI 법·혁신 연구소의 로빈 펠드먼(Robin Feldman)은 원고에게 어려운 쟁점이 여럿 있다고 지적했다. OpenAI에 애초에 '행동할 의무(duty to act)'가 있었는가, 그리고 그 부작위가 참사의 원인이라고 말할 수 있는가. 영미법의 일반 원칙상 사인(私人)에게 제3자를 보호할 적극적 의무는 원칙적으로 없다. 예외는 특별한 관계가 인정될 때다. 정신과 의사에게 경고 의무를 부과한 타라소프(Tarasoff) 법리를 챗봇 사업자에게 확장할 수 있는가 — 이것이 실질적 쟁점이 될 것이다.

결과가 어느 쪽이든, 이 소송은 기술 기업의 범죄 통보 의무 범위를 정면으로 다룬 최초의 판례가 된다.

5. 그리고 같은 데이터를 보는 파이프라인이 광고를 만든다

여기서 처음의 이야기로 돌아온다.

안전 분류기와 광고 타겟팅 엔진은 같은 전제 위에 서 있다. 대화를 읽고 의미를 추출할 수 있다는 것. 이 능력이 있기 때문에 살해 계획을 탐지할 수 있고, 같은 능력이 있기 때문에 당신이 지금 무엇을 사고 싶어 하는지 알 수 있다.

기업 입장에서 이 둘은 다른 부서의 일이다. OpenAI는 광고주가 개별 대화 내용, 세션 간 대화 기록, 저장된 메모리, 식별 가능한 개인정보에 접근할 수 없다고 밝히고 있다. 광고주가 받는 것은 노출수·클릭수·전환 등 집계된 성과 지표뿐이다. 답변의 독립성 — 광고가 ChatGPT의 응답 내용에 영향을 주지 않는다는 원칙 — 도 명시하고 있다. 액면 그대로라면 기존 광고 플랫폼보다 나은 투명성 태도다.

그러나 이용자 입장에서 남는 사실은 하나다. 가장 사적인 대화라고 느끼는 공간에서, 어떤 상업 메시지가 자신 앞에 놓였는지에 대한 지속적인 기록이 존재한다.

건강과 의료 영역이 이 구조의 가장 위험한 지점이다. 사람들은 챗봇에 검색창에는 입력하지 않을 것들을 쓴다. 증상, 복용 중인 약, 진단명, 두려움. 이 맥락에서 특정 건강기능식품이나 의료 서비스가 '문맥에 맞는 광고'로 제시될 때, 두 가지 문제가 겹친다.

첫째, 취약한 순간의 상업적 표적화다. 불안한 상태에서 던진 증상 질문은 구매 의사가 아니다. 그러나 광고 시스템에는 높은 전환 가능성을 가진 신호로 보인다.

둘째, 경계의 붕괴다. 답변과 광고가 시각적으로 구분된다 해도, 이용자의 인지에서는 그렇지 않다. 방금 나에게 조언한 존재가 바로 아래에서 제품을 권한다면, 그 제품은 조언의 연장으로 읽힌다. 검색 광고와 결정적으로 다른 지점이다. 검색엔진은 조언자를 자처한 적이 없다.

규제는 이미 갈라지고 있다. EU에서는 개인화 광고가 명시적 옵트인이며, 회사는 그 동의를 처리의 법적 근거로 삼는다고 밝혔다. 미국에서는 대상 이용자에게 기본 노출되고, 원하지 않으면 설정에서 끄는 옵트아웃 방식이다. 같은 제품, 같은 데이터, 다른 규범이다. 한국은 어느 쪽인가. 이 질문에 답할 수 있는 사람이 얼마나 되는가.

6. 한국은 어디에 서 있는가?

한국은 2026년 1월 22일, AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)을 전면 시행했다. EU가 2024년에 법을 만들고도 고위험 AI 의무를 2026년 8월부터 단계적으로 적용하는 것과 비교하면, 실질적으로 한국이 먼저 규제 체계 안에 들어간 셈이다. 최소 1년의 계도기간이 있어 위반 시 과태료는 유예되지만 시정명령은 가능하다. 9월 11일에는 개정 개인정보보호법이 시행된다. 과징금 상한이 관련 매출 일부에서 전체 매출의 10%로 올라간다.

제도의 뼈대는 있다. 문제는 이 법들이 다루는 것이 주로 투명성과 데이터 처리의 적법성이라는 점이다. 텀블러리지가 제기한 질문 — 사업자가 이용자의 폭력 계획을 인지했을 때 무엇을 해야 하는가 — 에 대해서는 국내법 어디에도 답이 없다. 형법상 불고지죄는 극히 제한적이고, 통신비밀보호법과 개인정보보호법은 오히려 사업자의 자발적 제공을 제약하는 방향으로 작동한다.

즉 한국의 AI 사업자는 지금, 신고했을 때의 법적 근거도 신고하지 않았을 때의 법적 책임도 모두 불분명한 상태에 있다. 이것은 사업자에게 유리한 조건이 아니다. 최악의 조건이다. 어느 쪽을 선택하든 사후에 비난받을 수 있고, 그래서 합리적 선택은 아무것도 하지 않는 쪽으로 기운다. 텀블러리지에서 벌어진 일이 정확히 그것이었다.

7. 필요한 것은 '올바른 판단'이 아니라 '기록되는 절차'

이 논쟁은 흔히 안전 대 프라이버시의 저울로 그려진다. 나는 그 프레임이 틀렸다고 본다. 저울이 있다면 그 저울을 누가 들고 있는지가 문제다. 지금은 저울도, 눈금도, 판독도 전부 기업이 하고 있다.

인공지능 시대의 윤리와 정책은 세 가지가 필요하다.

첫째, 판단이 아니라 절차를 규율해야 한다. '임박한 위험'의 정의를 법으로 확정하려는 시도는 실패할 것이다. 상황은 너무 다양하다. 대신 규율할 수 있는 것은 절차다. 내부 안전팀이 위해 위험을 에스컬레이션했을 때 그 판단과 최종 결정, 그리고 결정의 근거를 기록으로 남기고 보존하도록 의무화하는 것. 텀블러리지의 핵심 사실은 안전팀이 옳았고 경영진이 뒤집었다는 것이며, 그것이 드러난 유일한 이유는 소송 과정의 디스커버리였다. 참사가 나야만 알 수 있는 구조는 구조가 아니다.

둘째, 신고에 대한 면책 근거를 만들어야 한다. 선의로, 명확한 기준에 따라, 기록을 남기고 수사기관에 제보한 사업자에게 민형사상 면책을 부여해야 한다. 면책 없이 의무만 부과하면 사업자는 과잉 신고로 도피한다. 과잉 신고는 감시 사회의 다른 이름이고, 그 비용은 결국 정신적 위기 상태의 이용자가 침묵으로 치른다. 도움을 요청하면 경찰이 온다고 믿게 되는 순간, 이 기술의 가장 큰 사회적 효용 하나가 사라진다.

셋째, 안전 감시와 상업적 활용을 제도적으로 분리해야 한다. 이것이 가장 시급하다. 위해 탐지 목적으로 처리된 대화 데이터는 광고 타겟팅, 프로파일링, 상업적 추천에 어떤 형태로도 재사용될 수 없어야 한다. 목적 제한 원칙은 개인정보보호법에 이미 있다. 없는 것은 AI 대화 데이터에 대한 구체적 적용 지침이다. 안전을 명분으로 얻은 접근권이 매출로 흘러가는 경로를 차단하지 못하면, 안전 감시에 대한 사회적 동의 자체가 성립하지 않는다.

마무리하며

플로리다의 피해자는 살아 있다. 텀블러리지의 아이들은 그렇지 않다. 두 사건의 차이는 알고리즘의 성능이 아니었다. 회의실에서 내려진 결정이었다.

기술 기업이 경찰도 볼 수 없는 정보를 독점하는 시대는 이미 시작됐다. 그 정보를 어떻게 다룰지를 기업의 선의와 판단력에 맡겨두는 것은, 정책이 아니라 정책의 부재다. 8개월의 시간이 있었고, 12명의 직원이 알고 있었고, 아무 일도 일어나지 않았다.

그리고 지금, 그 같은 시스템이 우리의 대화를 읽으며 무엇을 팔지 고르고 있다. 2주 전부터, 한국에서도.

참고 자료

  • 2026 Tumbler Ridge shooting — Wikipedia / BC RCMP 수사 업데이트 (2026.2.13)
  • CBC News, 텀블러리지 총격 피해자 신원 및 사건 경위 (2026.2.13)
  • NPR / OPB, "Families sue OpenAI over Tumbler Ridge mass shooter's use of ChatGPT" (2026.4.29)
  • CNN Business, "Families of Tumbler Ridge shooting victims sue OpenAI and CEO Sam Altman" (2026.4.29)
  • CBC News 분석, 원고 측이 직면한 법적 쟁점 (2026.5.2)
  • Al Jazeera, BC주정부 OpenAI 제소 방침 (2026.7.7)
  • USA Today / Palm Beach Post / Futurism, 대런 저우 사건 법원 기록 (2026.8)
  • Medianama, "OpenAI Reports Florida Man's ChatGPT Murder Threats to FBI" (2026.8)
  • Digiday / OpenAI EU 광고 정책 업데이트 (2026.6)
  • ChatGPT 광고 한국 등 5개국 확대 (2026.8.11)
  • 법률신문·신&김, "AI 기본법 시행과 그 시사점" (2026.2)
  • 개인정보보호위원회, 개정 개인정보보호법 시행 (2026.9.11 예정)