들어가며, "병목은 인간이다"라는 절반의 진실

지난 2년간 업계에서 가장 자주 인용된 명제는 "AI의 병목은 인간"이라는 것이다. 모델은 하루에 수만 라인의 코드를 쏟아내지만 리뷰는 사람이 해야할 대목이 있다. 루프 엔지니어링의 경우 토큰이 인간보다 고가인 상황을 만드는 경우가 많다. 마케팅 카피는 5분이면 나오지만 그것을 시장에 태울 의사결정은 사람이 해야 한다. 이 관찰 자체는 정확하다. 조직의 처리 속도가 모델의 생성 속도를 따라가지 못하는 것은 사실이다.

그러나 이것은 운영상의 병목(operational bottleneck) 이지 구조적 병목(structural bottleneck) 이 아니다. 운영 병목은 프로세스를 바꾸면 풀린다. 구조적 병목은 프로세스를 아무리 바꿔도 풀리지 않는다. 조직 밖에 있기 때문이다.

이 칼럼은 인공지능 산업의 진짜 병목이 다음 세 가지이며, 이 셋이 서로를 강화하는 삼중 구속(triple bind)을 이루고 있다고 주장한다.

구분 병목 성격 통제 가능성 시간 지평
운영 병목 인간(리뷰·의사결정·BM) 조직 내부 높음 분기 단위
구조 병목 1 법률·규제 국가·초국가 낮음 3~5년
구조 병목 2 데이터(고갈·오염·편향) 생태계 매우 낮음 2~7년
구조 병목 3 지정학(미중 분절) 국제 정치 없음 10년+

기업이 통제할 수 있는 것은 첫 줄뿐이다. 그런데 시장의 담론은 첫 줄에만 집중해야 한다. 우리가 통제 못하는 것은 과감히 포기해야 한다.

1. 첫 번째 병목. 법률과 규제 — 컴플라이언스가 산업이 되는 순간

1.1 EU는 규제를 늦췄지, 풀지 않았다

2026년 8월 2일은 EU AI Act의 분기점이다. 그런데 그 의미는 법 제정 당시와 상당히 달라졌다. 정확한 타임라인은 이렇다.

시점 적용 대상 상태
2024.08.01 AI Act 발효 완료
2025.02.02 금지 AI 관행, AI 리터러시 의무 적용 중
2025.08.02 범용 AI(GPAI) 공급자 의무 적용 중
2026.08.02 제50조 투명성 의무 + GPAI 집행·제재권 예정대로 시행
2026.12.02 기존 출시 생성형 AI의 기계판독용 워터마킹 유예 후 적용
2027.12.02 Annex III 독립형 고위험(채용·신용평가·교육·필수서비스) 16개월 연기
2028.08.02 Annex I 제품 내장형 고위험(의료기기·리프트 등) 12개월 연기

연기의 근거인 'Digital Omnibus on AI'는 논의로 끝나지 않았다. 유럽의회가 2026년 6월 16일 채택, 이사회가 6월 29일 승인, 7월 8일 서명까지 마쳤다. 이 지점에서 시장에 퍼진 두 가지 오해를 모두 교정할 필요가 있다.

  • 오해 A: "EU가 AI 규제를 포기했다" — 아니다. 8월 2일부터 챗봇은 첫 대화에서 자신이 AI임을 밝혀야 하고, 딥페이크와 합성 미디어는 '인위적으로 생성·조작됨' 표시를 달아야 한다. GPAI에 대한 제재 권한도 이날 켜진다.
  • 오해 B: "고위험 규제가 8월부터 온다" — 아니다. 채용·신용평가·교육 AI를 만드는 회사의 시계는 2027년 12월로 늦춰졌다. 다만 이것은 면제가 아니라 준비 기간의 연장이다.

실무적 함의는 명확하다. 연기된 것은 '엔지니어링 난이도가 높은 의무'이고, 그대로 시행되는 것은 '표시·고지 의무'다. 즉 규제 당국은 기술적 안전성보다 콘텐츠 출처 추적(provenance) 을 먼저 확보하기로 결정했다.

이것은 산업의 방향을 바꾼다. 정책이 결정되고 입법이 되면 기업은 법을 지켜야한다. 그 법을 지키기 위해서 수많은 자원들과 불필요한 제약과 병목이 시작된다.

1.2 한국. 세계 두 번째 AI 기본법, 그리고 준비되지 않은 시장

한국은 2026년 1월 22일 AI기본법을 시행했고, 1월 20일 개정, 시행령 개정안이 7월 14일 국무회의를 통과해 7월 21일부로 발효됐다. 핵심은 세가지 방향이다.

방향 내용 제재
생성물 표시 생성형 AI 결과물 고지, 딥페이크 제작 사실 고지 시정명령 불이행 시 과태료 최대 3,000만 원
고영향 AI 지정·등록, 관리체계 구축 시정명령 대상
진흥 AI 제품·서비스 확인제도, 공공조달 우선 고려 다수공급자계약 요건 완화, 적격심사 가점

과기정통부는 최소 1년 이상의 계도기간을 뒀다(딥페이크 표시 의무는 제외). 실질적 과태료 징수는 빨라야 2027년 중반이다.

문제는 시장의 준비도다. 시행 직전 조사에서 "대응 방안을 수립하고 준비 중"이라는 응답은 2%에 그쳤다. "내용을 잘 모르고 준비도 안 됐다"와 "법은 알지만 대응이 부족하다"가 각각 48.5%였다.

기업이 가장 부담스러워한 조항 비율
신뢰성·안전성 인증 27.7%
데이터 투명성 요건 23.8%
고영향 AI 지정·등록 의무 17.8%
AI 생성물 표시 의무 15.8%

상위 두 항목이 절반을 넘는다. 그리고 이 두 항목은 내부 인력으로 해결되지 않는다. 외부 인증기관, 법무법인, 컨설팅, 감사 도구가 필요하다.

1.3 규제는 비용이 아니라 라이선스 사업이 된다

여기가 이 장의 핵심이다. 규제를 '비용'으로만 읽으면 절반만 본 것이다. 규제는 새로운 산업을 창설한다.

규제 도입 → 준수 의무 발생 → 자체 해결 불가 → 인증·감사·툴링 수요 발생
         → 인증기관 라이선스화 → 진입장벽 → 대형사 해자(moat) 강화

이 경로는 이미 세 번 반복됐다. GDPR은 DPO(개인정보보호책임자)와 프라이버시 테크 시장을 만들었다. PCI-DSS는 결제 보안 감사 산업을 만들었다. SOC 2는 SaaS 벤더 심사 시장을 만들었다. AI Act와 AI기본법이 만들 시장은 다음과 같을 것이다.

신규 시장 수요 발생 조항 수혜자
AI 신뢰성·안전성 인증 한국 AI기본법 고영향 AI 인증기관, TIC 사업자
콘텐츠 출처증명(C2PA·워터마킹) EU AI Act 제50조, 한국 표시 의무 미디어 테크, DRM 사업자
학습데이터 계보 관리 EU Art.10 데이터 거버넌스(2027.12) 데이터 옵스, 카탈로그 벤더
모델 레드팀·평가 GPAI 의무 보안 컨설팅, 평가 스타트업
AI 리스크 보험 손해배상 책임 보험·재보험

여기서 스타트업이 놓치는 지점. 규제 준수 비용은 매출에 비례하지 않고 모델·서비스 개수에 비례한다. 매출 50억 회사와 5조 회사의 인증 비용 차이는 100배가 아니라 2~3배다. 즉 규제는 정률세가 아니라 정액세이며, 정액세는 언제나 작은 회사를 먼저 죽인다. "혁신에 하네스가 채워진다"는 표현은 정확하되, 하네스는 모두에게 균등하게 채워지지 않는다.

영세한 한국의 LLM 스타트업이 먼저 규제에 짓눌려 죽을 수 있다.

1.4 사례. 버추얼 배우 — 표시 의무가 시장 진입을 규정하는 방식

2025년 여름 공개된 AI 생성 배우 '틸리 노우드(Tilly Norwood)'는 이 문제의 압축판이다. 그해 9월 탤런트 에이전시들의 관심이 알려지자 SAG-AFTRA는 "배우가 아니라, 허가나 보상 없이 수많은 프로 배우의 작업물로 학습된 컴퓨터 프로그램의 산출물"이라는 성명을 냈다. 2026년 7월 이 캐릭터는 장편 코미디 '미스얼라인드(Misaligned)'의 주연으로 제작에 들어갔다.

쟁점 산업 측 논리 노동 측 논리
안전 스턴트·고위험 연기에서 인명 리스크 제거 위험 연기는 이미 대역·CG로 대체 가능
비용 촬영 일정·보험료 절감 절감분이 창작자에게 환류되지 않음
학습 데이터 애니메이션·CGI와 동일한 창작 도구 초상·연기의 무단 학습, 보상 부재
표시 관객 경험 훼손 소비자 알권리

주목할 점은 이 문제가 소송이 아니라 단체교섭 테이블에서 처리됐다는 것이다. SAG-AFTRA의 2026년 계약은 합성 배우 사용에 통지·교섭·중재 의무를 걸었다. 그러나 여기에 두 개의 구멍이 있다. 첫째, '상당한 추가 가치' 같은 판단 기준이 비어 있다. 둘째, 미국 노동자의 88%에게는 그 협상 테이블 자체가 없다.

한국 맥락에서 이것은 남의 이야기가 아니다. K-콘텐츠는 초상·음성 학습 데이터가 가장 밀집된 산업이고, 일본에서는 이미 성우들이 무단 음성 학습에 대응해 조직화하고 있다. 버추얼 아이돌·AI 배우 사업을 검토하는 국내 기업은 기술 성숙도보다 권리 처리 구조를 먼저 설계해야 한다. 표시 의무는 이미 법이 됐고, 학습 데이터 동의는 곧 계약이 선행되어야 한다.

우리가 보아야할 것은 규제가 시장을 완전히 잠그지 못한다는 것이다. 최근 중국은 AI 기반의 유사 연애 서비스를 규제했다. 대부분의 중국의 빅테크들은 서비스를 닫았다. 하지만 이미 경험한 시장은 죽지 않는다.

1.5 반론. 규제가 정말 혁신을 죽이는가?

공정하게 반대편도 적어둔다.

  • 규제는 시장을 만들기도 한다. 자동차 안전기준이 없었다면 에어백 산업도 없었다. AI 표시 의무는 출처증명 기술 시장을 창설한다.
  • 규제 부재가 더 큰 비용일 수 있다. 신뢰가 무너진 시장은 규제된 시장보다 작다. 딥페이크 금융사기가 임계점을 넘으면 소비자는 AI 서비스 전반에서 이탈한다.
  • EU 실험은 아직 결론이 안 났다. 고위험 조항이 2027~2028년으로 밀린 것 자체가 "규제가 산업 현실에 반응한다"는 증거이기도 하다.

다만 이 반론들이 성립하려면 전제가 있다. 규제가 예측 가능해야 한다는 것. 2026년 상반기의 EU 삼자협의 결렬과 재타결, 한국의 시행 6개월 만의 법 개정과 시행령 재정비는 그 전제를 흔든다. 스타트업을 죽이는 것은 엄격한 규제가 아니라 자주 바뀌는 규제다.

2. 두 번째 병목. 데이터 — 고갈, 오염, 편향

2.1 고갈: 300조 토큰이라는 천장

Epoch AI는 품질·중복 보정을 거친 인간 생성 공개 텍스트의 유효 재고를 약 300조 토큰으로 추정한다. 현재 추세가 이어질 경우 언어모델은 이 재고를 2026~2032년 사이(80% 신뢰구간) 에 전부 소진할 수 밖에 없다.

학습 방식 소진 시점
Compute-optimal (5e28 FLOP 규모) 2028년경
10배 오버트레이닝 (Llama 3 수준) 2026~2028
100배 오버트레이닝 2025년에도 가능

연구 책임자 Villalobos는 도서관 디지털화 문서 등 미개척 고품질 소스가 남아 있어 시점이 더 밀릴 수 있다고 인정하면서도, 그것으로 '심판의 날'을 오래 미루기는 어렵다고 보고 있다.

여기서 중요한 것은 시점이 아니라 곡선의 모양이다. 데이터가 '떨어지는' 것이 아니라, 한계 데이터의 품질이 먼저 떨어진다. 남은 것은 저품질·중복·기계번역·스팸일뿐이다. 즉 고갈은 절벽이 아니라 완만한 품질 저하로 나타난다. 이게 더 위험하다. 벤치마크 점수는 계속 오르는데 실제 신뢰도는 떨어지는 구간이 생기기 때문이다.

2.2 오염. 통설을 데이터로 교정한다

"AI 생성 콘텐츠가 인터넷을 뒤덮었다"는 주장은 널리 퍼져 있고, 나 역시 그렇게 느낀다. 그러나 데이터는 조금 다른 이야기를 하고 있어 소개한다.

시점 주로 AI 생성 기사 비중 출처
2020.01 2.2% Graphite
2022.11 (ChatGPT 출시) 약 10% Graphite
2024.11 최초로 인간 작성 추월 Graphite
2025 Q1 49.6% Graphite (3개 탐지기)
2025 Q4 50.9% Graphite
2026 Q1 49.9% Graphite

Graphite는 Common Crawl에서 55,400개 영어 URL을 무작위 추출해 Pangram·Copyleaks·GPTZero 세 탐지기로 교차 분류했다. 결론은 AI 기사 비중은 2024년 말 이후 5개 분기 연속 50% 부근에서 정체(plateau) 하고 있다.

더 중요한 숫자가 있다. 구글 검색 상위 노출 결과의 86%, ChatGPT·Perplexity가 인용한 기사의 82%가 여전히 인간이 쓴 글이라는 점이다.

참고로 Europol은 2022년에 "2026년까지 온라인 콘텐츠의 90%가 AI 생성"이라고 예측했다. 그 예측은 빗나갔다. 반면 Ahrefs가 2025년 4월 신규 웹페이지 약 100만 개를 분석한 결과 74.2%에서 AI 흔적이 탐지됐다. 두 수치가 충돌하는 것이 아니라 모니터링하는 대상이 다르다. "전량 AI 생성"은 절반 수준이고, "AI가 어딘가 손댄 것"은 4분의 3이다.

그래서 정직한 결론은 이것이다.

웹은 AI에 잠기지 않았다. 웹은 인간과 AI가 구분 불가능하게 뒤섞인 상태가 됐다. 그리고 학습 파이프라인 관점에서 후자가 더 나쁘다. 잠긴 웹은 필터링할 수 있지만, 뒤섞인 웹은 필터링할 수 없다.

인간은 기가막히게 AI가 작성한 글을 구분하고 스킵하고 있다. AI 피로도가 높아지고 있다.

2.3 모델 붕괴. 무엇이 증명됐고 무엇이 과장인가?

Shumailov 등의 2024년 Nature 논문은 생성 데이터로 재귀 학습할 때 모델 붕괴(model collapse) 가 발생함을 보였다. 메커니즘은 두 단계다.

  1. 초기 붕괴 — 분포의 꼬리(tail)가 먼저 소실된다. 희귀 사건, 소수 표현, 비주류 문체가 사라진다.
  2. 후기 붕괴 — 출력 분포가 점추정으로 수렴한다. 다양성이 소멸하고 복원이 불가능해진다.

다만 후속 연구는 조건을 붙였다. Gerstgrasser·Kazdan 등은 원본 데이터를 버리고 교체(replace)하면 붕괴하지만, 누적(accumulate)하면 붕괴가 크게 완화된다는 것을 보였다. Alemohammad 등도 완전 합성 루프만 붕괴하고, 인간 데이터가 충분히 섞인 증강·누적 루프는 회피 가능하다고 보고했다.

실무 번역:모델 붕괴는 '인터넷이 오염되면 모든 모델이 망한다'는 종말론이 아니다.신선한 인간 데이터의 지속적 주입에 대한 접근권이 없는 조직이 먼저 망한다 는 자원 불평등 문제다. 프런티어 랩은 라이선싱과 자체 수집으로 이 문제를 현질, 돈으로 해결한다. 중소 기업과 후발 국가는 못 해결한다.

2.4 편향. 가장 조용하고 가장 오래가는 오염

여기서 한 단계 더 들어가야 한다. 오염의 주범은 AI가 아니라 인간의 자기 편집이다.

SNS에 올라가는 사진과 영상은 현실의 표본이 아니다. 보정·필터·앵글 선택·게시 여부 결정이라는 4중 선택 편향을 통과한 결과물이다. 모델은 이것을 '세계의 모습'으로 학습한다. 기과한 SNS 사진과 영상이 인공지능은 현실이라고 보는 것이다.

편향 축 유입 경로 증폭 결과
신체·외모 보정된 이미지의 과다 표집 비현실적 기준의 규범화, 특히 청소년 노출 위험
사회·계층 발화 여력이 있는 계층의 과다 표집 저소득·비도시 서사의 소거
인종·지역 영어권 데이터의 지배 비영어권 문화의 스테레오타입화
정치·이념 참여 편향(engagement bias) 극단 담론의 과대 대표

이 중 첫 번째 축은 특히 무겁게 다뤄야 한다. 생성 모델이 만들어내는 '기본값 인간 신체'가 편집된 이미지의 평균으로 수렴하면, 그것은 검색·광고·추천·필터로 재확산되고 다시 학습 데이터가 된다. 미성년자가 이 순환의 종점에 있다. 이 문제를 기술 문제로만 다루면 안 되는 이유다.

그리고 편향은 붕괴보다 훨씬 위험하다. 붕괴는 눈에 보이지만 편향은 안 보인다. 성능 지표가 오르는 동안에도 조용히 진행되고, 사후에 되돌릴 수 없다.

2.5 조용한 범죄. 데이터 포이즈닝의 진입장벽이 무너졌다

이 항목은 사이버 보안, CTI 관점에서 가장 중요하다.

Anthropic·영국 AI Security Institute·앨런 튜링 연구소의 2025년 10월 공동 연구는, 악성 문서 250개만으로 대형언어모델에 백도어를 심을 수 있다는 것을 실증했다.

항목 수치
필요 악성 문서 수 약 250개 (모델 크기 무관)
토큰 환산 약 420,000 토큰
전체 학습 토큰 대비 비율 0.00016%
검증 모델 규모 6억 ~ 130억 파라미터
검증 대상 Llama 3.1, GPT-3.5 Turbo, Pythia 등

기존 보안 모델의 전제는 공격자가 학습 데이터의 일정 비율을 장악해야 한다였다. 이 연구는 그 전제를 뒤집었다. 필요한 것은 비율이 아니라고정된 절대량이다. 모델이 커져도 필요한 문서 수는 늘지 않는다.

이것이 의미하는 바를 명확히 하자.

250개 문서를 웹에 뿌리는 것은 국가급 역량이 아니다. 개인이 주말에 할 수 있는 일이다.

공격의 핵심 포인트 이렇게 정리할 수 있다. 공격하는 해커와 테러 집단, 특정 종교, 정치 집단이라면 이런 경로로 오염시킬 것이다.

공격 주체 목표 기법 탐지 난이도
국가 행위자 특정 역사·영토·인물 서사 조작 다국어 위키·블로그·포럼 시딩 매우 높음
경쟁 기업 경쟁사 브랜드에 대한 부정적 연상 주입 리뷰·기술문서 대량 생성 높음
컬트·극단 집단 교리의 '중립적 사실'화 학술 유사 문서 위장 매우 높음
금융 행위자 특정 종목·자산에 대한 모델 편향 유도 애널리스트 리포트 모방 높음

해당 연구가 검증한 백도어는 트리거 입력 시 무의미한 출력을 내는 서비스 거부(DoS) 유형이며, 안전장치 우회나 표적 허위정보 같은 더 심각한 무결성 침해까지 동일하게 확장되는지는 아직 미해결이라는 점은 정확히 짚어야 한다. 그러나 공격 비용이 이미 붕괴했다는 사실 자체가 위협 모델을 바꾼다.

나는 이것을 조용한 범죄(silent crime) 라고 부른다. 피해자가 자신이 피해자인 줄 모르고, 범행 시점과 발현 시점 사이에 수개월에서 수년의 지연이 있으며, 포렌식으로 소급 추적이 사실상 불가능하다. 향후 5년간. 사이버 보안 CTI 영역을 넘여 정치, 경제 분야에서 가장 빠르게 커질 위협 카테고리가 될 것이다.

2.6 그래서 LLM 기업은 오프라인으로 간다

데이터 병목의 출구는 세 방향이다.

전략 사례 한계
라이선싱 News Corp–OpenAI 5년 2.5억 달러 이상, Reddit 계약 비용이 자본력에 비례 → 격차 확대
합성 데이터 대부분의 프런티어 랩 붕괴 위험, 신선 인간 데이터 주입 필수
오프라인 원천 수집 로봇 궤적, 매장, 물류창고, 공장, 병원 CAPEX 크지만 오염 불가능

세 번째가 결정적이다. 물리 세계에서 직접 수집한 데이터는 AI가 오염시킬 수 없다. 로봇이 물건을 집다가 떨어뜨린 기록은 인스타그램 필터를 거치지 않는다.

이미 신호가 나오고 있다. Open X-Embodiment는 100만 개 이상의 로봇 궤적과 527개 스킬을 모아 RT-1-X 성능을 50%, RT-2-X를 약 3배 끌어올렸다. LG는 국내 첫 휴머노이드 '데이터 팩토리' 구축에 나섰다.

예측:향후 3~5년간 LLM·파운데이션 모델 기업의 M&A와 파트너십은모델 회사가 아니라 접점을 가진 오프라인 사업자를 향한다. 리테일 체인, 물류사, 병원 네트워크, 요양시설, 공장. 데이터가 있는 곳이 아니라 오염되지 않은 데이터가 발생하는 곳이다.

3. 세 번째 병목. 지정학 — AI 냉전은 이미 시작됐다

3.1 벽은 세워지고 있다. 다만 예상과 다른 방향으로

여기서 통설을 하나 더 교정해야 한다. "미국이 계속 조이고 있다"는 인식은 2026년 현재 부정확하며, 트럼프의 전략은 다음 수가 읽힌 바둑이 되었다.

시점 조치 방향
2022.10 A100급 이상 대중국 수출 금지 조임
2025.01 AI Diffusion Rule (성능 임계값 기반 글로벌 규제) 조임
2025.04 '규제 준수형' H20까지 금지. 엔비디아 55억 달러 상각, AMD 8억 달러 조임
2025.07 H20·MI308 라이선스 승인으로 선회 완화
2025.12.08 트럼프, H200 대중국 판매 허용 발표 완화
2026.01.13 상무부 규정 공표 (H200, MI325X) 완화
2026.01.14 Section 232 근거 25% 관세 부과 조건부
2026.01.15 BIS, '거부 추정'에서 '건별 심사'로 전환 (허용 연산량 13배 확대) 완화
2026.01 하원 외교위, AI OVERWATCH Act 42-2 가결 (Blackwell 2년 금지) 조임(입법부)
2026 상반기 상원, H200·Blackwell 30개월 금지 법안 발의 조임(입법부)
2026.06.01 중국 기업의 해외 법인에도 금수 적용 확인 조임

행정부는 풀고 의회는 조인다. 정책이 6개월 단위로 뒤집힌다. 기업 입장에서 최악의 조합이다. 금지보다 예측 불가능성이 정말 비싼 상황이다. 누구 장단에 맞춰야할지 모르기 때문에 마케팅조차 힘들다.

더 흥미로운 것은 실제 결과다. 상무부가 약 10개 중국 기업에 H200 판매를 승인했지만, 2026년 5월 기준 실제 인도된 물량은 사실상 없다. 베이징의 '자국산 구매' 지침과 양측의 상충하는 보안 요건이 모든 거래를 막았다. 승인됐지만 선적되지 않은 H200이 40만 장 규모다. 엔비디아의 중국 데이터센터 매출은 0으로 보고됐다. 제재 이전 중국은 엔비디아 데이터센터 매출의 약 20%, 연 150~200억 달러 규모였다.

결론 - 벽은 미국이 세운 것이 아니라 양쪽이 각자 세웠다. 그리고 시장은 정책보다 빠르게 분리됐다.

3.2 반전의 드라마 - 중국도 '오픈'을 조이기 시작했다

2026년 7월, 로이터는 중국 상무부가 알리바바·바이트댄스·Z.ai와 만나 자국 최상위 모델(특히 미공개 버전)의 해외 유출을 제한하는 방안을 논의했다고 보도했다. 오픈웨이트를 국가 전략으로 밀던 중국조차 최상급 모델은 미국의 반도체 수출통제와 유사한 방식으로 틀어쥐려는 움직임이다.

이것은 중요한 신호다. 오픈웨이트는 이념이 아니라 전략이었다. 중국 기업에게 오픈 모델은 수익화 전략이 아니라 생태계 확장 전략이었다. 개발자 기반을 늘리고, 파생 모델과 토큰 사용량을 키우고, 자국 클라우드와 AI 반도체 수요를 만들고, 표준에 대한 영향력을 확보하는 것. 모델 자체 수익은 줄어도 생태계 전체 가치는 커진다.

그런데 그 전략이 성공해서 최상급 성능에 도달하는 순간, 개방은 전략적 손실이 된다. 오픈웨이 전략은 영원하지 않다.

3.3 성능 격차는 이미 좁혀졌다

모델 출시 Artificial Analysis Index (2026.04)
Kimi K2.6 (Moonshot AI) 2026 54
DeepSeek V4-Pro 2026.04 시험판 52
Qwen 3.6 Plus (Alibaba) 2026 49

이후 2026년 6월 Z.ai의 GLM-5.2, 7월 Moonshot의 Kimi K3, 알리바바의 Qwen3.8 Max가 연달아 나왔고, 업계는 이들이 OpenAI·Anthropic 최전선 모델에 근접한 지능을 갖춘 것으로 평가 받고 있다.

라이선스 구조도 실무적으로 결정적이다. DeepSeek 가중치는 MIT, Qwen 계열은 Apache 2.0으로 배포된다. 자체 인프라에서 self-host 하면 데이터 주권 문제 없이 최상급에 근접한 성능을 쓸 수 있다. 반대로 벤더 API를 쓰면 프롬프트가 중국 데이터법 관할 서버를 경유해야 한다. 이 구분을 못 하는 조직이 아직도 많다.

3.4 한국이 직면한 진짜 위험 - '국산 AI'라는 껍데기

여기서 불편한 사실을 짚어야 한다. 일본 라쿠텐이 정부 보조금을 받아 '일본산 AI'로 발표한 모델이 실제로는 DeepSeek 기반이었던 사례, 한 스타트업이 자체 개발이라 주장한 모델이 재학습 없이 Qwen 가중치를 40% 혼합한 것으로 드러난 사례가 보고됐다.

'국산 AI'를 표방한 모델 중 상당수가 실제로는 중국 오픈웨이트 위에 얹힌 껍데기일 가능성이 있다. 이것은 기술주권 논쟁에서 가장 먼저 팩트체크해야 할 지점이며, 국가 예산이 투입되는 사업에서는 감사 대상이 되어야 한다.

파인튜닝 자체가 문제는 아니다. 문제는 그것을 자체 개발이라고 부르는 것이다. 그리고 이 문제는 곧 규제 이슈가 된다. EU AI Act가 요구하는 학습데이터 계보(data lineage) 문서화가 2027년 12월에 켜지면, 베이스 모델의 출처를 밝히지 못하는 서비스는 유럽 시장에 진입할 수 없다.

3.5 분절의 비용

분절 축 현상 산업 영향
컴퓨트 반도체 수출통제, 자국산 구매 지침 이중 공급망, 단가 상승
모델 중국 내 ChatGPT·Claude 차단, 중국 최상급 모델 유출 제한 검토 이중 개발, 이중 검증
데이터 데이터 국지화(data localization) 법제 확산 학습 코퍼스 분절
인력 보안 심사 강화, 민감기술 종사자 이동 제약 인재 풀 분절
표준 EU·미국·중국 각자의 AI 거버넌스 프레임 컴플라이언스 3중화

이 다섯 개 축이 모두 분절되면 글로벌 단일 AI 시장은 존재하지 않는다. 그리고 단일 시장이 없으면 규모의 경제가 없고, 규모의 경제가 없으면 개발 비용은 시장별로 중복 지출된다. 이것이 AI 냉전의 실제 청구서가 될 수 있다.

기업은 국가와 지역 별로 모델과 데이터를 구분해야하고, 유저들의 사용 로그까지 따로 구분해야한다. 중국의 정보보안법에 따라 중국인 정보는 중국 IDC 내에 둬야 하고 기업들은 중국 시장에 진출하기 위해 또 다른 선택을 해야 한다.

4. 그래서 한국은 무엇을 해야 하는가?

4.1 냉정한 전제 - 프런티어 경쟁은 이미 끝났다

먼저 인정할 것을 인정하자.

항목 미국 중국 한국
프런티어 모델 자본 민간 자본시장 국가 보조금 양쪽 다 부족
컴퓨트 자국 설계·확보 자국산 가속 수입 의존
데이터 영어권 웹 지배 14억 인구 내수 언어 인구 한계
배포 채널 글로벌 플랫폼 자국+오픈웨이트 없음

모든 시장에서 미국·중국과 경쟁할 수 없다. 이것은 패배주의가 아니라 자원 배분의 문제다. 한국이 프런티어 LLM 경쟁에 자원을 태우는 만큼, 이길 수 있는 시장에 쓸 자원이 줄어든다.

4.2 전략 1: 패스트팔로우 + 오픈웨이트 레버리지

중국의 오픈웨이트 전략은 한국에게 비대칭적 기회다. 최상급에 근접한 가중치가 MIT·Apache 2.0으로 풀려 있다. 여기서 한국의 선택지는 셋이다.

선택지 비용 리스크 평가
프런티어 자체 개발 극대 자원 소진 후 격차 유지 국가 1~2개 프로젝트로 한정
오픈웨이트 파인튜닝 후 '국산' 표방 소 적발 시 신뢰 붕괴, EU 진입 차단 금지
오픈웨이트 기반 도메인 특화 + 출처 명시 중 낮음 주력

세 번째가 정답이다. 다만 조건이 있다. 베이스 모델 출처를 명시하고, 파인튜닝 기여분을 정량적으로 문서화하고, 데이터 계보를 관리해야 한다. 이것은 윤리 문제가 아니라 2027년 이후 유럽 시장 접근권 문제이며 수천억원을 가지고 저렴하게 도전할 수 있는 전략이다.

그리고 중요한 시한이 있다. 3.2에서 봤듯 중국의 오픈웨이트 창은 닫히고 있다. 지금이 마지막 열린 구간일 수 있다.

4.3 전략 2: 피지컬 AI — 데이터 병목이 곧 한국의 기회다

2장에서 도출한 결론을 다시 보자. 오염되지 않은 데이터는 물리 세계에서 나온다. 그리고 물리 세계의 데이터를 만들려면 공장, 물류, 병원, 요양시설이 필요하다. 한국은 이것들을 조밀하게 갖고 있다.

국내 자본 흐름도 이미 이동 중이다.

지표 2022 2025
벤처투자 중 AI 비중 (금액) 9.4% 23.6%
벤처투자 중 AI 비중 (건수) 13.6% 22.8%

2025년 주요 피지컬 AI 기업의 투자 유치는 1,100억 원을 넘었다(뉴빌리티 251억, 라온로보틱스 230억, 리얼월드 210억, 본 170억). 2026년 들어 규모는 더 커졌고, 피지컬 AI 스타트업 중 로봇 분야가 47%를 차지한다.

글로벌 전망도 우호적이다. 골드만삭스는 2035년 글로벌 휴머노이드 생산에서 한국의 점유율을 약 30%로 전망했고, 정부는 2028년 산업별 휴머노이드 상용화와 국내 점유율 1%→20% 목표를 제시했다. Bessemer에 따르면 국방 로봇의 시리즈 A 투자는 중앙값 1억 5천만 달러로, 일반 분야 5천만 달러의 3배다.

다만 리포트가 지적한 과제를 그대로 옮긴다. 국내 피지컬 AI 스타트업 상당수는 아직 국내 레퍼런스 기반의 초기 단계이고, 제조·농업·방산 분야별 규제와 인증을 통과해 글로벌 고객에게 신뢰할 수 있는 실증을 확보하는 것이 관건이다. 즉 1장의 규제 병목과 4장의 기회가 같은 지점에서 만난다. 인증을 빨리 통과하는 조직이 이긴다.

4.4 전략 3: 초고령사회를 시장으로 전환하기

한국의 인구구조는 부채이자 동시에 세계에서 가장 앞선 테스트베드다.

지표 수치
65세 이상 인구 비중 (2026.05) 21% 초과, 노인 1,000만 명
독거노인 가구 비중 약 36%
노인 빈곤율 40% 안팎 (OECD 1위)
생애말기 고령인구 2001년 14.8만 → 2025년 29.2만 → 2050년 63.9만 (2.2배)
월평균 간병비 2010년 112만 원 → 13년간 230% 상승 (같은 기간 물가 30%)
전체 간병비 지출 2022년 10조 돌파 → 2026년 12조 전망
요양병원 연간 입원 환자 (2022) 37만 명
실제 근무 간병인 (2022) 34,929명

마지막 두 줄이 핵심이다. 환자 10명당 간병인 1명도 되지 않는다. 그리고 현재 간병인 대부분이 65세 이상이다. 이들이 한꺼번에 은퇴하면 간병비는 폭등할 수 밖에 없다. 긴 간병을 하고 있는 나 역시 이 비용이 부담스럽고 때론 고통스럽다.

여기에 2026년 3월 돌봄통합지원법이 시행됐고, 간병비 급여화 시범사업이 본사업 전환을 앞두고 있다. 공적 재원이 들어오는 시장이 열린다는 뜻이다.

이 조합은 세계 어디에도 없다.

극단적 수요(초고령·독거·인력공백)
  + 공적 지불자(장기요양보험·돌봄통합지원법)
  + 제조 역량(로봇·배터리·센서·반도체)
  + 규제 실증 필요성(피지컬 AI 인증 체계 미비)
  = 세계 최초의 간병·돌봄 로봇 레퍼런스 마켓

한국이 이 시장을 선점하지 않으면, 일본과 중국이 한국을 참고해서 만든 제품을 우리가 수입하게 된다. 이미 국립재활원이 돌봄 로봇 정책 심포지엄을 열고 있고, CES에서는 가사·간병 올인원 로봇에 가격표가 붙기 시작했다.

4.5 전략 4: 중간자 포지션 — 양쪽 플랫폼에 모두 접속한다

미국과 중국이 각자 벽을 세우는 상황에서, 양쪽 모두에 접근 가능한 국가는 소수다. 한국은 그중 하나다.

레이어 미국 진영 활용 중국 진영 활용
모델 프런티어 API, 고신뢰 워크로드 오픈웨이트 self-host, 비용 민감 워크로드
컴퓨트 엔비디아 생태계 국산·중국산 가속기 대안
시장 북미·EU B2B SaaS 동남아·중동 (중국 표준 확산 지역)
표준 EU AI Act 대응 역량을 수출 상품화 아세안 규제 컨설팅

핵심은 '어느 편이냐'가 아니라 '어느 레이어에서 누구와 붙느냐'다. 모델 레이어에서 중립을 지키고, 애플리케이션과 물리 레이어에서 독자 자산을 쌓는 것. 이것이 중견국의 현실적 최적해다.

단, 이 전략에는 비용이 있다. 컴플라이언스를 3중으로 해야 한다. EU AI Act, 한국 AI기본법, 그리고 상대국의 데이터법. 이 비용을 감당할 수 있는 조직 규모가 있다. 그래서 다시 1.3의 결론으로 돌아온다. 규제는 정액세다.

5. 결론: 세 개의 병목은 서로를 강화한다

이 셋은 독립적이지 않다.

규제 강화 → 학습 데이터 사용 제약 → 데이터 병목 심화
데이터 병목 → 오프라인·독점 데이터 경쟁 → 대형사 집중 → 규제 포획
지정학 분절 → 데이터·표준 분절 → 규제 3중화 → 컴플라이언스 비용 폭증
컴플라이언스 비용 폭증 → 소규모 진입 불가 → 혁신 감소 → 프런티어 격차 확대

닫힌 루프다. 그리고 이 루프의 어느 지점에서도 개별 기업이 개입할 수 없다. 그래서 이것이 구조적 병목 지점이다.

그렇다면 무엇을 해야 하는가? 나는 세 문장으로 정리한다.

  1. 규제를 비용이 아니라 제품으로 읽어라. 인증·출처증명·데이터 계보는 곧 팔리는 물건이 된다. 남보다 6개월 먼저 통과하는 것이 곧 경쟁력이며 해자다.

  2. 오염되지 않은 데이터가 발생하는 물리적 접점을 확보하라. 웹은 이미 뒤섞였다. 공장, 병원, 요양시설, 창고에서 나오는 데이터는 아직 깨끗하다. 진짜 데이터가 있는 곳으로 달려가라.

  3. 프런티어에서 지고 있다는 사실을 전략의 출발점으로 삼아라. 오픈웨이트의 창이 닫히기 전에 레버리지를 쓰고, 초고령·제조라는 구조적 자산 위에 독자 시장을 만들어라.

마지막으로, 이 모든 논의의 밑바닥에 있는 원칙을 다시 적는다.

LLM은 계산을 위한 엑셀이지 모든 것을 아는 오라클이 아니다.

엑셀은 계산을 대신해주지만 무엇을 계산할지는 정해주지 않는다. 규제가 어디로 갈지, 데이터가 어디서 썩고 있는지, 두 강대국 사이에서 어디에 서야 하는지 — 그 판단은 여전히 사람의 몫이다. 그리고 그 판단의 질이 앞으로 10년의 격차를 만든다.

인공지능의 진짜 병목은 인간이 맞다. 다만 그 인간은 코드를 리뷰하는 엔지니어가 아니라, 규제를 설계하는 입법자와 전략을 결정하는 경영자다.

부록: 실무 체크리스트

AI 서비스를 운영 중인 조직

  • 2026.08.02 EU AI Act 제50조: 챗봇 AI 고지, 딥페이크·합성 미디어 라벨링 적용 여부 확인
  • 2026.12.02: 기존 출시 생성형 서비스의 기계판독용 워터마킹 구현 완료
  • 한국 AI기본법(2026.07.21 시행): 생성물 표시 문구, 고영향 AI 해당 여부 판정
  • 계도기간 종료(2027 중반) 이전 과태료 리스크 제거
  • EU 역외적용 대상 여부 판정 (EU 내 이용자 존재 시 적용)

모델을 학습·파인튜닝하는 조직

  • 베이스 모델 출처 및 라이선스 문서화 (MIT / Apache 2.0 / 상용 제한)
  • 학습 데이터 계보 관리 체계 (EU Art.10, 2027.12 대비)
  • 학습 코퍼스의 AI 생성 콘텐츠 비율 추정 및 필터링 정책
  • 데이터 포이즈닝 방어: 소스 신뢰도 스코어링, 이상 문서 클러스터 탐지
  • 인간 원천 데이터의 지속 주입 경로 확보 (누적 학습 구조)

피지컬 AI·로보틱스 조직

  • 분야별 인증 로드맵 (제조·의료·농업·방산)
  • 로봇 궤적 데이터의 소유권·활용권 계약 조항
  • 공적 지불자 시장(장기요양보험·돌봄통합지원법) 진입 요건 검토
  • 실증 특례 활용 가능성 점검

레퍼런스

규제·법률

  1. European Parliament / Council. Digital Omnibus on AI — 유럽의회 채택 2026.06.16, 이사회 승인 2026.06.29, 서명 2026.07.08.
  2. 법률신문. 「국내외 AI 규제, 2026년 하반기 분수령: EU AI Act의 새로운 국면과 AI기본법 시행령 개정」, 2026.07. https://www.lawtimes.co.kr/news/223727
  3. 페블러스. 「EU AI법 8월 2일 발효, 고위험 의무는 2027년 말로 연기」, 2026.07. https://blog.pebblous.ai/report/eu-ai-act-august-2026-deadline-reality/ko/
  4. 페블러스. 「EU AI법 8월 2일 투명성 의무 — 챗봇·딥페이크 역외 적용 체크리스트」, 2026.06. https://blog.pebblous.ai/blog/eu-ai-act-transparency-august-2026/ko/
  5. 얼리어답터신문. 「EU 고위험 AI 2027년 연기, 韓 교육 정책 무엇이 다른가」, 2026.07. https://www.eanews.kr/news/973930
  6. 경향신문. 「AI기본법 후속 법령 시행…생성형 AI 표시 의무 본격 시행」, 2026.07.21. https://www.khan.co.kr/article/202607210908001/
  7. 한국IT산업뉴스. 「EU AI법 고위험 시스템 규제 연기 협상 결렬」, 2026.04.30. https://www.koreaiin.com/news/899115
  8. 「AI기본법 시행령 7월 21일 시행, 공공조달·취약계층 뭐가 달라지나」 (기업 준비도 조사 인용), 2026.07.

데이터 고갈·오염·모델 붕괴

  1. Villalobos, P. et al. Will We Run Out of Data? Limits of LLM Scaling Based on Human-Generated Data. Epoch AI / ICML 2024. https://epoch.ai/publications/will-we-run-out-of-data-limits-of-llm-scaling-based-on-human-generated-data
  2. Epoch AI. Will We Run Out of ML Data? Projecting Dataset Size Trends. https://epoch.ai/publications/will-we-run-out-of-ml-data-evidence-from-projecting-dataset
  3. Graphite. AI Now Writes as Many Online Articles as Humans (55.4k URL, Pangram·Copyleaks·GPTZero 3중 검증, ~2026 Q1), 2026.05. https://graphite.io/five-percent/ai-now-writes-as-many-online-articles-as-humans-do
  4. Graphite. More Articles Are Now Created by AI Than Humans, 2025.10.
  5. Axios. 「AI-written web pages haven't overwhelmed human-authored content」, 2025.10.14. https://www.axios.com/2025/10/14/ai-generated-writing-humans
  6. Ahrefs. AI Content Prevalence Study (2025.04, 약 100만 신규 페이지, 74.2%). https://ahrefs.com/blog/ai-content-prevalence
  7. Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., Gal, Y. AI models collapse when trained on recursively generated data. Nature 631(8022), 755–759 (2024). https://www.nature.com/articles/s41586-024-07566-y
  8. Gerstgrasser, E. et al. / Kazdan, J. et al. (2024) — 데이터 누적(accumulate) 시 붕괴 완화 조건.
  9. Alemohammad, S. et al. Self-Consuming Generative Models Go MAD (2023/2024) — 증강·누적 루프의 붕괴 회피 조건.
  10. Dohmatob, E. et al. Strong Model Collapse (2024). arXiv:2410.04840

데이터 포이즈닝

  1. Anthropic × UK AI Security Institute × The Alan Turing Institute. A small number of samples can poison LLMs of any size, 2025.10. https://www.anthropic.com/research/small-samples-poison
  2. The Alan Turing Institute. 「LLMs may be more vulnerable to data poisoning than we thought」, 2025.10.09. https://www.turing.ac.uk/blog/llms-may-be-more-vulnerable-data-poisoning-we-thought
  3. Dark Reading. 「It Takes Only 250 Documents to Poison Any AI Model」, 2025.10.22.
  4. Gu, T. et al. BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain (2017); OWASP Top 10 for LLM Applications — Data Poisoning.

창작·노동·버추얼 배우

  1. SAG-AFTRA 공식 성명 (틸리 노우드 관련), 2025.09.
  2. 페블러스. 「SAG-AFTRA AI 계약, 배우 학습 데이터 동의를 단체교섭으로 받는 구조」. https://blog.pebblous.ai/blog/sag-aftra-ai-consent-collective-bargaining/ko/
  3. Variety. 「Unable to Stop AI, SAG-AFTRA Mulls a Studio Tax on Digital Performers」, 2026.01.30.
  4. AI타임스. 「할리우드 뒤흔든 'AI 배우', 정식 스크린 데뷔한다」, 2026.07.
  5. 국민일보. 「할리우드는 'AI 배우'와 전쟁 중… 일본 성우들은 'AI 목소리'로 맞불」, 2026.07.

미중 갈등·수출통제

  1. Council on Foreign Relations. The New AI Chip Export Policy to China: Strategically Incoherent and Unenforceable, 2026.01.14. https://www.cfr.org/articles/new-ai-chip-export-policy-china-strategically-incoherent-and-unenforceable
  2. Council on Foreign Relations. China's AI Chip Deficit: Why Huawei Can't Catch Nvidia, 2025.12.
  3. Bureau of Industry and Security. Federal Register Rule 2026-00789 (2026.01.15) — H200·MI325X 건별 심사 전환.
  4. Al Jazeera. 「US says ban on AI chip shipments applies to Chinese firms outside China」, 2026.06.01.
  5. Introl. BIS H200 Export Policy Shift & AI OVERWATCH Act, 2026.02.
  6. Reuters. 중국 상무부-알리바바·바이트댄스·Z.ai 최상급 모델 해외 유출 제한 논의 보도, 2026.07.
  7. Artificial Analysis Index, 2026.04 (Kimi K2.6 / DeepSeek V4-Pro / Qwen 3.6 Plus).
  8. 카운터포인트리서치. 「Kimi K3 쇼크: 오픈 프론티어를 장악한 중국」, 2026.07. https://korea.counterpointresearch.com/kimi-k3-open-ai/
  9. AP통신 / 헬로티. 「중국 AI, '저가·개방성' 앞세워 미국 시장 공략」, 2026.07.
  10. Radio Seoul. 「중국 오픈웨이트 AI, 미국 AI 최상급 모델 따라잡았다」(국산 AI 표방 모델의 베이스 모델 검증 사례 포함), 2026.07. https://www.radioseoul1650.com/archives/147924

피지컬 AI·로보틱스

  1. 스타트업얼라이언스. 『2026 피지컬 AI 스타트업맵』, 2026.06.29.
  2. 더나은미래. 「2026년 대규모 투자 이어지는 '피지컬 AI'…로봇 분야가 47% 차지」, 2026.06.29. https://futurechosun.com/archives/153009
  3. Bessemer Venture Partners. 2026 Robotics Predictions (국방 로봇 시리즈 A 중앙값 1.5억 달러).
  4. Goldman Sachs Research. South Korea's Growing Role in Humanoid Robot Development, 2026.06.25.
  5. The Korea Herald. 「LG to build Korea's first humanoid 'data factory' to train robots」, 2026.
  6. Open X-Embodiment Collaboration. Open X-Embodiment: Robotic Learning Datasets and RT-X Models. arXiv:2310.08864
  7. Khazatsky, A. et al. DROID: A Large-Scale In-The-Wild Robot Manipulation Dataset (2024).

초고령사회·돌봄

  1. 한국은행. 「[BOK 이슈노트 2026-5] 초고령화사회, 생애말기 필수산업의 활성화」, 2026.02.09. https://www.bok.or.kr/portal/bbs/P0002353/view.do?nttId=10096413
  2. 한국보건사회연구원. 「초고령사회 대응을 위한 노인 의료·요양·돌봄의 통합적 체계 구축의 과제」.
  3. 캐어유 뉴스. 「[기획] 붕괴 직전의 한국 간병 체계, 구조적 해법은 있는가?」, 2026.03.29. https://www.careyounews.org/news/articleView.html?idxno=9034
  4. GK뉴스온. 「2026년 대한민국 초고령 사회의 명암… '1,000만 노인 시대'의 행복을 묻다」, 2026.05.17.
  5. 국립재활원. 돌봄 로봇 정책 심포지엄 자료, 2026.

데이터 라이선싱

  1. News Corp – OpenAI 콘텐츠 라이선싱 계약 (5년, 2.5억 달러 이상), 2024.

본 칼럼의 수치는 2026년 8월 2일 기준으로 확인된 공개 자료에 근거한다. 규제 일정과 수출통제 정책은 변동성이 매우 크므로, 실무 적용 시 최신 관보·고시를 재확인할 것을 권한다.