인류 멸망 확률 10% 주장의 실체… '올인 팟캐스트' 패널들의 전면 반박
"선두 기업들의 공포 마케팅, 규제 포섭으로 시장 장악하려는 시도"
"IPO 추진 기업이 종말론 주장은 모순, 오픈소스 차단하려는 공작"

[블록미디어 James Jung 기자] “인공지능(AI)이 인류를 멸망시킬 확률이 10%라구요? 도대체 그 숫자는 어디서 나온거죠?”

트럼프 행정부 AI 차르를 역임한 데이비드 삭스 등이 패널로 출연하는 ‘올인 팟캐스트’가 AI 멸망론을 정면으로 반박하고 나섰다. 12일 공개된 유튜브 영상에서 올인 패널들은 이구동성으로 “AI 종말론은 앤트로픽 등 선두 기업들의 공포 마케팅에 불과하다”고 질타했다.

폭로글에서 시작된 ‘10% 파멸론’ 파장

최근 AI 업계에서는 AI가 향후 10년 이내에 인류를 멸망시킬 확률이 10%에 달한다는 주장이 제기되며 큰 논란이 일었다. 이번 논란은 제이콥 콕신(Jacob Coxin) 앤트로픽(Anthropic) 전 연구원이 AI 개발자들이 인류 멸망 가능성을 진심으로 믿고 있으며 통제 불능의 AI를 향해 경주하고 있다는 폭로글을 소셜 미디어에 올리면서 시작됐다.

이에 대해 에반 휴빙거(Evan Hubinger) 앤트로픽(Anthropic) 정렬 과학 리더가 제이콥 콕신 전 연구원의 주장에 동조하며 향후 10년 내 AI로 인한 인류 멸망 확률이 10%를 넘는다고 생각한다고 말한 것이 파문을 일으켰다.

버니 샌더스(Bernie Sanders) 미국 상원 의원 등 정치인들은 해당 게시글을 인용하며 초지능 AI 개발 중단 입법을 추진하겠다고 나섰다.

실증 데이터 없는 ‘느낌(Vibes)’과 기획 공작

유명 테크 팟캐스트인 ‘올인 팟캐스트(All-In Podcast)’의 패널들은 이러한 종말론 주장의 허구성을 집중적으로 비판했다.

데이비드 삭스(David Sacks) 크래프트 벤처스(Craft Ventures) 파트너는 10%라는 수치가 객관적인 연구 데이터나 내부 유출 자료에 기반한 것이 아니라 단순한 ‘느낌(vibes)’에 불과하다고 지적했다.

데이비드 삭스 파트너는 제이콥 콕신 전 연구원의 게시글이 올라온 직후 월스트리트저널(WSJ)에 사전 브리핑 형태로 보도되고, 이전까지 해당 연구원의 X 계정 활동이 거의 없었음에도 특정 단체들에 의해 몇 분 만에 대량 글이 확산된 점을 들어 잘 조직된 공작(Op)같다고 주장했다.

실제로 해당 글을 초기 확산시킨 엔코드 AI(Encode AI) 등의 단체들은 앤트로픽의 주요 투자자인 야안 탈린(Jaan Tallinn)의 지원받는 효과적 이타주의(EA) 성향의 종말론 네트워크로 확인됐다.

현실적 기술 수준과의 격차와 통제 장치

패널들은 종말론자들이 주장하는 AI 위협이 현실의 기술 수준과 커다란 격차를 보인다고 입을 모았다. 제이슨 칼라카니스(Jason Calacanis) 올인 팟캐스트(All-In Podcast) 진행자는 현재 AI는 파이썬 코딩 자동 완성조차 완벽히 해내지 못하며 간단한 호텔 방 예약이나 음식 주문도 제대로 처리하지 못하는 수준이라고 꼬집었다.

제이슨 칼라카니스 진행자는 개발 과정에서 인간의 승인을 거치도록 하는 ‘스페이스바 누르기(hit spacebar to continue)’와 같은 안전 통제장치를 소프트웨어 내에 얼마든지 구축할 수 있다고 설명했다.

데이비드 프라이드버그(David Friedberg) 프로덕션 보드(The Production Board) 대표 역시 인터넷과 물리적으로 격리된 ‘에어 갭(Air gap)’ 상태와 ‘인간 개입(Human in the loop)’ 절차가 주요 핵심 시스템에 갖춰져 있다고 강조했다.

집단 히스테리와 ‘규제 포섭(Regulatory Capture)’의 의도

데이비드 프라이드버그 대표는 이번 AI 종말론 파동을 과거 기후변화 예측 과장이나 코로나19 록다운, 원자력 공포증과 같은 ‘사회적 집단 히스테리’ 단계로 진단했다. 프라이드버그 대표는 미지에 대한 공포를 자극하는 예방 원칙의 본질이 특정 집단에게 권력과 통제권을 집중시키려는 시도라고 지적했다.

데이비드 삭스 파트너는 폐쇄형 AI 선두 기업들이 연방 AI 규제국(FDAI) 신설을 요구하는 진짜 목적이 규제 대응 여력이 없는 오픈소스 AI의 퍼블리쉬와 호스팅을 금지하고 독점적 기득권을 지키려는 ‘규제 포섭’이라고 비판했다. 선두 기업들이 공포를 이용해 규제를 강화해 후발 기업들의 진출을 차단하려는 술수라는 것.

데이비드 프라이드버그 대표는 오픈소스 AI가 개발 비용을 50분의 1로 낮추고 기술을 민주화하는 핵심 동력이라며 오픈소스 금지 시 정부와 대기업 결탁 체제만 강화될 것이라고 우려했다.

수조 달러 IPO 추진과 ‘담배 회사’식 모순

패널들은 앤트로픽의 행태가 법적·상업적으로 심각한 모순을 안고 있다고 강조했다. 차마트 팔리하피티야(Chamath Palihapitiya) 소셜 캐피털(Social Capital) 대표는 핵심 제품이 인류를 멸망시킬 수 있다고 인정하면서도 상장(IPO)을 추진하는 모습을 과거 담배의 유해성을 알면서도 판매했던 필립 모리스 사례에 비유했다.

차마트 팔리하피티야 대표는 증권거래위원회(SEC) 증권신고서(S-1)에 이러한 치명적 위험성을 명확히 공시하지 않을 경우 막대한 제3자 제품 책임 법적 리스크에 직면할 것이라고 경고했다.

데이비드 삭스 파트너 역시 수조 달러의 가치로 공모 자금을 모집하려는 기업의 임원이 자사 제품이 문명을 끝낼 수 있다고 주장하는 것은 공모가 할인 및 투자자 소송을 부르는 치명적 모순이라고 덧붙였다.

차마트 팔리하피티야 대표는 종말론을 주장하는 연구원들이 집단적 착란(Psychosis) 상태에 빠졌거나 오픈소스 차단을 겨냥한 조직적 공작에 참여하고 있는 것이라고 분석했다.