FTX 파산 전, 앤트로픽과 깊은 관계…대규모 투자
샘 뱅크먼, 종말론 뿌리 '효과적 이타주의'에 경도
철학적 정서적 문화적 공감대 있어
[블록미디어 이정화 기자] “이젠 평온한 시절로 못 돌아간다(Things will never be chill again)”
인공지능(AI) 개발사 앤트로픽 직원들 노트북에는 이런 모토가 들어간 스티커가 종종 붙어 있다. AI 종말론을 의미하기도 하고, “그러니 종말을 막기 위해 더 노력해야 한다”는 뜻도 된다.
월스트리트저널(WSJ)은 26일(현지시각) AI 종말론의 뿌리를 찾는 장문의 기사에서 파산한 암호화폐 거래소 FTX와 앤트로픽이 밀접한 관계에 있다고 보도했다. 앤트로픽 창립자 아모데이는 FTX의 샘 뱅크먼이 주관한 행사에 자주 참석했으며, 투자금도 받았다.
이들은 효과적 이타주의(Effective Altruism·EA)라는 철학사조를 연결 고리로 깊은 유대감을 형성했다. EA는 AI 종말론의 이론적 토대다. 코인 사기 혐의로 25년형을 받고 수감 돼 있는 샘 뱅크먼은 자신이 EA에 영향 받았음을 공공연하게 언급한 바 있다.
FTX와 AI 종말론의 연결고리
출발점은 AI가 아니라 철학이었다. EA는 제한된 돈과 자원으로 최대한 많은 사람에게 도움을 주자는 철학에서 시작했다. 기부금 1달러로 얼마나 많은 생명을 구할 수 있는지를 따지는 식이다.
이 논리를 먼 미래까지 확장하면서 관심 대상도 달라졌다. 현재의 사람을 돕는 것뿐 아니라 미래에 존재할 수많은 사람을 위협하는 ‘실존적 위험’을 막는 것이 중요한 과제로 떠올랐다.
AI가 인류 전체를 없앨 가능성이 조금이라도 있다면 이를 막는 일이 엄청난 가치를 갖는다는 논리다. WSJ에 따르면 EA 진영에서는 AI로 인한 인류 멸종 가능성이 5%에 불과하더라도 대비할 가치가 있다고 생각한다.
샘 뱅크먼은 EA의 대표적인 후원자였다. FTX가 급성장하던 2020~2022년 당시 그는 FTX 재단을 만들었다. 샘 뱅크먼은 “세계에 가장 큰 긍정적 영향을 미칠 수 있는 단체에 자금을 지원하겠다”고 밝혔다.
그의 관심에는 전염병과 세계 개발뿐 아니라 인류 문명의 붕괴 가능성도 포함됐다. FTX 재단 관계자는 태평양 섬나라 나우루를 사들여 인류의 50~99.99%가 사망하는 재앙에 대비할 벙커를 건설하자는 내용의 메모를 주고받기도 했다. 이 메모는 2023년 파산 관련 소송 과정에서 드러났다.
샘 뱅크먼은 AI 발전도 같은 시각으로 바라봤다. 그는 AI가 인간보다 똑똑해질 경우 인간을 우호적으로 대하지 않을 수 있다고 우려했다.
앤트로픽에 5억달러 투자
이런 문제의식은 실제 투자로 이어졌다. 다리오 아모데이 앤트로픽 공동창업자는 2021년 신생 AI 기업의 자금을 마련하기 위해 EA 진영의 후원자들에게 손을 내밀었다. 그중 한 명이 샘 뱅크먼이었다.
샘 뱅크먼은 앤트로픽에 5억달러를 투자했다. 그의 투자팀이 처음 권고한 금액의 5배였다. FTX는 앤트로픽의 주요 주주 중 하나가 됐다. 앤트로픽은 이 자금을 대규모 AI 모델의 안전성을 연구하고 개선하는 데 사용하겠다고 밝혔다.
FTX 재단은 여러 AI 안전 연구 비영리단체에도 자금을 약속했다. 연결고리는 돈에 그치지 않았다.
FTX 재단의 자선사업을 이끌었던 닉 벡스테드는 이후 AI 위험을 줄이기 위한 단체를 이끌었다. 그는 과거 아모데이 등 앤트로픽 공동창업자들이 생활했던 집에서 함께 지내기도 했다. 이 집은 EA와 AI 안전론자들의 교류 장소였다.
FTX의 자매회사 알라메다리서치를 이끌었던 캐롤라인 엘리슨도 AI의 발전 방향에 대해 비슷한 생각을 가지고 있었다. 엘리슨은 앤트로픽에 별도로 1000만달러를 투자했다.
2022년에는 앤트로픽과 다른 AI 연구소 관계자들이 바하마 엘류서라섬에서 열린 행사에 모였다. 행사에서는 AI 위험과 EA가 주요 주제로 다뤄졌다. 장소는 당시 바하마로 본사를 옮긴 FTX가 예약했다.
AI 위험론의 대표적 인물인 엘리에저 유드코프스키는 이 자리에서 범용인공지능(AGI)이 인류를 파멸시킬 수 있는 이유를 발표했다. 향후 100년 안에 인류가 멸종할 가능성을 75% 이상으로 보는 사람들만 참여할 수 있는 오찬도 열렸다.
FTX는 무너졌지만 사상은 남았다
FTX는 2022년 고객 자금을 돌려주지 못하면서 파산했다. 샘 뱅크먼은 징역 25년을 선고받았다. FTX가 보유했던 앤트로픽 지분도 채권자 상환을 위해 매각됐다.
FTX 붕괴는 EA 진영에도 큰 타격을 줬다. WSJ은 샘 뱅크먼이 수감된 뒤 EA라는 브랜드 자체가 기피 대상이 됐다고 전했다. EA 지도자들은 샘 뱅크먼과 거리를 뒀다. 그를 잘 알지 못한다고 부인했다.
FTX가 사라졌다고 AI 안전론까지 사라진 것은 아니었다. 앤트로픽의 오래된 구성원 가운데 상당수는 AI 안전과 EA 커뮤니티와의 관계를 이어갔다. AI가 인간을 속이고 통제권을 장악할 가능성 등을 연구하는 작업도 계속됐다.
AI 안전 진영의 연구와 모임을 지원하는 콘스텔레이션(Constellation)도 활동을 이어가고 있다. 이 단체는 홈페이지에서 자신들을 이렇게 설명한다.
“AI가 초래할 수 있는 ‘극단적인 대규모 인명 피해’와 ‘인간 문명에 대한 영구적인 통제력 상실’을 줄이는 것을 목표로 합니다.”
FTX의 역설은 여기에 있다. 고객 자금 유용으로 무너진 디지털자산 거래소가 결과적으로 오늘날 AI 안전 논쟁의 한 축에 상당한 자금을 공급했다는 점이다.
앤트로픽 구성원들이 공유하고 있는 모토에는 그 문제 의식이 그대로 남아 있다.
이 모토는 “다시는 평온하지 않을 것”이라는 뜻만은 아니다. 영어의 ‘chill’에는 마음을 놓고 느긋하게 지낸다는 뉘앙스가 있다. 따라서 AI 안전론의 맥락에서는 “이젠 다시 마음 놓고 살던 시절로 돌아갈 수 없다”는 의미로 읽을 수 있다.
AI가 인류 전체를 위협할 수도 있다는 가능성을 받아들이면 이전처럼 기술 발전을 편하게 바라볼 수 없다는 것이다.
FTX는 사라졌다. 그러나 FTX가 후원한 EA 네트워크와 AI 종말론 논쟁은 실리콘밸리 한복판에 남았다. “다시는 마음 놓을 수 없다”는 말은 그 세계관을 압축한다.