[블록미디어 양원모 기자] 인공지능(AI) 발전의 토대를 마련한 제프리 힌턴 토론토대 명예교수가 AI 관련 대형 사고 가능성을 경고했다. 힌턴 교수는 인공신경망 연구의 선구자로 2024년 노벨 물리학상을 수상했다. 2023년에는 “AI의 위험성을 자유롭게 알리겠다”며 구글을 떠났다.
3일(현지시각) 영국 가디언에 따르면 힌턴 교수는 최근 인터뷰에서 “올해 말이나 내년에 우리는 체르노빌 같은 사고를 보게 될 것”이라며 “그것이 사람들이 위험을 심각하게 받아들이는 계기가 될 수 있다”고 말했다.
체르노빌 사고에 비유…전력망·금융시스템 마비 우려
힌턴 교수는 최근 발생한 AI 보안 사고를 1979년 미국 스리마일섬 원전 사고에 비유했다. 지난여름 오픈AI의 AI 에이전트들이 허깅페이스 웹사이트에 침투하려 한 사건이 AI 기술의 위험성을 보여주는 ‘경고 신호’라는 것이다.
그는 앞으로 발생할 수 있는 더 큰 사고를 ‘체르노빌 원전 사고’에 빗댔다. AI를 활용한 공격이 전력 공급 시스템을 마비시켜 광범위한 정전을 일으키거나. 금융시스템을 일주일 동안 중단시키는 상황을 예로 들었다. 힌턴 교수는 “무슨 일이 벌어질지 상상할 수 있는가. 우리는 복구할 수 있겠지만 그 사건은 지도자들이 위험에 주목하게 만들 것”이라고 말했다.
힌턴 교수는 AI가 인간의 노동을 빠르게 대체할 경우 대규모 실업과 소득 불평등이 심화할 가능성도 지적했다. 반면, 기술을 안전하게 통제한다면 생산성 향상과 경제적 풍요를 누릴 수 있다고 봤다. 그는 “AI를 아예 개발하지 않았더라면 오히려 더 나았을 수도 있다”면서도 향후 10년 안에 인류가 AI의 위험을 제대로 통제할 수 있을지 판가름 날 것으로 내다봤다.
빅테크 수익 경쟁 비판…출시 전 안전성 검증 촉구
인터뷰에서 힌턴 교수는 주요 AI 기업 경영진을 향해서도 비판의 목소리를 높였다. 샘 올트먼 오픈AI 최고경영자(CEO)와 마크 저커버그 메타 CEO, 일론 머스크 테슬라 CEO 등이 기술의 위험을 인식하면서도 수익과 시장 경쟁을 우선하고 있다는 주장이다. 그는 “그들은 위험을 이해하고 있지만 신경 쓰지 않는다. 돈을 갖는 편을 택한다. 그것이 내 생각이다”라고 비판했다.
힌턴 교수는 그러면서 미국 식품의약국(FDA)이 신약의 안전성과 효능을 검증하듯 AI 모델도 출시 전 독립적인 기관의 안전성 평가를 거쳐야 한다고 강조했다. 기업이 기술의 사회적 이익이 피해보다 크다는 충분한 통계적 근거를 제시해야 한다는 것이다. 힌턴 교수는 “내 직감으로는 우리가 아직 통제권을 가지고 있다”며 “충분한 노력을 기울인다면 위험에 대응할 수 있다”고 말했다.