[멕시코=심영재 특파원] 미국 캘리포니아주가 첨단 인공지능(AI) 모델을 비상시 중단할 수 있는 이른바 ‘킬 스위치(kill switch)’ 도입을 검토한다. 개빈 뉴섬 캘리포니아 주지사는 전문가 그룹에 두 달 안에 AI 안전·보안 규제를 강화할 방안을 마련하도록 지시했다. 독립기관의 AI 기업 안전계획 작성과 상시 검증도 검토 대상에 포함됐다.
블룸버그에 따르면 뉴섬 주지사는 18일(현지시각) AI 안전장치 강화를 위한 행정명령을 내렸다. 캘리포니아 주정부 공식 발표에 따르면 전문가 그룹은 앞으로 두 달 동안 주정부의 AI 안전·보안 관련 법률을 강화하기 위한 권고안을 마련한다.
뉴섬 주지사는 “우리는 행동을 기다리지 않을 것”이라며 AI에 대한 실질적이고 책임 있는 감독을 서두르겠다고 밝혔다. 그는 신중하게 접근하되 행동을 미룰 수 없다는 입장을 강조했다.
‘킬 스위치’ 검토…독립기관이 지속 검증
캘리포니아 주정부에 따르면 전문가 그룹은 프런티어 AI 기업이 비상시 모델을 중단할 수 있는 장치를 개발하도록 하는 방안을 검토한다. 해당 장치가 실제로 작동하는지도 독립적인 검증기관이 지속적으로 확인하도록 하는 방안이 포함됐다.
프런티어 AI 기업 연구소에 지정된 독립 검증기관을 배치해 정기적인 감사와 평가를 수행하는 방안이다. 기업이 주법에 따라 제출하는 AI 안전 프레임워크와 투명성 보고서, 위험평가 역시 독립기관이 검증하도록 하는 내용이 포함됐다.
이번 행정명령은 캘리포니아가 최근 도입한 AI 감독 법률의 시행도 앞당긴다.
뉴섬 주지사는 지난 9일 SB 813과 AB 1405에 서명했다. SB 813은 AI 시스템과 모델의 안전·위험을 평가하는 독립 검증기관 제도를 마련한다. AB 1405는 AI 감사기관 등록제와 독립성·투명성 기준을 도입한다.
블룸버그에 따르면 뉴섬 주지사는 과거 포괄적인 AI 규제 법안에 거부권을 행사하기도 했다. 이후 지난해는 프런티어 AI 개발자의 안전 프레임워크 공개와 중대 안전사고 보고 등을 규정한 SB 53에 서명했다.
AI 기업 본거지서 규제 강화
이번 조치는 오픈AI와 앤트로픽(앤스로픽) 등 주요 AI 기업이 자리 잡고 있는 캘리포니아에서 추진된다는 점에서도 주목된다.
뉴섬 주지사는 AI 산업 육성에도 적극적인 태도를 보여왔다. 캘리포니아주는 지난 6월 앤트로픽과 협력해 주정부 기관에서 클로드(Claude)를 활용할 수 있도록 하는 파트너십을 발표했다.
반면 AI 안전에 대한 경고가 커지면서 감독 강화에도 속도를 내고 있다. 캘리포니아 주정부는 이번 행정명령을 통해 AI 시스템의 통제력 상실과 같은 사고를 중대 안전사고의 정의에 포함하는 방안도 검토하기로 했다.
블룸버그는 소규모 AI 기업 일부가 규제 강화에 우려를 나타내고 있다고 전했다. 대형 AI 기업이 규제 기준 형성에 더 큰 영향력을 행사하면서 신생기업의 경쟁이 어려워질 수 있다는 주장이다.
AI 규제를 둘러싼 연방정부와 캘리포니아주의 입장 차이도 나타나고 있다.
블룸버그에 따르면 뉴섬 주지사는 연방정부의 AI 안전대책이 부족하다고 비판하면서 연방 차원의 AI 안전법 마련을 요구했다. 캘리포니아 주정부 역시 이날 발표에서 주정부의 AI 규제 체계를 연방정부가 검토하고 국가 차원의 기준으로 활용해야 한다고 주장했다.
이는 뉴섬 주정부의 정책적 입장이다. 트럼프 대통령과 연방정부의 AI 규제 접근에 대한 평가는 정치적 논쟁이 이어지는 사안이다.