[뉴스토마토 이보라 기자] “인공지능(AI) 개발 중단 합의를 어긴 데이터센터를 공습으로 파괴할 각오도 해야 한다.” 초지능 AI가 인간의 통제를 벗어날 위험을 경고해 온 미국의 AI 연구자 엘리에저 유드코스키는 2023년 3월 주간지 타임지 기고문 ‘인공지능(AI) 개발을 잠시 멈추는 것으로는 부족하다. 모두 중단해야 한다’에서 정부와 군대를 포함해 무기한 AI 개발 중단을 요구했습니다. 만약 전 세계적인 AI 개발 금지 국제협약을 어긴 국가가 몰래 그래픽처리장치(GPU) 클러스터를 구축한다면 상대국과의 핵전쟁까지 불사해야 한다고 주장했습니다.

 

극단적인 내용을 담은 이 주장은 2023년 3월 미래생명연구소(FLI)가 발표한 공개서한에 대한 반박문이었습니다. 일론 머스크 테슬라 CEO(최고경영자)와 딥러닝 선구자 요슈아 벤지오 캐나다 몬트리올대 교수 등이 GPT-4보다 강력한 AI의 학습을 최소 6개월 멈추고 안전 절차를 마련하자고 요구했지만, 유드코스키는 그것으로는 부족하다며 더 강경한 전면 개발 중지론을 내세운 것입니다. 두 달 뒤 AI안전센터(CAIS)가 발표한 멸종 위험 경고 성명에 오픈AI의 샘 올트먼과 앤트로픽의 다리오 아모데이 CEO 등도 서명했지만, 개발 중단 요구는 담기지 않았습니다.

 

인류 멸종을 경고하는 목소리가 커지자, 오히려 그러한 말들이 눈앞의 위험을 가린다는 반론도 제기됐습니다. 같은 해 6월 과학 저널 ‘네이처’는 사설을 통해 종말 경고가 국가 간 개발 경쟁과 기업 투자를 부추긴다고 비판했고, 암호화 메신저 서비스 ‘시그널’ 대표이자 AI나우연구소 수석 고문인 메러디스 휘태커는 AI 멸종론을 과학적 증거에 근거하지 않은 ‘준종교적 이데올로기’라고 비난했습니다. 미래의 파멸로 공포를 조성해 현실의 문제에서 눈을 돌리며, 되레 빅테크의 입지를 강화한다는 지적이었습니다.

 

 

논쟁은 결론은 내지 못했고 이후 3년의 시간 동안 재귀적 AI의 등장으로 개발 속도가 비약적으로 빨라졌습니다. 지난 7월 일어난 사상 초유의 AI 보안 사고인 허깅 페이스 사건은 AI 멸망론의 불씨를 되살렸습니다. 속도조절론을 들고 나온 이는 양대 AI 개발사 중 하나인 앤트로픽의 CEO 다리오 아모데이였습니다. 지난달 자신의 홈페이지에 AI의 발전 속도를 행동에 대한 이해와 통제 연구가 따라가지 못한다며 개발 속도를 늦춰야 한다고 했습니다.

 

 

기다렸다는 듯이 샘 올트먼과 일론 머스크가 동의를 표했고, 젠슨 황 엔비디아 CEO와 도널드 트럼프 대통령이 반대 입장을 분명히 하며 논쟁은 달아 올랐습니다. 속도조절을 주장하는 이들은 AI 통제 기술과 안전 기준이 개발 속도를 따라가지 못하고 있다고 지적합니다. 지난달 앤트로픽을 떠난 제이콥 콕슨 전 연구원은 5일(현지시각) 뉴욕시의회 청문회에서 “현재 경로대로라면 인류가 AI에 대한 통제력을 잃을 가능성이 더 높으며, 인류 멸종으로 끝날 수도 있다”고 경고하며 첨단 AI 개발의 속도조절을 거듭 요구했습니다. 야쿠프 파호츠키 오픈AI 수석과학자도 홈페이지에 올린 기고문에서 “공통 안전 기준이 마련될 때까지 개발 속도를 늦추고, 외부 감사기관이나 정부·국제기구가 기준 준수 여부를 감독해야 한다”고 주장했습니다. 빌 게이츠 마이크로소프트 공동 창업자는 지난달 NBC 인터뷰에서 “악의를 가진 사람이 최신 AI를 이용하면 10억명의 사망자를 내는 사태까지 초래할 수 있다”고 경고했습니다.

 

지난달 29일, AI 안전 대책을 논의하기 위해 백악관에 모인 기업 수장들은 자체 위험 평가와 외부 감사 등 자율규제 중심의 안전 협약에 서명했습니다. 하지만 비공개 회의에서 젠슨 황은 다리오 아모데이에게 AI의 능력과 위험을 과장한다며 따져 물었고 마크 저커버그 메타 CEO는 합의한 안전 원칙을 이행하는 것이 해법이라며 젠슨 황을 거들었습니다. 아모데이는 “대중에게 AI의 능력을 솔직하게 알리고 위험을 축소해서는 안 된다”고 맞받아친 것으로 알려졌습니다.

 

이 같은 입장 차이에는 사업구조와 이해관계가 얽혀 있습니다. 엔비디아는 개발 경쟁이 치열해질수록 GPU를 더 많이 팔 수 있고, AI 모델 경쟁에서 오픈AI·앤트로픽에 비해 후발주자인 메타는 속도 제한과 규제가 기술 격차를 좁히는 데 걸림돌이 될 수 있습니다. 반면 속도조절을 할 경우 기업공개(IPO)를 추진하는 오픈AI와 앤트로픽은 투자를 줄여 수익성을 극대화할 수 있습니다. 

 

AI 개발 속도를 늦추자는 논의는 유엔으로까지 옮겨 갔지만, 구체적 실행 방안은 마련되지 못했습니다. 미중 정상회담에서도 AI 사고를 알리는 소통 창구를 마련하는 수준에 머무르고 말았습니다. 각국의 대응도 엇갈리고 있습니다. 유럽연합(EU)은 AI법을 통해 위험 등급별 규제를 도입했고 한국은 진흥과 규제에 고르게 무게를 둔 AI 기본법을 시행했습니다. 영국은 세계 최초로 설립한 AI보안연구소(AISI)를 중심으로 첨단 AI의 위험을 평가하고, 국제 협력을 추진하고 있습니다. 트럼프 행정부는 산업 육성과 기업 자율규제에 무게를 두고 있습니다. 중국 역시 AI 안전과 통제 문제를 다루면서도 기술 개발 속도를 늦추지는 않고 있습니다.

 

1세대 AI연구자로 꼽히는 한상기 테크프론티어 대표는 『AGI의 시대』(한빛미디어, 2024)에서 한국도 AI 안전 전문 인력과 국제 협력 역량을 확보해야 한다고 지적했습니다. AI 안전에 제대로 대응하지 못하면 AI 패권 국가들에 정책 방향과 전략이 휘둘릴 수 있다는 경고입니다. 뉴욕타임스(NYT)는 최근 미국과 중국, 유럽연합(EU) 등 거의 모든 곳에서 정부의 규제와 감독 역량이 AI 발전 속도를 따라가지 못하면서 정책 공백이 커지고 있다고 지적했습니다.

 

 

이보라 기자 bora11@etomato.com

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.