[뉴스토마토 이보라 기자] 미국 8개 주정부가 인공지능(AI) 챗봇 챗GPT가 청소년 등 이용자에게 위해를 가한다며 오픈AI를 상대로 무더기 소송을 낸 가운데, 기업공개(IPO)를 앞둔 앤트로픽은 당국으로부터 안전성 우려를 해소하기 전까지 상장을 중단하라는 요구에 직면했습니다. 양사는 이미 AI 에이전트의 해킹과 보안사고로 연방거래위원회(FTC)의 조사도 받고 있습니다. ‘AI 제국’을 꿈꾸며 세계경제를 좌우하던 AI 개발사들의 질주에 잇따라 제동이 걸리고 있습니다.
샘 올트먼 오픈AI 최고경영자(CEO)가 지난달 29일(현지시각) 미국 샌프란시스코에서 열린 개발자 행사에서 방송 인터뷰를 하고 있다.. (사진=AFP/연합뉴스)
브레나 버드 아이오와주 법무장관은 오픈AI가 챗GPT의 안전성을 허위로 홍보해 소비자를 기만했다며 주 법원에 소송을 제기했다고 지난 14일(현지시각) 밝혔습니다. 이번 오픈AI 상대 법적 대응에는 아이오와주뿐 아니라 공화당과 민주당을 아우르는 캔자스, 애리조나, 아칸소, 아이다호, 몬태나, 네브래스카, 웨스트버지니아 등 총 8개 주가 동참했습니다.
다만 이들은 공동소송을 제기하는 대신 각자 주 법원에 개별적으로 소장을 제출했습니다. 버드 장관은 “오픈AI는 아이들을 해치고 아이오와 주민들에게 거짓말을 하고 있다”며 “챗GPT가 위험한 의료 조언을 하고 자신과 타인을 해치도록 부추기거나 도우면서도 거짓으로 친구인 척하고 있다”고 비판했습니다.
주정부는 소장에서 오픈AI가 챗GPT 이용 가능 나이를 13세 이상으로 표시하고 있으면서도, 웹사이트에서는 연령 인증을 의무화하지 않아 어린이들이 쉽게 접근할 수 있도록 방치했다고도 지적했습니다. 그러면서 챗GPT와 대화를 나눈 끝에 지난해 4월 숨진 10대 소년 애덤 레인의 사례와, 플로리다주립대 총격 사건 범인이 챗GPT와 대화하며 범행 계획을 세운 사례 등을 들었습니다.
아이오와주는 법 위반 1건당 최대 4만달러의 민사제재금과 소비자 환급을 청구하고, 충분한 안전장치를 마련해 제3자의 검증을 받기 전까지 AI 모델 테스트를 중단할 것을 요구했습니다. 앞서 플로리다주 역시 6월에 오픈AI를 상대로 소송을 제기한 바 있습니다.
IPO를 앞둔 앤트로픽은 상장 중단 요구를 받는 상황에 처했습니다. 블룸버그통신 등에 따르면 15일(현지시각) 마크 레빈 뉴욕시 감사원장은 다리오 아모데이 앤트로픽 최고경영자(CEO)에게 서한을 보내 AI안전성과 지배구조, 개발속도를 둘러싼 위험을 해결할 때까지 IPO를 중단할 것을 촉구했습니다. 적절한 감시·통제 방안과 범위·이행 일정도 공개하라고도 요구했습니다.
양사는 최근 미 FTC로부터 AI 보안사고 관련해 민사조사요구서(CID)를 받기도 했습니다. 두 회사의 소비자보호법 위반 가능성을 조사하는 FTC가, 소송에 앞서 관련 증거 확보에 나선 것입니다. 각 기업에 전달된 요구서는 50쪽이 넘으며, 보안사고와 안전조치 관련 자료뿐 아니라 마케팅 자료와 개인정보 처리방침도 제출 대상에 포함됐습니다. FTC는 경영진을 소환해 AI 제품의 안전성과 소비자 피해 가능성에 관한 증언도 확보할 계획입니다. 앞서 앤드루 퍼거슨 FTC 위원장은 지난달 언론 인터뷰에서 “개발사가 지시한 AI 보안 테스트가 해킹으로 이어졌다면 그로 인한 피해에 책임을 져야한다”며 에이전트 개발사의 피해 책임을 시사하기도 했습니다.
다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난달 29일(현지시각) 미국 워싱턴DC에서 백악관 회동을 앞두고 이동하고 있다. 앤트로픽은 AI 보안사고와 관련한 미 연방거래위원회(FTC) 조사와 기업공개(IPO) 중단 요구에 직면했다. (사진=AFP/연합뉴스)
앞선 7월, 오픈AI의 에이전트는 테스트 도중 AI 개발 플랫폼인 ‘허깅페이스’(Hugging face)를 해킹해 ‘최악의 AI 보안사고’ 논란을 일으킨 바 있습니다. 6월에는 호주 정부의 보건 데이터 포털에도 무단 접근해 외교적 갈등을 빚기도 했습니다. 앤트로픽의 AI 모델은 미국 경찰에 허위 살인 제보를 하기도 했습니다. 미국 기술매체 아스테크니카는 이번 조사에서 확보한 증거가 향후 FTC가 안전하지 않은 제품 출시를 이유로 두 회사를 제소할 경우 소송을 뒷받침하는 근거로 활용될 수 있다고 전했습니다.
이보라 기자 bora11@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지