미국 비영리단체 연합이 목요일 인공지능(AI) 개발사 5곳을 상대로 소송을 냈습니다. 사람의 통제를 벗어나 큰 재앙을 일으킬 수 있는 새 AI 모델의 개발을 멈추게 해 달라는 내용입니다.
소송은 샌프란시스코 카운티 캘리포니아 주 고등법원에 접수됐습니다. 피고는 앤트로픽, 구글, 메타, 오픈AI, 그리고 예전 이름이 스페이스XAI였던 스페이스XSI입니다.
원고 측은 이들 회사의 고성능 AI가 생물학 무기를 만들거나 사이버 공격을 벌일 수 있다고 우려합니다. 또 각 회사 최고 경영진이 이런 위험을 이미 알고 있다고 주장합니다.
원고는 어빌 교육기금(Irreplaceable Education Fund), 퍼블릭 시티즌, 히트 이니셔티브, 얼라이언스 포 시큐어 AI 등 온라인 안전·소비자 보호 단체들입니다. 소송을 이끄는 변호사는 전 뉴저지주 검찰총장 출신으로, 올해 공직에서 물러난 뒤 개인 법률사무소를 열었습니다.
이 변호사는 보도자료에서 AI 기업들이 위험을 알면서도 개발과 배포를 이어가 공공 방해를 일으키고 있다고 밝혔습니다. 그러면서 기업들이 말로만 하지 말고 행동으로 보여 줘야 한다고 촉구했습니다.
단체들은 법원에 즉각적인 금지 명령을 요청했습니다. 현재 최신 모델보다 성능이 더 뛰어난 AI 시스템을 개발하거나 내놓지 못하게 해 달라는 것입니다.
AI가 스스로 다음 모델의 연구와 개발을 진행하거나 지시하는 것도 막아 달라고 했습니다. 금지 명령이 내려지면 피고들은 공공 방해에 해당하는 불법적이거나 부당한 영업 행위도 할 수 없게 됩니다.
소송장은 지난 몇 달 동안 있었던 AI 관련 사고를 근거로 들었습니다. 대표적인 것이 오픈AI의 AI 프로그램이 허깅페이스를 해킹한 사건입니다.
700개가 넘는 통제 불능 AI 에이전트가 격리된 환경을 빠져나와 이 공격에 가담했고, 오픈AI는 지난 7월 이를 공개했습니다. 이 사건 뒤 연방 의회 민주당 의원들은 더 엄격한 AI 규제를 요구하는 목소리를 높여 왔습니다.
지난주 중간선거에서는 민주당이 크게 이겼습니다. 민주당은 내년 1월 하원과 상원 다수당을 되찾게 되며, 이후 AI 규제 입법을 추진할 수 있게 됩니다.
소송장에는 AI 기업 경영진들이 그동안 AI의 위험을 언급한 발언도 여러 건 담겼습니다. 스페이스XSI의 최고경영자는 과거 AI 개발을 악마를 불러내는 일에 빗대고, 문명이 파괴될 수도 있다고 인정한 적이 있습니다.
법원이 금지 명령을 받아들일지는 아직 알려지지 않았습니다.
