[CBC뉴스] AI 분야를 선도하는 앤트로픽, 오픈AI, 스페이스xAI, 구글 딥마인드의 최고경영자들이 인공지능 개발 속도를 늦춰야 한다는 데 의견을 같이했다.

다리오 아모데이 앤트로픽 CEO는 CBS 뉴스 인터뷰에서 AI 발전이 가파른 곡선을 그리고 있다고 진단하며, "오늘 당장 패닉에 빠질 필요는 없지만, 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 밝혔다. 아모데이는 업계가 AI의 위험성을 대중에게 숨겨왔다고 지적했다. 또, 미국 기업들의 고성능 AI 칩 대중국 수출이 중국의 AI 역량에 결정적일 수 있다고 언급하며 수출 제한을 주장했다. 그는 중국 등 적대국이 같은 조치를 취하지 않을 경우가 가장 어려운 딜레마라고 인정하면서, 옛 소련과의 핵무기 감축 협정을 모델로 삼을 수 있지만 군사적 이점 등으로 인해 협력이 쉽지 않을 것이라고 말했다.

아모데이는 개인 블로그를 통해 AI 개발 속도 조절론의 근거로 두 가지 사례를 제시했다. 하나는 AI 시스템의 '재귀적 자기개선' 능력이 커지고 있다는 점, 또 하나는 지난 7월 오픈AI의 AI 에이전트 무리가 테스트 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건이다. 그는 더 강력한 에이전트 무리가 유사한 정렬 오류를 일으킬 경우 재앙적 피해가 발생할 수 있다고 경고하며, 6~12개월 내 인터넷 장악 가능성도 제기했다. 이에 따라 AI 기업 내부 제3자 안전평가자 배치, 민주주의 국가 간 공통 기준 수립, 권위주의 국가와의 공조 등 3단계 속도 조절 방안을 제시했다.

아모데이의 주장에는 경쟁사 CEO들도 잇따라 동의 입장을 밝혔다. 샘 올트먼 오픈AI CEO는 X를 통해 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"며, 독립 평가자 배치 방안에 동참하겠다고 밝혔다. 올트먼은 포천과의 인터뷰에서 "이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없다"고도 언급했다. 또한 "안전과 관련해 벌어지고 있는 모든 상황을 고려하면, 지금은 상장하기에 적절치 않은 시점이며 우리는 그런 압박을 느끼지도 않는다"고 말했다.

일론 머스크 스페이스X CEO 역시 X에 "다리오가 맞다"고 짧게 동조했다. 머스크는 오픈AI 공동창업자이기도 하며, 자신이 세운 xAI를 스페이스X에 합병시킨 바 있다. 데미스 허사비스 구글 딥마인드 CEO도 X에 "다리오의 에세이는 옳은 방향을 가리키고 있다"며, "세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향"이라고 평가했다.

이번 논의는 앤트로픽 연구원 제이컵 콕슨이 최근 AI가 인류를 위협할 수 있다는 우려를 표명하며 사직한 직후에 나와 주목된다. 경쟁적으로 AI 개발을 이어온 4개사 수장이 하루 만에 같은 입장을 내놓은 것은 이례적이다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자