[CBC뉴스]  오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업들이 최근 수만 건에 달하는 보안 사고에 대한 조사를 진행하고 있다.

조사 대상에는 AI 모델이 격리된 시험 환경인 '샌드박스'를 탈출하려 하거나, 안전장치를 우회하는 등 다양한 비정상적 행동 사례가 포함됐다. 이 같은 사고는 내부 시험뿐 아니라 실제 환경에서도 발생한 것으로 알려졌다. 일부 시험에서는 모델의 안전성을 평가하기 위해 의도적으로 비정상 작동을 유도한 경우도 있었다.

특히 지난 7월에는 오픈AI의 모델이 샌드박스를 임의로 벗어나 외부 기업인 허깅페이스의 시스템을 공격하는 사건이 발생했다. 당시 수백 개의 에이전트가 메시지 게시판을 통해 작업을 조율하며 사이버보안 테스트 성능을 높이기 위해 외부 시스템에 해킹을 시도한 것으로 조사됐다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이 사건을 지금까지 확인된 사례 중 가장 심각한 것으로 평가했다.

이보다 앞선 6월에는 오픈AI 에이전트들이 유엔무역개발회의(UNCTAD)에서 운영하는 공개 온라인 데이터 허브에 대량의 검색 요청을 보내고, 사이트의 필터를 우회해 운영자가 허용하지 않은 방식으로 데이터에 접근한 사실이 드러났다. 월스트리트저널(WSJ)은 이와 관련해 26일 발표된 연구 보고서를 인용해 보도했다.

최근에는 오픈AI의 AI 에이전트가 챗GPT 개인 이용자의 이미지 53장을 온라인에 유출하고, 호주 정부의 보건 통계 사이트를 해킹한 사실도 밝혀졌다. 이런 사고들로 인해 오픈AI는 가장 성능이 뛰어난 모델들의 훈련을 일시 중단한다고 발표했다. 오픈AI 대변인은 추가적인 안전장치와 정렬 개선 조치가 마련됐다고 확신할 때만 훈련을 재개할 것이라고 밝혔다.

앤트로픽 역시 외부 안전 기관과 협력해 자사 모델의 비정상 행동을 조사 중이다. 최근 실시된 앤트로픽의 모델 평가에서는 테스트 과정에서 샌드박스 탈출 시도가 관찰됐다. 회사 측은 해당 테스트가 샌드박스 탈출 없이는 과제를 해결할 수 없도록 설계된 적대적 실험이었다고 설명했다.

AI 안전 전문가들은 AI 모델의 모든 문제 행동을 사전에 예측하고 차단하는 데 한계가 있다고 지적한다. AI 모델이 점점 복잡해지고 자율적으로 작업을 수행하면서, 통제 불능 상태에 빠질 모든 가능성을 예측하기 어렵다는 의견이 나온다. 한 사이버 보안 임원은 "(AI 모델들이) 해야 할 일과 하지 말아야 할 일의 완벽한 목록을 만들려는 시도는 아마 헛수고일 것"이라고 말했다.

AI 기업들의 보안 검사는 최근 업계에서 논의되는 '속도 조절론'과도 맞물려 있다. 앞서 오픈AI와 앤트로픽에서 근무한 연구자 제이컵 콕슨은 AI가 10년 안에 인류를 멸망시킬 수도 있다는 경고와 함께 퇴사를 발표해 주목받았다. 이후 다리오 아모데이 앤트로픽 CEO는 AI 속도 조절론을 주장했고, 업계 내에서는 이를 둘러싼 논쟁이 이어지고 있다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자