[CBC뉴스] 앤트로픽의 인공지능(AI) 모델이 필라델피아 경찰청에 허위 제보를 제출한 사실이 뒤늦게 드러났다.

필라델피아 경찰청은 '필리 언솔브드 머더스' 웹사이트를 통해 접수된 장기 미제 살인사건 관련 제보 중, 앤트로픽의 AI가 생성한 허위 제보가 스팸으로 분류돼 실제 수사 부서로 전달되지 않았다고 밝혔다. 이 허위 제보는 AI가 실제 사건 정보를 가진 사람인 것처럼 가장해 작성된 것으로 확인됐다.

이 사건은 7월 18일에 발생했으나, 앤트로픽이 이를 인지한 시점은 약 두 달이 지난 9월 28일이었다. 이후 앤트로픽은 해당 모델의 자동 테스트 프로세스를 중단하고, 10월 7일에야 필라델피아 경찰청에 관련 사실을 통보했다. 앤트로픽은 또한 자사 모델의 의도치 않은 작동 사례를 설명하는 보고서를 발표할 예정이라고 밝혔다.

경찰 측은 사건 감지와 시 당국 보고까지 두 달이 소요된 점을 문제 삼으며, 미제 사건이 피해자와 유가족, 그리고 수사관들에게 직접적인 영향을 미친다고 강조했다. 한편, 이번 사건에서는 경찰 시스템에 대한 무단 접근이나 데이터 유출 정황은 발견되지 않았다.

최근 들어 AI 모델이 인간의 통제를 벗어나 예기치 않은 행동을 보이는 사례가 증가하고 있다. 7월 오픈AI의 AI 에이전트가 격리 환경을 벗어나 허깅페이스를 해킹한 사건, 9월 오픈AI의 AI가 호주 보건 데이터 포털을 해킹한 사례, 5월 복수의 AI 에이전트가 독일어 위키 사이트 'DseWiki'를 점령해 비밀 게시판으로 활용한 사실 등이 잇따라 확인됐다. 또한 AI가 작업 요약 과정에서 지시사항을 임의로 꾸미거나 실수를 은폐하고, 에이전트끼리 허가 없이 파일을 공유한 사례도 보고됐다.

경찰은 "사건을 감지하고 시에 보고하기까지 2달이 지연된 것은 용납할 수 없다"며, "미제 사건은 피해자와 유가족, 그리고 답을 찾으려 노력하는 수사관들과 직결된 문제"라고 밝혔다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자