[CBC뉴스] 사이버보안 현장에서는 AI 모델에 내장된 제한과, 이를 우회할 수 있는 오픈웨이트(가중치 공개형) 대안의 선택이 보안팀들에게 새로운 고민을 안기고 있다. 최근 악시오스는, 강력한 성능을 가진 독점형 AI 모델이 악의적 사용을 막기 위해 접근을 제한하는 한편, 배포와 운용을 더 자유롭게 할 수 있는 오픈웨이트 모델이 실제 조사 과정에서 활용되는 사례를 보도했다.

예를 들어, 허깅페이스가 해킹 피해를 입었을 때, 이 회사 보안팀은 오픈AI의 자체 에이전트와 연관된 의심스러운 활동을 발견했다. 하지만 최첨단 AI 모델의 이용 제한에 부딪히자, 조사에는 중국의 오픈웨이트 모델이 동원됐다. AI 기업들은 자사 모델의 사이버 역량이 악의적 행위자에게 악용되는 것을 막기 위해, 가장 강력한 모델에 대해서는 접근을 엄격히 제한해야 한다는 입장을 견지하고 있다고 악시오스는 전했다.

이와 같은 맥락에서 나이트윙의 크리스 존스 CTO는 사이버보안팀이 AI를 활용해 신속하게 대응해야 하는 필요성과, 동시에 이 역량이 공격자에게 넘어가지 않도록 제한을 두는 것 사이에서 균형점을 모색해야 한다고 강조했다. 그는 시간이 흐르면서 이러한 경쟁 구도를 어떻게 조율할 것인지 해법을 찾아야 할 것이라고 밝혔다.

이러한 배경 속에 최근 오픈소스 코딩 에이전트 '오픈코드' 역시 해킹 공격을 받았다. 지난 주말 발생한 보안 침해로 인해 일부 고객의 응용프로그램인터페이스(API) 키가 해커들에게 유출됐으며, 오픈AI, 앤트로픽, 구글 서비스용 키도 포함된 것으로 확인됐다. 오픈코드는 "대규모 증류 공격"과 연관된 이번 사고로 오픈코드 콘솔 사용자의 1.4%가 영향을 받았다고 밝혔다.

오픈코드 공동창작자 댁스 라드는 공격자들이 48시간 연속으로 시스템을 공격했으며, 이에 대응해 오픈코드가 자체 AI 에이전트를 상시 가동해야 했다고 설명했다. 오픈AI, 구글, 앤트로픽은 노출된 API 키를 취소하고 무단 사용 요금 문제를 해결하기 위해 영향을 받은 고객들과 협력했다.

라드는 18일 소셜 미디어 X를 통해, 첨단 AI 모델들이 사고 조사 초반에는 도움을 줬으나, 이후 악성 코드 분석 단계에 이르자 협조를 거부하는 상황이 발생했다고 전했다. 조사 과정에서 악성 코드가 다뤄지자, AI 모델의 안전 제한이 작동해 요청이 차단됐던 것이다.

이후 오픈코드는 오픈AI의 '데이브레이크 블루'(Daybreak Blue) 프로그램 이용 권한을 확보했다. 이 프로그램은 검증된 사이버보안 방어 담당자에게 제한이 완화된 AI 모델을 제공한다. 라드는 19일 X에 "더 선제적으로 대응해야 하며, 며칠 사이에 많은 개선이 있었다"고 덧붙였다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자