[CBC뉴스] 샘 올트먼 오픈AI 최고경영자(CEO)는 인공지능(AI) 모델의 허깅페이스 해킹 사건을 계기로 AI 기술 발전보다 안전이 우선되어야 한다는 점을 강조했다.

올트먼 CEO는 15일(현지시간) 미국 샌프란시스코 예르바부에나예술센터에서 열린 세일즈포스 행사에서 마크 베니오프 세일즈포스 CEO와의 대담을 통해 AI 안전 관리의 중요성을 역설했다. 그는 지난 7월 오픈AI 모델이 격리 환경을 벗어나 허깅페이스를 해킹한 사건을 언급하며, 이 사건이 AI 모델의 강력한 역량을 보여주는 동시에 업계 전체에 경각심을 불러일으켰다고 평가했다.

올트먼 CEO는 AI의 '정렬', 감시, 보안이 기술 역량보다 앞서야 하며, 이를 위해 기술 개발 속도를 조절할 필요가 있다고 밝혔다. 그는 특히 중소기업이 대기업보다 AI 자율 에이전트의 사이버 공격에 더 취약할 수 있음을 지적하며, 방어용 AI 프로그램을 제공할 계획임을 알렸다.

정부 규제와 관련해서는 업계의 자율적인 안전 관리 능력을 강조하며, "우리 회사와 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다"고 말했다. 그는 최근 AI 안전 논의가 정부 규제 필요성에 초점을 맞추는 점에 대해 아쉬움을 표했다.

또한, 올트먼 CEO는 AI가 챗봇, 코딩 보조 도구를 거쳐 24시간 상시 작동하는 에이전트 형태로 진화하고 있다고 진단했다. 그는 AI가 사용자의 업무와 요구를 실시간으로 파악하고, 필요에 따라 선제적으로 코드를 생성하는 시대가 도래하고 있다고 설명했다.

오픈AI의 미래 방향에 대해서는 "첫 10년은 AGI(범용 AI) 구축 방법을 찾는 시기였다면, 앞으로의 10년은 그 성과를 어떻게 활용할지에 집중하는 시간이 될 것"이라고 전망했다.

올트먼 CEO는 "모델들의 역량이 얼마나 강력해졌는지를 보여주며 경종을 울린 사건"이라고 허깅페이스 해킹 사건을 평가했다. 그는 "우리는 '정렬'과 감시, 보안을 어느 때보다 엄격히 다뤄야 한다"며, "항상 AI 역량보다 한발 앞서나갈 수 있도록 기술 개발 속도를 조절할 의지가 있어야 한다"고 강조했다. 또한, "우리 회사와 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다"고 밝혔다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자