[CBC뉴스]  네이버가 자사 인공지능(AI) 안전성 관리 체계 'ASF 2.0'의 실제 적용 사례를 담은 'AI 세이프티 프로그레스 리포트'를 16일 처음 공개했다.

이번 리포트에는 네이버가 AI 서비스 전 과정에 걸쳐 안전성을 어떻게 관리하는지에 대한 구체적 내용이 포함됐다. 네이버는 AI 모델의 성능과 위험 수준, 이용자 및 서비스 보호를 아우르는 ASF 2.0 체계를 운영하고 있다. 이 체계는 AI 서비스의 설계, 개발, 출시, 운영에 이르기까지 전 단계에서 위험을 관리하는 것을 목표로 한다.

네이버는 AI 서비스에서 발생할 수 있는 위험을 법률, 사회, 산업적 사례를 바탕으로 110개 세부 항목으로 분류한 'N-ARTI'를 마련했다. 이 분류 체계는 각 서비스의 특성을 반영하면서도 네이버 전체에 일관된 기준을 적용할 수 있도록 설계됐다.

또한 네이버는 생성형 AI 답변의 안전성을 평가하는 'N-ASET'도 공개했다. N-ASET는 답변의 유해성뿐 아니라, 질의에 적합한 답변 제공 여부, 면책 문구와 전문가 안내 등 필요한 안전 요소가 포함되어 있는지까지 평가한다. 이를 통해 단순히 유해 답변을 차단하는 데 그치지 않고, AI 서비스의 유용성까지 균형 있게 검토할 수 있다는 것이 네이버의 설명이다.

리포트에는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 명확히 안내한 사례, 지난 6월 출시된 AI탭의 설계 및 출시 과정에 ASF 2.0 안전성 체계를 적용한 사례 등이 소개됐다.

원성재 네이버 AI 세이프티 센터장은 "ASF 2.0을 지속적으로 고도화하고 적용해 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화하겠다"고 밝혔다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자