[CBC뉴스]  인공지능(AI) 기술의 확산과 함께 AI가 야기한 사고에 대한 법적 책임 문제가 부각되고 있다. AI 개발 기업에 책임을 묻자는 목소리가 커지는 가운데, 기존 법률로 이를 적용하는 데에는 복잡한 쟁점이 많다는 법조계의 의견이 나오고 있다.

최근 오픈AI와 앤트로픽 등 주요 AI 기업의 모델이 개발자도 인지하지 못한 채 기업 해킹이나 정부 웹사이트 공격에 악용된 사례가 공개됐다. 이에 따라 젠슨 황 엔비디아 CEO, 데이비드 색스 미국 대통령과학기술자문위원회(PCAST) 공동위원장, 리나 칸 전 연방거래위원회(FTC) 위원장 등은 AI 기업의 책임을 강조하는 입장을 밝혔다. 칸 전 FTC 위원장은 X를 통해 법 집행 기관이 이미 위험하거나 결함 있는 제품을 출시한 기업과 CEO에게 책임을 물을 권한이 있다고 언급하며, AI에 대한 예외 조항은 없다고 지적했다.

법률 전문가들은 AI로 인한 사고가 새롭게 제기된 사안이기 때문에, 법원이 실제로 이를 다룬 판례가 거의 없다는 점을 지적한다. 명백하게 AI 기업이 위험을 알고도 무시한 경우 책임이 인정될 수 있지만, 인간의 의도나 인지 여부 등 복잡한 요소가 얽힌 사건에서는 법 적용이 쉽지 않다는 설명이다. 특히 AI가 처음으로 유해한 행동을 보인 경우, 가해 의도나 책임을 입증하는 것이 어렵다는 의견도 있다.

이와 관련해 최근 며칠 사이 새로운 법적 사건들이 잇따라 제기됐다. 플로리다주 법무장관은 오픈AI에 대해 외부 기관이 승인한 안전장치 없이 새로운 AI 모델 개발을 일시적으로 중단해 달라는 요청을 법원에 제출했다. 비영리단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 허깅페이스 해킹 사건과 관련해 캘리포니아주 불공정경쟁법 등을 근거로 오픈AI를 제소했다. 또한, 연방거래위원회(FTC)는 오픈AI와 앤트로픽 등 AI 기업을 대상으로 소비자 피해 가능성에 대한 조사를 진행 중임을 밝혔다. 캘리포니아주 법무장관도 오픈AI에 사이버보안 관련 소환장을 발부했다.

기술법 전문가 우드로 하르초그 보스턴대 교수는 AI의 안전장치가 부족한 현실에서 법적 책임을 묻는 요구가 계속될 것으로 내다봤다. 그는 "최악의 경우에는 개별 사건의 사실관계에 따라 형사상·민사상 양쪽에서 막대한 책임을 지게 될 수도 있다"며, 아직 기업을 무너뜨릴 정도의 사건은 없지만 충분히 상상 가능한 일이라고 말했다.

AI 챗봇이 청소년에게 자해를 권유했다는 소송 등에서 기술기업들은 AI 출력물이 수정헌법 제1조의 보호를 받는 발언에 해당한다는 주장과, 통신품위법(CDA) 제230조에 따른 면책을 근거로 항변하고 있다. 하지만 완전한 에이전트형 AI나 오픈소스 AI 모델과 관련된 사건에서는 책임 소재가 더욱 불분명해질 수 있다는 지적도 제기된다.

라이언 칼로 워싱턴대 법학전문대학원 교수는 AI 모델이 처음 유해한 행동을 할 경우, 가해 의도나 책임을 입증하기 어려워 "가해자는 없는데 피해자는 존재하는 상황이 가능해진다"고 설명했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자