[CBC뉴스] “인공지능이 인류의 종말을 가져올 가장 최악의 기술이 될 수 있다” 세계적인 석학 스티븐 호킹이 남긴 경고다. 여기에 테슬라의 일론 머스크, 마이크로소프트의 빌 게이츠 등 빅테크 기업의 수장들까지 한 목소리를 내고 있다. 이들의 경고대로 AI는 인류의 종말을 가져올 재앙이 될 것인가?  

‘AI 혁명-다음이 온다’ 2부 ‘인간과 AI, 공존의 조건’에서는 서울여자대학교 김명주 교수가   이미 현실로 다가오고 있는 AI시대에 인간과 인공지능이 평화롭게 공존하기 위한 조건은 무엇인지 제안한다. 

■ AI 기술의 빛과 어둠 사이, 선택의 기로에 선 인류 

인공지능을 기반으로 한 딥페이크 기술로 새 얼굴을 얻은 가상 인간 루이는 버추얼 유튜버로 활동하며 가수의 꿈을 이룰 수 있었다. 최근 루이처럼 SNS를 누비며 인기와 수익을 창출하는 가상 인간 인플루언서가 늘어나고 있다. 2025년이면 이들 가상 인간 인플루언서 시장 규모는 14조 원대까지 성장해 인간 인플루언서를 앞지를 전망이다. 

하지만 기대가 높은 만큼 위험도 크다. 할리우드 유명 스타들의 얼굴을 합성해 만든 가짜 음란물 유포로 시작된 딥페이크 범죄가 대표적인 예다. “누구라도 이러한 디지털 성범죄의 피해자가 될 수 있다”던 피해자 스칼렛 요한슨의 경고는 그새 현실이 되고 말았다. 

세상을 바꿀 혁신 기술인가, 잔혹한 범죄의 도구인가. AI 기술의 빛과 어둠 사이, 인류는 어떤 선택을 하게 될까? 

"어떤 브레이크 장치 없이 계속해서 기술이 발전한다면, 우리에게 다가올 미래는 과연 인류에게 축복일까요, 아니면 재앙일까요."

■ 인공지능, 무조건 믿어도 될까? 

인공지능 기반의 신입사원 채용 프로그램을 발 빠르게 도입한 아마존. 하지만 도입하자마자 지원자들 사이에 ’AI가 여성을 차별한다‘는 의혹이 제기됐다. 조사 결과 의혹은 사실로 드러났다. 인공지능은 ’편견 없이 공정할 것‘이라는 인간의 믿음이 배신당한 것이다. 이미 우리의 일상생활 곳곳에 파고든 AI 기술, 과연 의심 없이 믿어도 되는 걸까? 구체적인 사례들을 통해 짚어본다.  

■ 인공지능은 실수하지 않는 완전무결한 존재일까? 

2016년, 자율주행차 최초의 사망 사건이 발생했다. 당시, 테슬라가 개발한 자율주행차량에 탑재된 AI가 앞을 가로막은 대형 트레일러의 하얀색 컨테이너를 하늘로 착각해 일어난 사고, 믿었던 인공지능이 실수한 것이다. 하지만 법원의 판단은 달랐다. 인공지능이나 자율주행차를 제작한 테슬라가 아니라, 사망한 운전자에게 책임이 있다는 것! 법원은 왜 이런 판단을 내렸을까. 인간이 가진 기존의 상식과 윤리를 뒤엎는 AI 시대, 다가올 미래에 대비해 우리는 무엇을 준비해야 할까?
 
"기회는 남아 있습니다. ‘인공지능’이란 화살이 떠난 지 얼마 되지 않았기 때문입니다. 인공지능이 몰고 올 미래를 대비하기 위해, 인류 전체가 방어적 준비를 해야만 합니다." 

■ AI 시대 방어적 준비, ‘인공지능 윤리’에 답이 있다! 

시간이 갈수록 인공지능은 인간과 비슷해지고 인간보다 똑똑해질 것이다. 더 이상 인공지능의 결정에 인간이 개입할 수 없는 초인공지능 시대가 오기 전에, 방어적 준비에 나서야 한다. 다가올 미래에 인간과 AI는 어떻게 공존할 수 있을지 그 지혜와 방법을 모색해야 할 때다.  

김명주 교수는 그 첫 단추로 ‘인공지능 윤리’를 제안한다. 이는 인공지능이 아닌 우리 인간이 지켜야 할 윤리이다. 인간과 AI가 공존하기 위해서는 인공지능을 만들고 활용하는 우리 인간부터 신뢰할 수 있는 존재가 되어야 한다. 결국, 인간을 흔드는 것은 인간 자신이기 때문이다.

인공지능은 절대 가질 수 없는 그것. 인간의 양심과 윤리에 공존의 길이 있다. 3부작 ‘AI 혁명-다음이 온다’ 제2부 ‘인간과 AI, 공존의 조건'은 18일 일요일 저녁 7시 10분 KBS 1TV에서 방송된다.

▶한번에 끝 - 단박제보
▶비디오 글로 만드는 '비글톡'

CBC뉴스ㅣCBCNEWS 박은철 기자 press@cbci.co.kr