우리가 걱정하거나 감시할 것은 기계 자체가 아니다
커즈와일에서부터 빌 게이츠, 머스크, 호킹까지
가세하는 파국적 예언들을 주시해야 한다
과학에서 결정적 시나리오는 존재하지 않기 때문이다
인류를 가장 위협하는 것은 생태학적 재앙이나 핵폭탄이 아니라 인공지능인가? 앞으로 인류가 대단한 지능을 갖춘 로봇과 함께 생활한다거나, 로봇에 의해 위협을 받을 수 있다는 생각은 항상 공상과학 소설가들을 매료시켰고, 이를 주제로 한 캐머런 감독의 <터미네이터>, 스필버그의 , 갈런드 감독의 <엑스 마키나>와 같은 영화는 성공을 거두었다. 하지만 몇 년 전부터 이 분야는 공상의 단계를 넘어 세계적으로 유명한 과학자와 엔지니어의 관심을 끌게 되었다. 천체 물리학자 스티븐 호킹과 페이팔과 스페이스 X의 공동 창업자이자 억만장자인 일론 머스크는 동료들과 함께 인공지능의 위협에 대한 걱정을 토로했다. 구글 프로젝트의 책임자인 레이 커즈와일 또한 이 문제를 불가피한 것으로 받아들였다. 즉 급격한 기술의 발전은 우리가 알고 있는 인간 프로그래밍의 종말을 의미하는 것이고, 이는 더 이상 지난 수십 년 동안의 문제와 같지 않다는 것이다.
장가브리엘 가나시아의 책은 ‘종말 상인’들의 이야기, 특히 ‘특이점’ 예언자의 이야기에 내포된 단점, 즉 스스로 강화할 수 있고 인류 종말의 첫 단추가 될 인공지능의 출현이 설정하게 될 단절의 순간이라는 개념의 단점을 제시하려 하고 있다. 그는 ‘테크노 예언자들’이 누리고 있는 커다란 지적 권위를 걱정한다. 이는 기껏해야 하나의 예언 혹은 ‘광대한 우주적 이야기’가 과학적 예언으로 인정되는 것에 불과하기 때문이다.
따라서 저자는 경험론적인 측면에서와 마찬가지로 인식론적인 측면에서 그들이 주장하는 논거의 한계를 보여주려 하며 개념들 사이에 퍼지고 있는 혼동을 규탄한다. 이런 새로운 예언가들은 모두 인공지능이 기술적 의미에서의 자율성(기계가 스스로 결정을 할 수 있는 능력)을 갖추고 현재 발전하고 있는 ‘약한’ 인공지능에서 의식과 철학적 의미에서의 자율성(기계가 스스로 ‘자신의 행동에 규칙과 목적성을 부여할 수 있는 능력)을 갖춘 ‘강한’ 인공지능으로 변화되어갈 것이라고 예언한다. 그럼에도 이런 질적 도약에 관한 예언은 현재 상황에서 어떤 증거도 없다는 것 또한 분명한 사실이다.
저자가 제시하는 중요한 관건은 정치에 있다. 왜냐하면 이 문제에 관해서는 점점 힘을 잃어가는 국가들을 주도해나가는 것처럼 보이는 것은 거대 디지털 기업, 즉 GAFA(구글, 아마존, 페이스북, 애플)와 그 외의 몇몇 대기업이라는 것을 인정할 수밖에 없기 때문이다. 가나시아는 결론에서 이런 다국적 기업들이 목표하는 인류의 미래상을 비판한다. 인공지능의 위험성을 알린다는 명목으로 스스로에게 박애주의적 기업의 이미지를 부여하지만, 이런 전략은 절대적인 경제적 필요에 부응하는 것이기 때문이다. 다국적 기업들은 보안, 생체 인증 그리고 의료 분야에서 조금씩 국가의 기능을 잠식해가고 있다. 그들은 이런 분야에서 국가보다 저렴한 비용으로 좀더 확실한 서비스를 제공한다고 주장한다. 그들은 자신들만이 변화를 억제할 수 있는 새로운 사회를 만들어가는 중이다. 따라서 걱정하거나 감시해야 할 대상은 기계 자체가 아니라 기계의 합목적성과 게임의 규칙을 결정하는 대기업들이다. 우리는 인간을 신뢰할 수 있다. 왜냐하면 인간은 스스로 두려움을 느끼는 존재이기 때문이다.
