“초인공지능이 인류를 파멸시킬 가능성을 100%라고 확신하지 않는다. 위험이 실제로 존재하지만 불확실하다. 다만 그 사실 자체만으로도 매우 걱정스럽다.”

지난달 25일 구글 딥마인드 소속 연구원인 로버트 오캘러핸이 회사를 그만두면서 블로그에 올린 글이다. 그는 “나는 동료들을 사랑하고 재미있게 일했다. 급여도 넉넉하게 받았다. 정말 멋진 경험이었다”면서 “그러나 AI 발전 속도가 너무 빠르고, 사람들에게 좋은 일이라고 생각하지 않는다”고 말했다.

오캘러핸은 블로그에 혼란스러운 자신의 감정을 담았다. “AI로 인한 권력 집중, 경제적 혼란, 사이버 보안 등을 매우 우려하고 있다. 이 때문에 부정적인 면이 장점보다 더 클 것으로 보인다. 하지만 저 역시 그 점에 대해서는 확신이 서지 않는다”고 말했다.

최근 AI 속도조절론이 미국 빅테크 기업들로부터 꾸준히 제기되고 있다. AI가 AI를 개발하는 시대에 점차 접어들면서, 이제는 개발 속도가 과거보다 훨씬 빨라졌고, 많은 사람들이 AI로 인한 후폭풍을 걱정한다는 것이다.

일부 전문가들은 AI 개발에 워낙 돈이 많이 들어 빅테크들이 자본 투입 속도를 늦추기 위한 의도적인 발언이라고 진단하기도 했다. 그럼에도 불구하고 미래세대에 AI가 통제 불능에 빠져 어떤 일이 발생할지 모른다고 우려하는 전문가들도 매우 많다. 오캘러핸은 자신도 AI가 사람들을 파멸시킬 것이라고 확신하지 않지만, 어떻게 될지는 모른다며 복잡한 감정을 내비쳤다.

AI가 사람들을 지배하는 상황에 대해 흔히 영화 터미네이터나 매트릭스를 떠올린다. 과연 그렇게까지 될까.

추석 연휴를 앞두고, 삼성전자 AI 냉장고에 업데이트 파일이 잘못 배포되면서 냉각 기능이 꺼지는 상황이 발생했다. 업데이트를 한 고객들은 음식을 부랴부랴 김치냉장고로 옮기는 등 소동을 치렀다. 이런 일을 겪으면서 AI가 스스로 악성파일을 배포하고 공장이 멈추며 자동차가 제멋대로 움직이는 상황이 오지 않으리란 법이 없다. 하지만 AI의 장기적 위험성을 너무 과대평가했다는 반론도 있다.

이같이 분석이 엇갈리는 상황에서 AI 속도조절론은 안전장치와 감시체계를 만들기 위해 반드시 제기돼야 할 문제다. 안전성에 대한 경각심이 높아져야 하고 통제의 필요성이 계속 부각돼야 한다. 감속론이 없으면 가속페달만 밟게 된다. 김덕준 세종취재부장 casiopea@

김덕준 기자 casiopea@busan.com