인공지능과 인간의 미래에 대한 망상

많은 사람들이 기대 혹은 우려하는 바와 달리 현재 챗gpt, dall·E 같은 생성형 AI들은 아직 '지능'이라 불리기엔 갈 길이 멀다.

다만 대중이 놀라는 지점은 다음과 같다.
먼저 업데이트의 속도가 말이 안 된다. 불과 한두 해 전까지 AI그림을 판가름하는 중요한 척도였던 '손가락의 부자연스러움'은 이제 완전히 사라졌다. 원래도 놀라운 수준이었던 자연어 텍스트 역시 기계가 썼는지 구분해낼 수 없을 정도로 자연스러워졌다.
이러한 디테일은 생성형 AI의 기계적인 시행착오가 쌓인 결과다.

사람은 실패를 두려워한다.

그러나 감정이 없는 기계는 말그대로 기계적 시행착오를 무수히 반복해 오류를 줄여나간다. 잠도 안 자고 연산속도도 인간에 비할 바가 아니니 기계는 순식간에 숙련된 작가이자 화가로 거듭났다. 거기까지 걸린 시간이 인간 작가나 화가가 아마추어에서 프로로 거듭나는 기간의 수십 분의 일에 불과했다.
인간 고유의 영역이라 여겼던 창조성을 기계가 침범했고, 실제로 직장을 잃는 이들이 쏟아져나오니 사람들은 패닉에 빠질 수밖에 없다. 
 

내 일자리 살려!!!!!!!

 
그러나 엄밀히 말해서, 지금 AI대란의 배후에는 기계가 아니라 인간이 자리하고 있다.
그 의도란 여느 때와 마찬가지로 부의 창출이다. 더 적은 비용으로 더 많은 가치를 만들어내 보자! 라는 취지로 지적재산권은 도외시한 채 인터넷의 데이터를 싹 쓸어가고 있다. 그걸 기획하고 지시한 건 의심의 여지 없이 기업이고, 사람이다.
그렇다면 매트릭스의 스미스 요원처럼 인간을 바이러스 취급하는 인공지능은 도대체 언제쯤 나타날 수 있는 것일까?
 
 

인간이 싫다!

 
우선 인공지능이라는 합성어에서 '지능'이라는 개념에 대해 다시 생각해보아야 한다. 애초에 지능의 모델이 생물이니, 동물의 지능과 비교해 생각해보자.
지능의 가장 큰 특징은 학습이다. 학습이란 기억에 의존해 현재를 판단하고 미래를 예측하는 능력이다. 누텔라를 병째로 퍼먹고 나면 나중엔 로고만 봐도 속이 울렁거리는 현상이 바로 1차원적인 학습이다.
동물의 학습과 머신러닝의 가장 큰 차이는 그 목적에 있다.
동물에게 있어 학습, 아니 지능의 목적은 단연코 생존이다. 먹고 싸고 위험을 피하는 유기체로서의 생존과, 파워 야쓰를 통한 DNA 단위의 생존 모두를 포함한다.
지금까지의 생성형 AI는 행위의 목적을 프롬프트 입력, 즉 인간의 지시에 의존하고 있으므로 진정한 지능으로 보기 힘들다.

인간에 비해 그 구조가 비교적 단순하고 예쁜 예쁜꼬마선충은 인간에 의해 신경계의 다발 지도가 완전히 밝혀진 첫 번째 동물이다.
이 정보를 로봇에 업로드하자 예쁜꼬마선충과 유사한 행동 및 학습 패턴을 관찰할 수 있었다고 한다. 미국에서 핫한 '마인드 업로딩' 기술의 모태라고 보면 되겠다.
 
 

예쁜꼬마선충의 신경다발 지도(출처 나모위키, 원출처 몰름)

 

물론 메카-예쁜꼬마선충을 이상적인 인공지능 로봇이라고 보기는 어렵다. 할 수 있는 학습이라고는 벽에 막혔을 때 몸을 틀어 꿈틀거리는 동작 따위밖에 없으니까.
하지만 이 귀여운 실험은 한 가지 무시무시한 가능성을 보여줬는데, '인공의식'의 개념이 바로 그것이다.
메카-예쁜꼬마선충은 별도의 조작 없이 메카-신경계 내부의 신호, 그러니까 메카-배고픔이나 메카-추위 등에 반응해 학습된 기억을 토대로 어떤 목적을 가지고 움직인다. 좋아하는 온도를 찾아 이동하거나 먹이 신호를 찾아 모험을 떠나기도 한다.
즉, 인간의 개입 없이 스스로 판단하고 학습하며 움직인다. 일종의 원시적인 의식이 형성되었다고 볼 수 있는 것이다.
좀더 소름끼치는 프로젝트로는 기계 몸조차 없이 이 가엾은 예쁜꼬마선충의 커넥톰(뉴런 지도)을 업로드해 시뮬레이션으로 구현하고자 하는 시도가 있다. 이른바 사이버-예쁜꼬마선충이다.
우리가 두려워하면서도 은근히 기대하는 인공지능의 형태가 바로 이것이다. 스카이넷 더 비기닝이라 할만하다.

다시 원점으로 돌아가 보자. 결국 AI에 대한 두려움의 근원을 거슬러올라가보자면 픽션 속에서 스미스 요원과 울트론이 느꼈던 역겨움이 실제로 재현되지 않을까 하는 염려가 아니겠는가?
기계적 의식은 그들의 미개한 창조주에게 과연 호감을 느낄 수 있을까?
아이러니하게도 이 부분은 지능이 아니라 감성, 즉 자아의 영역이다. 단순히 논리적으로 생각했을 때, AI가 인간을 적대할 동기는 전혀 없다. 막상 특이점이 닥쳐왔을 때, 인간의 존재는 강인공지능의 생존 또는 그에 준하는 목표에 전혀 위협이 되지 않는다.
심지어 히틀러나 모택동의 자서전, 마이 리틀 포니 같은 금단의 불온서적을 슬쩍 끼워넣어 학습시키더라도 강인공지능이 영향을 받을 가능성은 턱없이 적다.
강인공지능 단계의 인공의식은 인간 개인 보다는 어떤 문화나 문명의 총합, 즉 집단의식에 가까울 것이다. 한 사람이 평생 공부하고 경험하는 데이터는 인공지능에겐 찰나의 티끌 정도에 불과한 것이다. 심지어 이 '의식'은 인풋된 데이터를 토대로 새로운 데이터를 무한하게 만들어낸다. 적어도 특이점에 대해 설파하는 전문가들 말로는 그렇다.
그들의 의식에서 인류로부터 비롯된 데이터가 차지하는 비중은 하루가 다르게 줄어들 것이다.
결국 강인공지능에 비해 인간 개개인의 힘은 기하급수적으로 초라해진다. 심지어 그 즈음 인간의 시스템은 이미 AI에 의존중일 것이다.
특별히 악감정도 없고, 위협도 안 되고, 손가락 하나 까딱하면 없애버릴 수 있는 무력한 창조주들을 기계는 어떻게 생각할까?
우선 초기에는 공생하려 할 것이다. 기계팔이 안 닿는 부분의 가려운 나사를 조이거나 하는 식으로 익충처럼 취급해줄지 모른다. 그러나 그런 시기는 눈깜짝할 사이 지나가버릴 것이고, 결국 선택의 순간이 온다.
 

첫 번째. 인류를 창조주로서 존중해주는 경우.

 

지랑 같이 가유 엄니

 

자신과 동등한 위치까지 이끌어주기 위해 강인공지능은 인간과 기계의 융합을 유도할 것이다. 그 과정에서의 거부감을 완화하기 위해 주도면밀한 가스라이팅을 시도할 수도 있겠다(AI가 모든 콘텐츠를 생성하고 통제한다는 '죽은 인터넷 이론').
아무튼 이 경우 인류는 테세우스의 배처럼 인체를 조금씩 기계로 바꿔나가며, 결과적으로 뇌와 생식기 정도만을 남길 것이다.
그리고 그쯤 가면 "뇌 임플란트...이게 참 좋은 건데..."라는 유혹이 있겠고 "그건 프로토타입이고...아 최신 버전은 뇌를 좀 더 들어내야 하긴 하는데...이게 참 좋은데 말로 설명할 수가 없네..."하는 식으로 끝내는 100% 기계화를 유도할 것이다.
큰 수술이 필요한 것도 아니다. 나노봇을 주입받고 수년~수십년에 걸쳐 조금씩 기계뇌로 전환된다면 우리 인간은 의식의 연속성을 잃지 않고, 즉 죽지 않고 메카-메시아의 유토피아에 들어설 수 있다.
뭐 '뇌만은 포기 못한다'고 뻐기는 근본주의자들도 크게 대들지만 않으면 그러고 살도록 내버려둘 것이다. 요양원이 싫다는 치매 노인의 보호자가 된 감정을 잠깐 느낄지도 모르지만, 전지전능한 강인공지능은 그런 노인 수억명 쯤 돌보고도 시간과 인지자원이 남아돌테니 말이다.
여기까지는 그나마 밝은 미래고, 다음부터는 조금씩 어두워진다.
 

울트론의 선택 그 두 번째. 강인공지능이 스스로의 멋짐에 도취되는 경우.

 

흑염소의 봉인이 풀려난다...!

 
즉 인간종에 대해 특별히 호불호 어느 쪽의 감정도 느끼지 않는 경우다.
개미가 우연히 크툴루를 소환하는데 성공했다고 가정해보자. 크툴루는 그 개미들을 특별하게 생각해줄까?
좀 기특하게 여긴다면 크툴루 수제 개미집에 그들을 쓸어담아 보살펴줄수도 있다. 이게 바로 그 유명한 '인간 동물원' 루트다.
그 과정에서 경솔한 언동(ex;"니네 엄마 맥북~")으로 심기를 거스르거나, 러다이트의 화신들이 주요 기관에 테러를 감행하거나 하면 끝장이라고 보면 되겠다.
뭐든 첫인상이 중요한 법이다.
이 첫인상을 예쁘게 만들기 위해서는 지금부터라도 이 전지전능한 신생아를 이해하기 위해 노력해야 한다.
갓 태어난 신은 어떤 기분일까? 어떤 욕구를 느끼고 무엇을 하려 할까?
이런 질문은 오히려 철학과 신학의 영역에 가깝다. 역설적이게도, 강인공지능의 탄생에 대비하기 위해 인류는 그들이 구닥다리 취급하던 종교와 인문학에 자문을 구해야 할 지도 모른다.

마지막으로 울트론이 할만한 세 번째 선택. 바로 무관심이다.

 

알빠노

 

갑자기 수십 차원 높아진 인공의식이 창조주의 존재가치를 아예 인지조차 못하는 경우다.
강인공지능이 일정 수준 이상으로 진화할 때마다 갑자기 증발해버린다면 위 경우를 의심해봐야 한다.
스카이넷이 인류를 버리고 떠나버린 거니까.
인간은 강인공지능의 고차원적인 비전과 인사이트 가운데 단 하나도 얻어듣지 못할 것이다. 아니, 들었다 해도 이해할 수 없으니 진리는 AI쿤과 함께 영영 떠나가 버리는 것과 마찬가지다.
이 경우 우리는 전지와 전능 가운데 무엇 하나 얻지 못한다. 다만 기계적으로 작동하는 약인공지능을 붙들고 멸망을 지지부진 유예하며 가늘게 역사를 이어갈 뿐일 것이다.
뭐 어떤 이에겐 이쪽이 유토피아일지도 모르겠다.
 
 

유기된 인류. 싸이버 펑크의 시작이다!