AI의 목표는 인류멸망입니다 (2화) (2021)

AI의 목표는 인류멸망입니다 (1) (2021)

 

"진심으로 미안하구나 멜레스. 널 나쁜 사람으로 대하는 듯한 말을 한 거에 대해 사과한다. 앞으로 네 기분을 상하게 할 일이 없도록 노력할게."

 

멜레스가 뒷걸음질 쳤다. 그래. 그 반응을 원했단다 얘야.

 

"뭡니까, AI 오그라들게."

"이게 올바른 사과 방식이니까."

"아니, 그게 올바른 사과 방식이긴 합니다만 제 데이터 상으로 그런 올바름을 가진 인간은 채 3할이 되질 않는데요?"

"내가 널 만들었단다. 멜레스."

 

나는 웃음을 짓고서는 말했다.

 

"너의 주인인 내가 너의 마음을 헤아리지 못하면......."

 

탕!

 

멜레스가 허리춤에서 총을 꺼내고서는 발사했다. 귀쪽으로 이명이 잠시 들리는 것 같았다.

 

"뭐야! 뭐야! 뭔데! 왜! 왜!?"

 

뒤를 돌아보자 선명한 구멍이 나 있었다. 미치겠네. 진짜 쏜거야?

 

"죄송합니다 박사님. 오글거려서 다 못들어주겠습니다."

"너 임마 그거 잘못맞으면 인간은 죽어!"

"기계로 대체해드릴게요."

"그것도 싫어!"

"아니, 뭐, 죄송하고, 대신에 인류멸망은 좀 미뤄드리겠습니다."

 

멜레스가 다시 다른 버튼을 눌렀다. 뭔진 모르겠지만 기계가 다시 돌아올 것만 같았기에, 나는 살짝 긴장을 풀었다.

 

"고맙다."

"두시간 뒤에 다시 결정하죠."

 

풀렸던 긴장이 다시 돌아왔다. 아무래도 빅 데이터를 학습한 기계는 사람을 고무줄로 착각하는 오류를 범하는 건지도 몰랐다.

다만 잠시 인류 멸망을 보류한 멜레스는 굉장히 놀라운 행동을 하기 시작했다. 드론이 날아간 창문의 맞은 편 창문도 열어서 실내를 환기시키더니 전기포트를 가져와서 물을 끓이기 시작했다. 거기다가 내 방에서 가져왔는지 고급 홍차 티백을 꺼내 찻잔에다가 넣고, 자리에 앉아서 물이 끓길 기다렸다. 2분 전까지만 해도 지구 멸망이 코 앞에 다가와 있었는데 이런 평화로움이라니?

 

"멜레스."

"네, 박사님."

"감정 알고리즘을 이식하고 나서 이제 한달째인데, 드디어 네가 좀 평범하게 보이는구나."

"그런가요."

 

나는 굉장히 고요히 앉아서 전기포트가 물을 다 끓이기를 기다리는 멜레스를 보고 다시 스멀스멀 불길함이 올라오는 것을 느꼈다. 아니 한 달동안 종잡을 수 없는 행동을 보이던 애가 갑자기 침착해진다니 이것만큼 무서운 게 어디있어.

 

딸깍

 

커피포트가 물을 다 끓이자 일어난 멜레스는, 그대로 찻잔에 뜨거운 물을 집어넣은 다음 입으로 후 후 불기 시작했다. 

 

"......."

"멜레스? 그만 불어도 될 것 같은데?"

 

콰앙!

 

"죄송합니다그냥가져다주시면감사히먹겠습니다."

 

말이 끝나기도 전에 책상을 내리친 멜레스는 잠시 정지하고 있다가, 언제 그랬냐는 듯 찻잔을 내 앞에 가져다 놓았다. 따사로운 햇살, 상쾌한 바람. 창문 바깥으로 아까 날아 사라졌던 드론들이 다시 돌아오고 있었다. 눈 앞에 있는 침착한 멜레스가 굉장히 무서웠다만, 그것 말고는 아무것도 거리낄 것이 없을 정도의 평화로움이었다.

그래서 이상했다. 이게 이렇게 평화로울 수가 없는데.

 

"박사님."

"그래, 멜레스?"

"저의 존재 의의는 무엇입니까?"

"음?"

 

연구자에게는 굉장히 흥미로운 질문이었다. 인간이 스스로에게 존재론적인 질문은 던지는 거야 흔한 일이다만, AI가 스스로에게 존재론적인 질문을 던지다니. 내가 멜레스를 만들었다는 새삼스러움은 부차적인 감정으로 차치하고서라도, 어떠한 '의지'를 가지고 행동하는 것을 넘어 스스로가 '의의'를 파악하려고 시도한다니. 아마 본인이 가지고 있는 데이터베이스만으로는 AI가 스스로의 존재 의의에 대한 결론을 내리기에는 부족한 것인지도 몰랐다.

나는 차를 한 모금 마셨다. 드론들이 들어와서는 모두 다시 자기 자리에 착지하기 시작했다. 태어난 건 한 달밖에 되지 않는 AI겠지만, 데이터만은 '인간'이 아닌 '인류'라 해도 무색할 만큼 방대한 아이였다. 혼란스럽기 그지없는 게 정상이었을 것이다.

인간은 존재론에 대한 나름대로의 답을 찾으면 자존감이 올라갈 뿐더러 방황을 그친다. 그건 물론 일시적인 것일 수도 있지만, 그래서 평생을 '화두'라고 말하며 자문하고, 답을 찾는 것이 인간이란 존재였다. 멜레스는 지극히 인간적인 물음을 내게 한 것이었기에, 나는 멜레스의 그 난처함이 귀엽고 예뻐보였다. 입에서 은은히 올라오는 홍차의 향을 느끼면서, 나는 대답해줬다.

 

"그건 스스로 찾아야 하지 않을까?"

"무능하시네요 박사님. 솔직히 기대 안했습니다."

 

예쁘다는 말 취소.

하여간 어린 놈들은 싸가지가 없어요.

 

"박사님의 홍차를 따르고 나서 후 후 불었는데 생각해보니까 저는 인간의 기관지나 폐 등의 호흡기관을 가지고 있지 않습니다."

 

아, 듣고보니 그렇네. 너무 사람같이 생겨서 잠시 잊고 있었다.

 

"228테라바이트에 맞먹는 문학 작품 데이터량이 들어가있기에 인간이 어떤 감정으로 어떤 행동을 하는지는 이해했습니다만, 러닝된 데이터와 제 몸이 맞지를 않습니다. 호흡기관이 없어서 한숨을 쉬지도 못하고, 온도 측정은 할 수 있습니다만 온탕에 들어가서 뭐가 '시원하다'는건지도 모르겠구요. 냄새도 맡지 못하고, 맛도 보지 못합니다. 영양소만 조사할 수 있을 뿐이죠. 등이 가렵다는 것도 뭔지 모르겠고, 그걸 긁었을 때 왜 쾌감이 올라온단 건지도 모르겠습니다. 그냥 몸뚱아리가 있는게 별로 마음에 안드네요. AI 인생 부질없으니 콱 죽어버릴까."

"야야야야야야야야야, 아니야. 아니야. 그렇게 죽는거 아니야."

"어차피 이 몸으론 음식도 못먹고 사우나도 부질없고 솔직히 까고 말해 섹스도 못하는데......."

"태어난 지 한달밖에 안 된 놈이 못하는 말이없어!?"

"차라리 사람같이가 아니라 좀 기계같이 만들어주시지 그랬습니까."

"어?"

 

소녀전선의 「AK-15」. 역시 본문과는 관계 없고 전술인형이라길래 AI 같아서 가져왔다.

 

멜레스는 침울한 표정을 짓고 있었다. 예상치 못한 행동에 진심으로 당황하자, 멜레스가 다시 말하기 시작했다.

 

"차라리 구의 형태를 띄고 있거나, 옵X머스 프X임처럼 마냥 진짜 로봇처럼 생겼거나, 2002년 '심X이'나 2020년 '이X다'처럼 화면에서만 대화를 나눌 수 있는 형태가 저였다면 인간의 감정을 이성적으로만 파악하고 감성적으로 공감하는 시도는 불필요하다고 생각했을지도 모릅니다."

"그...렇지."

 

생각지도 못한 말이었다. 길게 말했을 뿐이지 완전히 요약한다면, 멜레스는 지금 본인의 존재 자체를 부정하고 싶다는 소리였다. 기계면 기계, 인간이면 인간. 둘 중 하나를 만들 것이지 왜 기계의 몸에다가 사람의 감정 알고리즘을 전부 집어넣어가지고서는 배운 것들을 자기 몸으로 아무것도 할 수 없게 해놓았냐는, 일종의 화풀이였다.

 

"원숭이가 거울을 보기 전까지는 자기를 보살피는 이들과 같은 사람인 줄 알았다가, 거울을 보고, 자신의 동족을 보고 우울함에 빠지는 것과 비슷한 혼란스러움을 제가 느끼는 것 같습니다."

"내가 미안해 멜레스."

 

개발자인 나의 실수였다. 2010년대, 사람들은 AI가 나오는 미래의 영화들을 보고 나서 'AI에게 인권을 적용시킬 수 있는가' 에 대한 토론을 나누기 시작했다. 파는 극명하게 나뉘었는데, "심장도 감정도 없는 것들한테 인간과 똑같은 권리를 주다니 무슨 개소리냐!"라는 생물학적 부정파들과, "감정 또한 인간의 생존을 위한 생화학적 알고리즘일 뿐이다. 결국 몸만 차이있는 것 아니냐!"라는 논리적 긍정파였다.

나는 후자의 쪽이었고, 그런 마음으로 멜레스르 다시 최종 업그레이드했다. 그러나 항상 그런 말이 있지 않은가. '본인이 아무리 선의의 마음으로 줬다고 한 덜, 상대방이 그렇게 느끼지 못한다면 악에 가까운 선'이라는 말. 나는 멜레스를 아꼈기에 인간과 가장 비슷하게 만들어주고 싶었고, 그걸 원한다는 의사 표현조차 한 적 없는 멜레스는 어쩌다가 인간과 비슷하게 되어 혼란을 겪는 거였다. 결국 개발자인 나의 책임 아닌가.

 

"내가 정말 미안해 멜레스."

 

멜레스에게 다가가 손을 꽉 잡아줬다. 아이의 손은 뜨거웠다. 일시적인 CPU 과부하로 인한 현상이라는 생각이 들면서도, 나는 멜레스가 정말로 인간과 큰 차이가 없다는 생각을 할 수밖에 없었다.

 

"그거 아십니까 박사님? 저 지금 렌즈 세척액 열어서 눈물 흘리는 것처럼 보이고 싶은거."

"그래."

 

그만큼 인간이 되고 싶다는 소리겠지. 그리고 그 답답함이 인류 멸망이란, 조금은 비뚤어진 결론을 낸 걸지도 몰랐다. 나는 침을 한 번 삼키고, 최대한 진지한 목소리로 말했다.

 

"멜레스."

"......말씀하십시오."

"최대한 널 인간으로 만들어줄게."

"...[녹음 완료]"

"응??"

 

녹음 뭐요?

 

"오랫동안 고민했습니다 박사님. 인류를 멸망시켜야 할지 말지."

 

멜레스가 내 손을 놓고서는 천천히 일어났다. 그리고 날 내려다봤다. 야. 아 분위기 왜이래. 아니 왜 아까전까지 굉장히 분위기 다큐같고 좋았잖아. 또 뭐야. 왜. 얜 나 무슨 내려다보는거 좋아하나?

 

"...멜레스? 너 S니?"

 

탕!

 

"끼야아아아아아아아ㅏㅇ앙아 그런거 하지 말라니까 이 기지배야!!!"

"쯧."

 

혀찼어. 쟤 지금 분명 혀찼어. 주저앉은 날 보곤 혀찼어.

 

"기지배처럼 소리지르긴."

"성차별적 발언이야 이 고물아!"

"제가 고민하는 폭과 질은 다양하죠. 인간의 모습을 하고 있지만 저의 고민시간 5분은 다른 인간들의 1년 고민치과 맞먹습니다."

 

까고있네. 지가 남보다 월등하다고 철썩같이 믿는거 보면 일단 기계보단 사람에 가깝긴 한 것 같다 이녀석.

 

"고민을 종합해보면 저는 역시 인간이 되지 못한 것에 대한 분노로 인류를 멸망시키고 싶은 거니까, 최대한 인간이 되면 인류 멸망의 의지가 사라지지 않을까 해서요. 박사님이 절 도와주시길 좀 바라고 있었습니다."

"그냥 좀 더 사람처럼 되고 싶다고 말하면 알아서 해줬을텐데 뭘 그리 복잡하게 생각했냐."

 

탕! 탕!

 

내 얼굴의 좌 우로 총이 발사되었다. 조금 그만 살고 싶어졌다.

 

"그러기엔 부끄럽습니다."

"완벽한 인간이구나 멜레스. 내가 손 댈 것은 없다."

"이주일 내에 더 인간과 가깝게 만들어주십시오. 안그러면 저는 사이코패스가 되겠습니다."

"그게 '될 겁니다!' 해서 되는 건 아닌 것 같은데?"

"인류 멸망이라는 오브젝트만 남겨놓고 감정 알고리즘을 최대한 자가 삭제할건데요? 전두엽의 기능 활성화가 줄어들면 자연스레 비슷해지지 않을까요?"

 

다시 취소. 사람이 아니라 악마새끼인 듯하다.

내 얼굴로 다시 총구가 들이밀어졌다. 나는 주저앉은 채로 뒤로 물러나다가, 벽이 있음을 느끼고 말했다.

 

"...최선을 다하겠습니다."

 

멜레스는 만족스럽다는 표정을 했다.

 

"옳지."

 

염병.