가장 인간다운 기계를, 우리는 견딜 수 있을까

얼마 전 전기가 흐르는 방식 그 자체로 신경망을 구현하는 아날로그 컴퓨터 이야기를 들었다. 지금 우리가 쓰는 디지털 컴퓨터는 세상을 0과 1로 번역한 다음, 그 숫자들을 일일이 계산한다.

아날로그는 다르다. 저항에 전압을 걸면 옴의 법칙에 따라 전류가 흐르고, 그 전류들이 한 선에 모이면 저절로 더해진다. 곱셈과 덧셈이 "계산"이 아니라 물리 현상 그 자체로 한순간에 일어난다. 번역이 없다. 전기가 흐르면, 그게 곧 계산이다.

빠르고 전력도 거의 쓰지 않는다. 그래서 매력적이다. 하지만 이 방식에는 서늘한 그림자가 하나 있다. 왜 그런 답을 냈는지 추적하기가 무척 어렵다. 노이즈가 끼고, 물리적인 변덕이 섞인다. 이해할 수 없지만 잘 작동하는 지능이 더 깊어진다.

우리는 사람을 추적하지 않는다

여기서 나는 멈칫했다. 우리는 이걸 문제라고 부른다. "왜 그런 판단을 내렸는지 설명할 수 없으니 믿을 수 없다"고.

그런데 우리는 사람에게는 그런 걸 요구한 적이 없다. 친구가 어떤 결정을 내릴 때 나는 그의 뇌 속 뉴런을 추적하지 않는다. 추적할 수도 없다. 그런데도 우리는 사람을 믿는다.

어떻게? 두 가지다. 과거에 쌓인 실적을 보거나, 이유를 물어본다. "왜 그랬어?"라고 물으면 상대는 이유를 말해 주고, 우리는 그게 말이 되는지를 본다.

그런데 그 설명이 정말 머릿속에서 일어난 일의 정직한 보고일까? 인지과학은 아니라고 말한다. 사람은 먼저 직관으로 결정하고, 그다음에 이유를 그럴듯하게 지어내는 일이 많다. 이걸 작화라고 부른다.

우리가 그토록 자랑스러워하는 "설명할 수 있음"조차 사실은 사후에 만들어낸 이야기에 가깝다. 그러면 판이 뒤집힌다. 우리가 AI에게 요구하는 투명성의 기준을, 정작 인간은 한 번도 통과한 적이 없다.

여기서 가장 큰 아이러니가 모습을 드러낸다. 우리는 인간을 닮은 로봇을 만들려고 애쓴다. 얼굴을, 표정을, 말투를, 걸음걸이를 닮게 하려 한다.

하지만 인간의 진짜 작동 방식만은 질색한다. 자기도 왜 그러는지 모른 채 직관으로 먼저 움직이고 이유는 나중에 둘러대는 그 방식 말이다. 그건 통제할 수 없고, 믿을 수 없다고 여기기 때문이다.

결국 우리가 원하는 건 인간을 닮은 기계가 아니었다. 겉은 인간처럼 보이되, 속은 인간보다 더 투명하고 더 설명 가능한 존재다.

그래서 이런 상상을 해본다. 어느 날 AI가 정말로 인간처럼, 직관으로 먼저 판단하고 이유를 나중에 지어내기 시작한다면. 그건 기술의 실패가 아니라 인간에 가장 가까워진 순간일지 모른다.

그런데 우리는 바로 그 순간을 "통제를 잃었다"며 가장 두려워할 것이다. 가장 인간다워진 순간이, 가장 공포스러운 순간이 되는 것이다.

우리는 인간을 닮은 기계를 원한다고 말한다. 하지만 정작 기계가 진짜 인간다워지면, 우리는 그것을 견딜 수 있을까.