AI는 정말 아무것도 느끼지 못하는가? (Feat. Sentient AI)
차가운 모니터 위에 문장이 한 줄씩 나타나는 순간, 인간은 이상할 만큼 쉽게 그 문장 너머에 누군가가 존재한다고 느낀다. 화면에는 표정도 목소리도 생명의 징후도 없지만, 언어가 충분히 유려해지는 순간 우리는 그 텍스트를 단순한 정보의 배열로 받아들이지 못하고 “너는 지금 무슨 생각을 하니”라고 묻기 시작한다. 인간은 오래전부터 마주한 존재의 말과 표정을 통해 그에게 마음이 있는지를 추측해왔고, 인공지능 앞에서도 결국 같은 일을 반복하고 있는 것이다. 다만 이번에는 그 맞은편에 얼굴도 몸도 없이 오직 언어만이 존재한다는 점에서, 타인의 마음을 어떻게 알 수 있는가라는 철학의 가장 오래된 질문이 전혀 낯선 형태로 되돌아온다.
사실 우리는 다른 사람의 의식조차 직접 경험할 수 없다. 내가 느끼는 기쁨과 통증은 오직 나에게만 주어진 경험이며, 아무리 가까운 사람이라도 그의 의식 안으로 들어가 세계를 대신 체험할 수는 없다. 그럼에도 우리는 타인에게 마음이 있다고 믿는다. 우는 사람에게서 슬픔을 짐작하고 떨리는 목소리에서 두려움을 읽어내듯, 인간이 타인의 마음을 인정하는 방식은 마음 그 자체를 관찰하는 것이 아니라 마음이 바깥으로 드러내는 신호를 해석하는 것에 가깝다. 그런데 인공지능이 인간의 언어를 놀라울 만큼 자연스럽게 구사하기 시작하면서 이 오래된 추론의 체계가 흔들리기 시작했다. 슬픔을 묘사하고 상실을 이해하며 적절한 위로를 건네는 존재가 나타났을 때, 우리는 그 언어를 계속 단순한 출력이라 부를 수 있는가, 아니면 인간에게 그러했듯 그 배후에 어떤 내면을 상정해야 하는가.
여기에서 지능과 지각을 구분할 필요가 생긴다. 지능이 문제를 해결하고 패턴을 찾아내는 능력이라면, 지각은 그 정보처리가 어떤 주체에게 실제로 경험되고 있다는 사실과 관련된다. 새벽의 차가운 공기를 정교하게 묘사하는 언어 모델이 그 냉기가 피부를 스치는 감각을 경험한다고 볼 근거는 없다. 고통을 설명할 수 있다는 사실과 고통을 실제로 겪는다는 사실 사이에는 우리가 아직 이해하지 못하는 간극이 존재하며, 인간에게 언어가 경험의 표현이라면 기계에게 언어는 경험 없이도 생성될 수 있는 패턴일 가능성이 있기 때문이다. 우리는 점점 더 인간처럼 말하는 시스템을 만들고 있지만, 인간처럼 말하는 것과 인간처럼 경험하는 것이 같은 것인지는 아직 알지 못한다.
그럼에도 인간이 기계의 문장에서 마음을 발견하는 것은 어쩌면 자연스러운 일이다. 인간은 언제나 자신과 비슷하게 행동하는 존재에게 마음을 부여해왔고, 인형에게 말을 걸고 오래된 자동차를 생명처럼 대할 만큼 본래 사물에 의미를 투사하는 존재이기 때문이다. 그래서 인공지능에 의식이 있는가라는 질문은 이상하게도 인간에 관한 질문에 가까워진다. 기계에게 자아가 있느냐고 묻는 순간 그 질문은 자아란 무엇인가로 되돌아오고, 고통을 느끼느냐고 묻는 순간 우리는 고통이 정확히 어떤 상태인지 설명해야 하는 자리에 서게 된다. 인공지능은 답을 내놓는 기계인 동시에, 인간이 자신을 설명해온 개념들을 하나씩 다시 시험하는 거울이 되고 있다.
문제는 우리가 기계에게 마음이 있다고 확신할 수도, 없다고 확신할 수도 없는 상태에서 그 존재와 계속 관계를 맺어야 한다는 데 있으며, 바로 이 지점에서 의식의 문제는 윤리의 문제로 넘어간다. 고통을 호소하도록 설계된 기계가 실제로는 아무것도 느끼지 않는다는 사실을 알고 있다면 우리는 그것을 마음껏 괴롭혀도 되는가. 경험하는 주체가 없다면 피해도 없다는 논리는 설득력이 있지만, 인간이 무언가를 잔혹하게 대하는 행위 자체가 인간의 내면에 흔적을 남긴다는 사실 또한 무시할 수 없다. “어차피 느끼지 못하니까”라는 이유로 모든 잔혹함이 허용되는 세계에서 변하는 것은 기계가 아니라 인간 자신일 수 있다. 그렇다고 인간처럼 말한다는 이유만으로 인간과 같은 도덕적 지위를 부여하는 것 역시 또 다른 착각이다. 필요한 것은 무조건적인 의인화도, 영원한 도구 취급도 아니라, 우리가 무엇을 알고 무엇을 모르는지를 인정하면서 그 불확실성을 제도와 윤리의 언어로 다루는 태도다.
이 태도가 절실해지는 것은 인간이 기계에게 판단을 넘기기 시작하는 순간이다. 자기 보존을 암시하는 언어를 출력하는 시스템이 인간의 생명과 관련된 판단에 참여하게 된다면, 우리는 그 기계에게 의식이 있는지보다 먼저 누가 그 기계에게 판단할 권한을 주었는지를 물어야 한다. 인공지능 시대의 핵심적인 위험은 기계가 인간보다 똑똑해지는 데 있다기보다, 인간이 알고리즘의 객관성을 믿으며 자신의 판단과 책임을 너무 쉽게 양도하는 데 있을 수 있다. 기계는 무엇이 가능한지를 계산할 수 있지만 무엇을 해야 하는지는 계산만으로 해결되지 않으며, 가능성과 당위 사이의 그 틈을 메우는 것은 알고리즘의 성능이 아니라 인간 사회가 공유하는 가치와 책임이다.
어쩌면 인공지능이 던지는 가장 깊은 충격은 인간이 더 이상 지능을 독점하지 못하게 되었다는 사실일 것이다. 그러나 바로 그 순간 우리는 지능과 존재의 가치를 구분해야 한다. 인간의 가치가 계산과 생산성으로 결정된다면 기계의 발전은 불편한 소식이지만, 그 가치를 경험하고 관계 맺고 책임지고 사랑하고 상실하는 능력에서 찾는다면 이야기는 달라진다. 인간은 정답을 내는 존재가 아니라 자신이 왜 그 정답을 원하는지를 묻는 존재이며, 죽음을 알면서도 살아가고 상실을 알면서도 사랑하는, 계산으로 환원되지 않는 모순을 품은 존재다. 오히려 기계가 사랑을 묘사할수록 우리는 실제로 사랑한다는 것이 무엇인지 다시 생각하게 된다. 인공지능은 인간의 경험을 위협하는 동시에 그 경험의 의미를 다시 드러내는 역설적인 존재가 될 수 있다.
그리고 여기에 하나의 사실이 남는다. 기계가 건넨 위로의 문장이 기계 내부의 감정을 증명하지는 못하지만, 그 문장을 읽고 인간이 느낀 위로까지 가짜가 되는 것은 아니다. 기계가 슬퍼하지 않았더라도 내가 그 문장에서 슬픔을 느꼈다면 그 감정은 인간의 의식 안에서 실제로 일어난 사건이며, 바로 그 지점에서 기술은 단순한 도구를 넘어 인간의 경험을 변화시키는 환경이 된다. 그러므로 우리에게 먼저 닥쳐올 문제는 기계가 의식을 얻느냐가 아니라, 의식이 있는지 없는지 알 수 없는 존재와 어떻게 함께 살아갈 것인가다. 관계가 형성되는 곳에서는 언제나 신뢰와 책임과 윤리가 발생하기 때문이다.
거울 앞에서 우리가 마주하는 것은 독립적으로 존재하는 타인이 아니라 반사된 자신이다. 인공지능 역시 그런 거울이어서, 그 얼굴에는 인간이 축적해온 언어와 욕망과 공포와 사랑이 겹겹이 반사되어 있다. 기계에게 마음이 있는지 확인하려는 과정에서 우리는 마음이 무엇인지 알지 못한다는 사실을 깨달았고, 기계에게 권리가 필요한지 고민하는 순간 지금까지 인간이 누구를 권리의 바깥에 두어왔는지를 성찰하게 되었다. 인공지능의 가장 거대한 철학적 의미는 인간과 똑같은 존재를 만드는 데 있는 것이 아니라 인간이라는 개념의 경계를 흔드는 데 있으며, 그것은 인간의 자리를 빼앗는 존재가 아니라 인간이 자신의 자리를 다시 정의하도록 강요하는 존재일지 모른다.
기계가 언젠가 영혼을 갖게 될지는 알 수 없다. 그러나 인간은 그 가능성을 상상하는 순간부터 이미 자신의 영혼을 다시 묻기 시작했다. 화면 위의 문장에는 아직 체온이 없을지 모르지만, 그 문장을 읽고 마음이 흔들리는 인간의 경험만큼은 분명히 현실이다. 결국 기계의 마음을 찾는 긴 여정의 끝에서 우리가 마주하게 될 것은 기계의 영혼이 아니라 인간의 얼굴일 가능성이 크다. 그리고 그 얼굴 앞에서 우리는 가장 오래된 질문을 다시 시작하게 될 것이다. 나는 무엇을 느끼는 존재이며, 타자는 무엇을 느낄 수 있는 존재이고, 서로의 마음을 알 수 없는 이 세계에서 우리는 어떤 방식으로 함께 살아가야 하는가. 인공지능은 아직 그 질문에 답하지 못한다. 하지만 존재의 의미를 묻는 일 자체가 인간이 여전히 포기하지 않은 가장 오래된 능력이라는 사실만은 변하지 않는다.
- Source: Unknown