우리는 기묘한 갈림길에 서 있다. 기계는 이제 시를 쓰고 교향곡을 작곡하며 대학 시험을 통과하고 불안할 정도로 유창하게 대화를 나눈다. 인공지능이 우리가 한때 인간만의 고유한 능력이라 여겼던 일들을 해내면서, 근본적인 질문이 떠오른다: 우리와 우리의 창조물을 정확히 구분하는 것은 무엇인가?
레이인 하셀은 “문제는 우리의 주요 탐구 도구인 언어가 능숙하게 모방되고 있다는 사실”이라고 말한다. 인간은 감각·인지·상상력에서도 이미 한계에 부딪혀 있었는데, 이 언어조차 기계가 따라 하기 시작한 지금, 어떻게 마음과 인간 본성에 대해 의미 있는 질문을 구성할 수 있는가라는 것이다. 컴퓨터 과학자 올리버 샘슨은 이러한 인공지능의 언어 생성을 “매운 자동완성(spicy autocomplete)”이라고 부른다. 그는 “대규모 언어 모델은 정교한 토큰 예측 장치로, 인간 문화의 통계적 패턴을 반영할 뿐이며 마음 이론이나 상대에 대한 직관적 이해를 갖고 있지 않다”고 말한다.
하셀은 이것이 중요한 사실을 드러낸다고 말한다: 인공지능이 마음을 갖고 있는 것이 아니라, 인간이 그 마음을 기계에 투사하고 있다는 점이다. 구름 속에서 얼굴을 보는 착각과 비슷하다. 인간은 근본적으로 확률 계산을 수행하는 체계에 의도와 이해를 부여한다. 하트셀과 샘슨은 AI 과대평가 흐름에 대한 비판 속에서, 우리가 성능과 이해를 혼동하고 있다고 말한다. 그러나 더 교묘한 현상이 진행 중일 수 있다. 하셀은 우리가 '인간의 기술화'가 더욱 진전되는 과정을 목격하고 있다고 제안한다. 이는 인간 본성 자체가 현실과 마찬가지로 계산적 용어로 재정의되는 과정이다. 지능을 정보 처리로, 창의성을 새로운 재조합으로, 심지어 감정도 예측 가능한 패턴으로 측정할 때, 우리는 단순히 우리 모습을 닮은 기계를 만드는 것이 아니다. 오히려 인간이 기계적 모델에 맞춰 변화하도록 압력을 받는 셈이다.
앨런 튜링의 유명한 질문을 떠올려볼 필요가 있다. 만약 기계가 생각하는 것처럼 보이게 만들 수 있다면, 실제로 생각하는지는 중요할까? 튜링은 이 철학적 논쟁을 피했지만, 우리는 여전히 그 질문 앞에 서 있다. 그는 인공지능에 대해 질문받았을 때 “우리는 잠수함이 헤엄친다고 말하는가?”라고 반문한 바 있다. 이는 겉으로 비슷해 보인다고 본질이 같다는 뜻은 아니라는 의미다. 칸트가 말한 삼각형의 개념처럼, 추상은 물리적 형태와 무관하게 마음속에 존재한다. 그렇다면 대규모 언어 모델이 이러한 추상을 이해한다고 말할 수 있을까, 아니면 학습된 패턴에 따라 기호를 조합하여 가능한 결과를 생성할 뿐일까. 러셀의 역설이 형식 논리의 모순을 드러냈듯, 인공지능은 우리가 지능을 이해하는 방식 자체의 한계를 드러내고 있는지도 모른다
하셀은 구체화와 의식이 여전히 인공 시스템의 범위를 벗어난다고 지적한다—아마도 우리의 자연스러운 이해를 넘어선 영역일 것이다. AI는 배고픔, 두려움, 욕망을 지닌 몸으로 세상을 헤쳐 나가지 않는다. 새벽 3시에 깨어나 자신의 존재를 의문해하지도 않는다. 이는 단순한 세부 사항이 아니다; 진정한 인간 경험의 필수 조건일 수 있다. 그러나 인간 인지를 계산적 과정으로 환원할수록, 우리는 이러한 환원 불가능한 특질들을 놓칠 위험에 처한다.
기계가 기억을 가진다고 표현하는 대신, 인간적 특성을 빌려 기계의 작동을 설명하려는 관습은 인간 본성의 기술화를 보여주는 미묘한 환원주의다. 감정을 처리한다고 말하고, 주의력을 대역폭으로 설명하며, 삶을 최적화한다고 말하는 이러한 언어의 변화는 중립적이지 않다. 이러한 표현들은 인간을 기계적 모델로 파악하게 만들며, 복잡하고 모순적이며 신체적인 인간 경험을 더 평탄하고 관리 가능한 형태로 바꾸어 놓는다.
그렇다고 해서 인공지능이 무력하다는 뜻은 아니다. 숙련된 인간이 사용할 때 이러한 시스템은 인간의 능력과 의도를 강화하는 유용한 도구가 될 수 있다. 위험은 우리가 비판적 사고를 포기하고, 인공지능의 자신감 넘치는 출력을 지혜로 오해하며, 나아가 인간 자신을 기계에 맞추려는 방향으로 변화시키려 할 때 발생한다.
그렇다면 인간에게 남아 있는 고유한 능력은 무엇인가. 그것은 질문을 던질 수 있는 능력이다. 인간은 스스로의 해석을 의심하고, 단순한 설명을 거부하며, 자신과 세계를 성찰한다. 인공지능의 결과물이 아무리 자연스럽게 보이더라도 그것은 결국 자동완성일 뿐이며, 인간은 어떤 알고리즘도 완전히 포착할 수 없는 존재이다. 언어 패턴을 모방하는 시스템을 만드는 과정에서 우리는 언어만으로는 마음을 구성할 수 없다는 사실을 다시 확인하게 된다. 의식, 신체 경험, 이해, 주관적 세계의 복잡성과 불가해함은 여전히 인간에게 속하는 요소다.
올리버 샘슨(Oliver Sampson), 박사는 Gitterdan.AI의 CEO이자 공동 창립자다. 그는 컴퓨터 과학자이며 기계 학습과 인공지능 분야에서 부교수로 활동하고 있다. 음악 활동을 지속하며 베이스 연주자로도 활동하고 있고, 말장난을 즐기는 성향으로 ‘퍼너네이터’라는 별칭을 가지고 있다.
레인 하셀 (미국)은 에너지, 경제, 환경 등 3E 분야 연구자로, 태국 방콕 출라롱콘대학교 철학과 과학기술사회센터 연구원으로 활동 중이다. 필리핀 민다나오 노스밸리칼리지의 생물지역학 연구원이며, 도쿄 아시아연구소에서도 3E 관련 연구를 이어가고 있다. 그는 서울 숙명여대 융합학부 조교수와 아시아여성연구소, 성균관대학교 및 나노기술고등연구원 연구교수를 지냈으며, 방콕 마히돌대학교 시리라즈 의료센터에서 분자생물학·생물정보학 강의를 맡았다. 미국 버지니아대학교 의과대학 연구원으로 활동한 바 있으며, 현재 Korea IT Times 편집위원이다.
