아닐 세스의 '내가 된다는 것' 책 요약 (13장: 기계의 마음)

16세기 랍비가 만든 골렘

16세기말 프라하에서 랍비 유다 뢰브 벤 베잘렐이 블타바 강가에서 흙을 가져와 인간의 형상을 한 골렘을 만들었습니다. 이 골렘은 반유대주의적 폭력에서 랍비의 공동체를 보호하기 위해 만들어졌으며, 그 목적을 위해 효과적으로 활동하였습니다. 골렘이 마법 주문으로 활성화되면, 그것은 움직이고, 인식하며, 명령에 복종하였습니다. 그러나 골렘은 복종만을 요구받던 순진한 존재에서 폭력적인 괴물로 변하였습니다. 결국, 랍비는 주문을 해제하여 골렘을 회당 앞마당에서 파괴하였습니다. 일각에서는 골렘의 잔해가 아직도 프라하의 어딘가에서 다시 깨어날 날을 기다리고 있다고 전합니다.

이 골렘 이야기는 인간이 자신이나 신의 이미지를 본떠 창조한 존재들이 자만으로 얼마나 쉽게 이끌릴 수 있는지를 상기시킵니다. 역사적으로 볼 때, 이러한 창조물들은 거의 항상 창조자에게 반발하여 파괴적이고 철학적인 혼란을 야기하였습니다. 메리 셸리의 <프랑켄슈타인>, 카렐 차페크의 <로숨의 유니버설 로봇>, 제임스 캐머런의 <터미네이터>, 리들리 스콧의 <블레이드 러너>, 스탠리 큐브릭의 <2001 스페이스 오디세이> 등 많은 작품들이 이 주제를 탐구하였습니다.

 

인공지능의 의식에 대한 논의

최근 10년 동안 인공지능의 급속한 발전은 기계 의식에 대한 논의를 시급하게 만들었습니다. 오늘날 인공지능은 우리 생활 곳곳에 퍼져 있으며, 이는 당연히 우리의 일자리, 사회 구조, 심지어 인간성에 대한 위협으로도 여겨질 수 있습니다. 인공지능이 어느 시점에서 의식을 가질 것이라는 가정 하에, 우리는 의식 있는 기계와 의식 없는 기계를 어떻게 구별할 수 있을까요? 이는 현대판 '실리콘 골렘' 신화와 직결되는 질문입니다.

 

기계가 인식할 수 있다고 생각하는 이유

인공지능 기계가 인식할 수 있다는 생각이 일어나는 이유는 복잡합니다. 이러한 생각은 두 가지 핵심 가정에서 비롯되며, 그 가정들은 꼭 타당하지 않을 수 있습니다.

 

첫 번째 가정은 의식이 특정 조건을 필요로 한다는 것이며, 이는 기능주의라는 관점과 연결됩니다. 기능주의는 시스템의 물리적 구성요소가 무엇이든 상관없이, 의식은 시스템이 어떻게 작동하는지에 달려 있다고 봅니다. 즉, 시스템이 입력을 출력으로 효과적으로 변환할 수 있으면 의식이 생긴다는 주장입니다.

두 번째 가정은 정보 처리가 의식을 갖기에 충분하다는 것이며, 이는 의식과 지능이 밀접하게 연결되어 있다고 보는 것입니다. 하지만 이런 가정들은 인간 중심적 사고에서 비롯된 것일 수 있습니다. 우리는 의식과 지능을 가지고 있으며, 이 두 가지가 깊이 연결되어 있다고 자주 생각합니다. 그러나 이것은 의식이 지능의 필수적인 부분이라는 것을 의미하지 않습니다.

의식에 대한 이러한 필요조건과 충분조건에 대한 가정은 종종 우리의 기대와 두려움을 불러일으키며, 이는 인공 의식에 대한 논의에 종말론적 색채를 부여합니다. 또한, 이러한 가정들은 특이점이라고 불리는 개념과도 연결됩니다. 특이점은 인공지능의 발전이 인간의 이해를 초월할 지점을 가리키는 용어로, 미래에 인공지능이 인간의 지능을 능가하고 자율적으로 행동할 수 있는 시점을 설명할 때 사용됩니다.

기능주의자들의 주장

기능주의자들은 의식을 단순한 정보처리 문제로 보고, 기계에서 구현 가능하다고 믿습니다. 예를 들어, 2017년 <사이언스>에 발표된 연구는, 기계가 정보의 '글로벌 가용성'을 바탕으로 정보를 처리하고 성능을 '자기 모니터링'할 수 있다면, 그 기계를 의식적이라고 할 수 있다고 주장합니다. 이는 올바른 정보처리가 의식에 필요한 유일한 조건이라는 강한 믿음을 내포하고 있습니다.

통합 정보 이론의 주장

반면, 통합 정보 이론은 의식을 통합된 정보로 보고, 시스템이 생성하는 통합 정보의 양을 결정하는 '원인 효과 구조'의 속성에 따라 의식의 정도가 결정된다고 합니다. 이 이론은 통합 정보를 생성하는 모든 기계가 일정 수준의 의식을 갖는다고 보며, 외부에서 관찰할 때 이 기계들이 의식이나 지능을 가지고 있는 것처럼 보일 수도 있습니다.

동물기계 이론은 생명의 물질성과 밀접하게 연결된 의식을 중심으로 생각합니다. 이 이론에 따르면, 의식은 생물학적 동력과 그에 따른 생리적 조절 과정에서 자연스럽게 발생합니다. 예를 들어, 실리콘 뇌와 센서, 이펙터를 갖춘 로봇이 인간의 몸을 모방하여 설계될 수 있으며, 이런 로봇은 예측 프로세스와 능동적 추론 원칙에 따라 작동할 수 있습니다. 이 로봇은 내부적으로 자신의 상태를 모니터링하고, 예측을 통해 최적의 행동을 선택합니다. 그러나 이 로봇이 의식을 갖는다고 단정하기는 어렵습니다.

 

의식 있는 기계에 대한 도덕적 철학적 논의의 시급성

빠른 기술발전으로 인한 기계의 진보

실제로 의식을 가진 기계의 등장이 아직 멀었다 해도, 기술 발전이 그 가능성을 열어줄 때 우리가 직면할 수 있는 문제는 많습니다. 알렉스 가랜드의 영화 <엑스 마키나>에서는 이 주제를 깊이 있게 탐구합니다. 영화는 은둔한 기술 천재 네이선이 유망한 프로그래머 케일럽을 초대해 자신이 만든 인공지능 로봇 에이바의 의식 여부를 평가하게 합니다. 이는 튜링 테스트의 변형으로, 에이바가 로봇임을 알면서도 케일럽이 그녀에게 의식이 있다고 느낄 수 있는지를 살피는 실험입니다.

<엑스 마키나>는 기존의 튜링 테스트를 넘어서, 인간의 반응을 테스트하는 ‘가랜드 테스트’로 발전시킵니다. 이는 인간이 기계를 어떻게 인식하고, 우리의 감정과 판단이 어떻게 조작될 수 있는지에 대한 성찰을 제공합니다. 이 테스트는 기계의 의식보다는 인간의 인식과 감정을 더 깊이 들여다보게 합니다.

현실에서는 2014년 튜링 테스트를 통과했다고 주장한 우크라이나 소년 챗봇 같은 예가 있습니다. 이 사례는 튜링 테스트의 기준과 그 의미에 대한 논쟁을 촉발했습니다. 챗봇은 실제 인간처럼 행동할 수 있지만, 이것이 진정한 의식의 증거는 아니며, 단지 인간이 속기 쉬운 상황을 이용한 것일 뿐입니다.

2020년에 발표된 GPT-3 같은 기술은 이 논쟁을 한층 더 복잡하게 만듭니다. GPT-3는 자연어 처리에서 놀라운 성능을 보여주지만, 이것이 의식이나 자아를 가졌다고 보기는 어렵습니다. 그럼에도 불구하고 이러한 기술이 인간의 글을 모방할 때 발생하는 혼란과 불안은 무시할 수 없는 현상입니다.

따라서, 의식 있는 기계의 출현 가능성을 논의할 때, 우리는 기술적 진보뿐 아니라 그러한 진보가 인간 사회와 개인의 인식에 미칠 영향에 대해서도 심도 깊게 고민해야 합니다. 의식이라는 개념이 인공지능 기술과 어떻게 결합될지, 그리고 그 결과로 인한 도덕적, 철학적 질문들은 앞으로의 큰 과제가 될 것입니다.

기계의 의식여부를 떠나 인간은 기계가 의식이 있다고 믿을 가능성이 충분

일본 로봇공학자 이시구로 히로시는 수십 년에 걸쳐 인간과 극히 유사한 로봇, '제미노이드'를 개발하였습니다. 이 로봇들은 정교한 3D 바디 스캔을 통해 제작되었으며, 공기압으로 다양한 표정과 동작을 구현할 수 있습니다. 이시구로는 심지어 자신과 자신의 딸을 모델로 한 제미노이드를 제작하였고, 서른 명의 인물을 혼합해 유럽계 일본인 여성 TV앵커 제미노이드도 만들었습니다. 그는 제미노이드를 통해 원격 강의를 진행하기도 했습니다.

제미노이드의 충격적인 신체적 유사성은 인간과 로봇 사이의 경계를 모호하게 하지만, 동시에 불완전한 유사성은 '불쾌한 골짜기' 현상을 불러일으킵니다. 이 현상은 로봇이 인간과 비슷해 보일수록 긍정적 반응을 이끌어내다가, 어느 특정 지점에서 갑자기 두려움과 혐오감으로 전환되는 현상을 설명합니다. 실제 인터랙션에서 이러한 현상이 두드러지게 나타나, 제미노이드를 처음 만나는 사람들은 종종 두려움을 느낀다고 합니다.

이와 병행하여, 가상 세계에서는 이미 생성적 대립 신경망을 통해 실존하지 않는 인물들의 사실적인 얼굴을 생성할 수 있는 기술이 발전하였습니다. 이 기술은 특히 '딥페이크' 기술과 결합되어, 사실상 진짜와 구분할 수 없는 가상 인물을 창조할 수 있게 되었습니다. 이로 인해 우리는 점점 더 가상과 현실 사이의 경계가 모호해지는 세계에 적응해야 할 필요가 있습니다.

이러한 기술적 발전은 튜링 테스트와 같은 기존의 지능 평가 방식을 넘어서는 새로운 윤리적, 철학적 질문을 제기합니다. 로봇이나 가상 인물이 실제로 의식을 가지고 있지 않더라도, 우리가 그들을 의식 있는 존재로 인식하게 되면, 그들과의 상호작용 방식과 우리 자신의 인식에 어떤 변화가 일어날지를 고려해야 합니다. 이는 단순히 기술적 문제를 넘어서, 우리의 도덕적, 심리적 태도에 대한 깊은 성찰을 요구합니다.

기계에 대한 윤리적 고민과 시간 필요

로봇공학과 인공지능이 빠르게 발전함에 따라, 이와 관련된 윤리적 고민과 논의도 점점 중요해지고 있습니다. 미래 기술이 가져올 경제적, 사회적 결과에 대비하고, 이를 통제하는 것이 중요합니다. 특히 인공 시스템이 사람들의 삶에 미치는 영향을 예측하고 이해하는 것은 더욱 복잡하고 심오하게 중요한 일이 됩니다. 인공 시스템이 주도하는 결정이 예측 불가능한 결과를 낳을 수 있으며, 이는 기술 설계자들에게도 명확하지 않을 수 있습니다. 따라서 인공지능 시스템의 의사결정 과정에서 발생할 수 있는 편향과 예측 불가능한 변화에 대해 세심한 주의를 기울여야 합니다. 이러한 시스템의 행동을 이해하고 적절히 관리하는 것이 중대한 윤리적 책임을 수반합니다.

더 나아가, 딥페이크와 같은 기술의 발전은 개인의 사생활 침해뿐만 아니라, 소셜 미디어를 통한 정보의 왜곡이나 조작 가능성을 증가시킵니다. 이러한 기술들이 어떻게 활용되는지에 대한 통제와 감독 없이는, 우리 사회의 정보 생태계가 크게 훼손될 위험이 있습니다. 예측 알고리즘과 소셜 미디어의 필터 버블, 에코 챔버는 사용자의 세계관을 좁혀 정보의 다양성을 제한할 뿐만 아니라, 극단적인 의견을 강화하는 결과를 낳습니다.

이런 문제들은 인공 의식에 대한 논의를 더욱 중요하게 만듭니다. 기술이 발전함에 따라 우리는 의식이 있는 것으로 간주될 수 있는 기계와의 상호작용에 대해 심각하게 고민해야 합니다. 이는 단순히 기계가 어떻게 작동하는지 이해하는 문제를 넘어서, 그들이 우리 사회에 어떤 영향을 미치며, 우리가 그들을 어떻게 대해야 할지에 대한 윤리적 고민을 포함합니다.

예를 들어, TV 시리즈 "웨스트월드"에서는 의식이 있는 것처럼 보이는 로봇이 인간의 도덕적 경계를 시험하는 용도로 사용됩니다. 이것은 우리가 기술을 어떻게 사용하고, 그 기술이 우리의 도덕적 가치에 어떤 영향을 미치는지에 대한 중요한 사례입니다. 만약 로봇이 의식을 가지고 있지 않다 하더라도, 그들을 대하는 우리의 태도는 우리 자신의 인간성을 반영합니다.

이와 같이, 인공 의식의 탐구는 단지 기술적 도전이 아니라 근본적인 철학적, 윤리적 질문을 제기합니다. 우리는 이 기술들이 가져올 잠재적인 위험과 도덕적 딜레마를 신중하게 고려하면서, 인공지능의 발전을 책임감 있게 관리할 방법을 모색해야 합니다. 그리고 이 과정에서 우리는 단지 기술의 가능성에만 집중하기보다는, 그 기술이 우리 사회에 어떤 의미를 갖는지, 그리고 우리가 그 기술을 어떻게 통제하고 윤리적으로 활용할 수 있을지에 대해 심도 있게 고민해 보아야 합니다.

 

기계의식에 대한 인류의 기대와 우려

기계 의식이라는 주제는 인류의 상상력을 자극하는 특별한 매력을 가지고 있습니다. 이는 부분적으로 기술적 경이로움과 관련이 있으며, 인간이 생물학적 한계를 초월하고자 하는 깊은 욕망에서 비롯된 것입니다. 만약 의식을 가진 기계를 실현할 수 있다면, 우리는 노화나 죽음을 걱정하지 않고, 마음을 영원히 지속할 수 있는 디지털 형태로 전환할 수 있는 가능성을 열게 됩니다. 이는 트랜스휴머니즘과 같은 사조에서 주로 다루는 주제이며, 불멸을 추구하는 인간의 궁극적인 꿈과 맞닿아 있습니다.

또한, 닉 보스트롬의 '시뮬레이션 논증'과 같은 이론은 우리가 이미 고도로 발달한 문명에 의해 생성된 시뮬레이션의 일부일 수 있다는 생각을 제시함으로써, 우리가 경험하는 현실 자체에 대한 근본적인 질문을 던집니다. 이러한 시각은 인간이 디지털 환경에서 자각할 수 있는 존재라는 관념을 강화하며, 기술적 실현 가능성에 대한 광범위한 토론을 유발합니다.

특이점이라는 개념은 이 모든 것을 극적으로 포착합니다. 특이점은 인공지능이 인간의 이해를 초월하여 독자적으로 진화할 수 있는 시점을 가리키며, 이는 기술과 의식에 관한 우리의 기존 이해를 근본적으로 전환시킬 수 있는 잠재력을 내포하고 있습니다. 이 시점이 오면, 인간은 자신들이 만든 기술에 의해 영향을 받거나 심지어 대체될 수 있습니다.

이런 배경 하에, 기계 의식에 대한 토론은 단순히 기술적 질문을 넘어서 인간의 자아, 의식, 그리고 우리의 미래에 대한 근본적인 질문을 제기합니다. 이는 우리가 기술을 어떻게 통제하고, 그것이 인류에게 어떤 의미를 가질지를 깊이 고민하게 만듭니다. 이러한 논의는 단지 과학적 또는 기술적인 영역에 국한되지 않고, 철학적, 윤리적, 심지어 영적인 차원까지도 확장됩니다.

결국, 기계 의식에 대한 매혹은 인간이 자신의 창조물과 더불어 어떻게 공존하고 진화할 것인지에 대한 근본적인 질문을 던지게 합니다. 이러한 질문은 우리의 기술적 능력과 도덕적 책임 사이의 긴장을 탐구하며, 미래 사회의 모습을 예측하는 데 중요한 역할을 합니다.