인공지능의 시대, 인간을 다시 묻다

‘인공지능’을 화두로 ‘인간’이란 존재를 어떻게 이해해야 하는지를 뇌과학, 생물학, 철학, 컴퓨터공학에 이르는 방대한 배경으로 풀어낸 책

인공지능이 비록 미래 사회의 변혁을 이끌 유력한 존재인 것은 사실이나, 주어진 환경을 바탕으로 문제를 스스로 ‘인식’하는 수준에는 도달하지 못할 것이라 전망함.

인공지능이 단순한 고성능 계산기 수준을 넘어설 가능성이 있지만, 인공지능이라는 존재를 정의하기에 앞서 ‘인간’이라는 존재부터가 정의내리기 복잡하고 어려운 존재임을 역설하는 책.

---

저자는 우선, ‘인공지능’이 정확히 무엇인지 정의하고자 했다. 보통 인공지능 힘의 핵심으로 꼽는 건 ‘추상적 활동’을 할 수 있는 능력이다. 추상적 활동이란 수학과 과학 같은, 자연계에서 인간이 다른 동물에 비해 유별나게 잘 했던 능력을 말한다. 그러나 본래 인간이라는 존재가 수학과 과학에 능하도록 설계된 동물은 아니다. 따라서 인간은 추상적 활동 능력을 인간보다 잘 할 수 있는 에이전트를 만들고자 했다. 인간 지능의 한 부분인 추상적 활동의 영역을 인간보다 잘 할 수 있는 존재, 일종의 계산기가 바로 인공지능이다.

하지만 계산기라는 정의와 별개로, 인공지능이 수학과 과학에 능한 계산기 수준을 넘어 인간과 흡사한 하나의 개체로 보려는 관점도 있다. 인간의 특징을 가지고 있고, 인간이 가진 소위 인간지능과 아주 흡사한 에이전트를 인공지능으로 생각하는 관점이다. 영화나 소설에서 나타났던 인공지능의 이미지 때문에 두드러지는 측면이 있다.

과연 인공지능이 수학과 과학을 잘하는 계산기 정도를 넘어서 인간이 가진 총체적 지능과 유사할 정도로 발전할 수 있을까. 만약 그렇다면, 우리는 인공지능을 어떻게 인식해야 할까. 인간이 더 잘하는 일은 무엇이 있을까. 철학자의 입장에서 저자가 제기한 의문점이 바로 이 지점이다.

먼저, 저자는 인공지능이 도달할 목적지인 ‘인간지능’, 인간다움이 과연 무엇인지 묻는다. 인간에게는 수량화, 객관화가 가능한 역량도 있지만, 객관적이지 못한 것도 있다. 바로 마음이다. 마음이라는 영역은 객관화가 불가능하다. 누구라도 ‘나에게는 마음이 있다’고 주장할 수 있지만, 그걸 확인할 수 있는 객관적 방법은 없다.

저자는 마음이란 무엇인가를 파악할 방법으로 뇌를 연구하는 뇌과학, 인간을 연구하는 철학, 진화에 근거한 생물학 등등 몇 가지를 탐구한다. 하지만 어떤 방법으로도 ‘마음’이란 존재의 작동 방식은 고사하고 ‘마음의 존재’조차 객관적으로 증명하는 것이 불가능하다는 결론을 내린다.

‘마음’이라는 관념의 존재여부로 인공지능을 재단하기가 어렵기 때문에, 저자는 두 가지 큰 틀에서 책을 전개해 간다. 첫 번째로는 ‘마음’과 관련 있는 여러 가지 학문과 논의를 살펴본다. 인공지능이 등장한 지금, ‘마음’이란 논의가 과거에는 어떻게 전개되어 왔고 현대에 어떻게 이해할 수 있는지 살핀다. 

두 번째로는 ‘마음’과 관련된 여러 주제들과 인공지능의 관계를 분석한다. 여기서 저자는 인간과 대비되는 ‘기계’라는, 감정 없고 차가운 느낌을 주는 표현 대신 ‘에이전트’라는 중립적인 개념을 사용한다. 

---

1. 생각 - 에이전트는 생각할 수 있을까?

사실, 에이전트가 생각할 수 있는 존재인지 이야기하려면 ‘생각한다는 것의 정의는 무엇일까’부터 정리해야 한다. 저자는 인공지능의 아버지로 불리는 ‘튜링’의 논문을 인용한다. 튜링조차도 본인의 논문에서 ‘생각하다’를 명확히 정의하지 않고, 사람들이 일반적으로 ‘생각한다’라고 판단할 수 있는 것을 ‘생각하다’로 인정하자고 전제한다. ‘사람에게 마음이 있느냐’를 증명하는 것과 마찬가지로, ‘사람이 어떤 것을 할 때 생각한다고 정의할 수 있느냐’도 객관적으로 증명하기에는 어려움이 따른다.

튜링은 ‘인간이 보통 ‘생각하다’라고 판단할 수 있는 행위를 기계가 할 수 있다고 가정하자. 그렇다면 이 기계에게 굳이 ‘이 기계는 생각하는 것이 아니다’라는 식의 잣대를 들이대는 것이 무의미하지 않느냐’고 주장한다. 저자는 튜링의 주장이 꽤나 설득력 있다고 평가하는데, 그 근거로 구글 번역을 들었다.

언어학자들은 그동안 한 언어로 된 글이나 말을 다른 언어로 번역하는 과정에서는 번역자가 해당 언어로 표현된 글이나 말의 의미를 이해해야 한다고 보았다. 이를테면 한국어를 영어로 번역하려면, 우선 한국어로 표현된 글과 말의 이해가 선행해야 한다. 그런데 구글이 신경망 기반 언어 번역 시스템을 선보였고, 번역의 정확도가 비약적으로 상승했다.

딥러닝을 바탕으로 한 신경망 학습 기술이 발달하면서 문장 앞뒤의 문맥을 파악하는 게 가능해졌고, 문맥 파악에 활용할 수 있을 정도로 많은 양의 데이터, 즉 빅데이터 기술 활용이 이를 뒷받침했다. 게다가 구글 번역은 기본적으로 ‘문자’라는 기호와 기호의 관계를 바탕으로 'Interlingua'라는 중간 언어를 번역에 활용하는데, 이 중간 언어가 정교해질수록 학습에 활용하지 않았던 언어끼리도 번역이 가능해진다. 이를테면 한/영 번역, 영/한 번역을 학습시키고, 영/일어와 일어/영어 번역을 학습시킬 경우, 중간 언어의 힘으로 한/일어, 일어/한국어 번역도 가능해지는 것이 구글 번역의 특징 중 하나다.

물론 구글 번역 결과를 보며 ‘구글이 문장의 의미를 생각해서 번역했다’고 보지는 않을 것이다. 하지만 구글 번역이 보여주는 결과는 보통 인간이 번역한 것처럼 정확하고 정밀하다. 인간이 ‘생각해서 번역했다’는 번역의 결과와 구글 번역 인공지능이 만들어낸 결과가 별 차이 없다면, 구글 번역 인공지능에게 ‘이건 인공지능이 생각해서 만든 결과가 아니다’라고 엄격하게 잣대를 들이밀 수 있을까? 

 

---

2. 지능 - 에이전트에 지능이란 개념을 도입할 수 있을까?

  

생물학의 관점에서 ‘지능’은 특정 개체가 환경에 얼마나 잘 적응할 수 있는 능력을 가졌는지 보여주는 지표다. 적응은 개체 스스로 환경이 어떠한지 인식 -> ‘지능’ 바탕으로 판단 -> 작동 -> 외부 환경에 반응하고 영향을 미치는 과정이다.

저자는 인공지능이라는 에이전트에게 지능이 있다고 보기 위해서는 두 가지 문제가 해결되어야 한다고 보고 있다. 첫 번째는 ‘외부 환경에 반응하고 영향을 미치기 위한’ 몸, 하드웨어의 존재 여부다. 보통 인공지능 하면 알고리즘을 바탕으로 한 소프트웨어 중심으로 생각하기 마련이다. 하지만 지능이 있다는 것의 정의대로라면, 결국 주변 환경에 변화를 줄 수 있는 존재여야 한다는 것을 의미하기도 한다.

또한 인공지능 스스로 환경이 어떠한지 인식하는 단계의 가능성 여부도 중요하다. 아직까지는 인공지능이 합리성을 발휘해 과제를 처리하는 환경은 인간이 인위적으로 설정한 환경이다. 즉 현재의 인공지능은 스스로 환경을 인지하고 문제를 찾아 해결하는 것이 아니라, 인간이 설정한 문제를 바탕으로 합리성을 발휘해 해결 방법을 찾는 존재다. 보통의 생물이 주어진 환경에서 스스로 문제를 찾아 해결하는 것과 대조적이다. 

따라서 저자는 ‘컴퓨터가 학습한다는 것이 컴퓨터 스스로 의지를 갖는다는 것을 의미하지 않는다’고 말하며, ‘아무리 강력한 인공지능이 탑재된 컴퓨터라고 해도 여전히 인간 의지의 확장일 뿐이다’고 정리한다. 즉 인간이 정해준 과제를 해결하는 ‘공학’과 환경에서 생물이 스스로 과제를 찾고 해결하는 ‘진화’는 다르며, 인공지능은 ‘공학’의 산물이라는 결론이다.

---

3. 자유의지 - 인간은 자유의지가 있다고 볼 수 있을까? 에이전트도 자유의지를 가질 수 있는 존재일까?

  
하지만 인공지능이 학습하는 데이터는 인간이 만들어낸 데이터다. 어쩌면 인간이 가진 특성들 - 성격이나 지능과 같은 - 을 기계가 그대로 학습한다면, 인간처럼 스스로 판단하고 행동할 수 있는 존재가 나타나지 않을까? 라는 의문이 생길 수 있다.

이 의문은 ‘인간에게는 스스로 뜻하는 대로, 마음먹은 대로 움직이고 행동하는 자유의지가 있다’를 전제로 한다. 그렇다는 건 내가 먼저 어떤 행동을 하겠다는 생각이 선행한 다음 몸이 움직인다는 것을 뜻한다.
그런데 저자는 ‘리벳’이라는 사람의 실험 결과를 근거로 ‘자유의지라는 것이 존재하지 않을 수도 있다’고 말한다. 리벳의 실험은, 사람들에게 버튼 하나를 준 뒤 버튼을 누르겠다고 자각한 시점을 알려달라고 했던 실험이다. 버튼을 누르기로 자각한 순간의 시점 / 준비전위가 측정된 시점 / 버튼을 누른 시점의 시간 순서를 비교하기 위해서였다.

자유의지가 있을 때, 리벳의 예측은 ‘버튼을 눌러야겠다고 생각함 -> 준비전위가 측정됨 -> 버튼을 누름’ 순서로 행동이 이루어져야 했다. 그런데 실제로 측정된 결과는 ‘준비전위가 측정됨 -> 버튼을 눌러야겠다고 생각함 -> 버튼을 누름’ 순서였다고 한다. 즉 버튼을 누르겠다고 자각하기에 앞서 몸이 먼저 반응한 것이다. 어떤 행동을 하겠다고 자각하기 전에 이미 행동이 시작되었다면, 인간의 마음 / 의지가 몸 / 행동에 선행한다고 단정짓기는 어려울 것이다.

이 논의가 필요한 이유는, 인공지능이 사회 구성원으로 편입될 경우 ‘책임 소재’와 직결되기 때문이다. 인간이 만들어낸 법과 제도체계는 인간에게 자유의지가 있다는 것을 전제로 만들어졌다. 실제로 인간에게 자유의지가 있느냐 아니냐의 철학적 논쟁과는 별개로, 현실에서는 인간에게 자유의지가 있으므로, 인간은 스스로 행동한 것에 책임을 져야 한다는 논리가 인정받고 있다. 그렇다면 인간에게서 나오는 행동을 바탕으로 학습한 인공지능은 학습을 바탕으로 한 자유의지가 있다고 간주해야 할까? 철학적이고 어려운 논의 주제이지만, 인공지능이 인간 사회에 미치는 영향이 커지고 있음을 고려할 때 언젠가는 생각해 보아야 할 담론임에는 틀림없을 것이다.

  

---

이 책의 내용들 중 ‘인공지능’과 ‘인간’을 연결할 수 있는 주제들을 선별해 요약했다. 하지만 이 책에서는 이 정도의 논의를 넘어 ‘인간’이라는 존재를 어떻게 이해해야 할지 깊게 파고든다. 인간이라는 존재를 어떻게 이해할지 뇌와 신경계의 역할을 통해 들여다보거나, 자유의지에서 비틀어진 몸과 마음 사이의 인과관계를 ‘시간’이라는 개념을 도입해 탐구한다. 몸과 마음을 이분법으로 생각한 플라톤의 이데아론에서부터 데이비드 흄의 귀납 비판이 등장하고, 니체의 계보학 모델이 뒤를 잇는다. 생물학적 진화로는 마음을 어떻게 설명할 수 있으며 한계는 무엇인지 알아보기도 한다.

인공지능에서 시작된 논의가 딥러닝이라는 컴퓨터공학을 지나고, 뇌과학과 생물학을 거쳐 근대 철학에까지 도달하는 방대한 지식의 향연이 펼쳐진다. 인간이란 존재가 무엇인지, 인간의 마음이라는 모호한 개념을 얼마나 다양한 학문이 탐구하고 논증하려 했는지 엿볼 수 있다. 

저자분도 대학에서 철학 강의를 하시는 분이지만, 딥러닝과 같은 컴퓨터공학은 물론이고 수학과 통계학, 생물학에 조예가 깊으신 분이라는 걸 책을 읽으면서 느꼈다. 논의를 전개하는 수준도 상당히 높고 깊이도 깊었다. 읽는 내내 어려웠지만 감탄하며 읽을 수 있었다.

한 번에 읽고 모든 걸 이해할 수 있는 깊이의 책이 결코 아니었다. 이 책을 요약하면서도, 제대로 요약하지 못했다는 걸 스스로 알기에 아쉬움이 남는다. 2회차로 읽고 다시 한 번 독후감을 써 볼 요량이다.