책의 저자 제프 호킨스는 상당히 흥미롭고 설득력 있는 사고 실험들을 제시한다. 특히 ‘컴퓨터에 뇌를 업로드하는 일이 매력적이지 않은 이유’에 대해서 사고 실험과 함께 논리를 전개할 때에는 바로 고개를 끄덕여 버렸다. 하지만 반대로 납득하기 어려운 상상들도 있었다. 책에서는 AGI가 개발되는 경우 인류에 가할 실존적 위협에 대해서 논하는데, 과하게 낙관적이라는 생각이 들었다.
저자는 생존과 번식을 잘 하기 위해 설계된 오래된 뇌를 제외하고, 이성적인 뇌만 모델링하는 것을 전제로 AGI가 인류를 위협하지 않을 것이라고 이야기한다. 이 주장은 ‘감정과 실존을 담당하는 오래된 뇌를 업로드하지 않아도 AGI를 만들 수 있다’는 것을 전제로 펼쳐진다. 책의 일부를 인용해 보자.
하지만 나는 이 부분을 납득하기 어려웠다. 나는 과연 본능적인 뇌를 모델링하지 않고 AGI를 만들어내는 것이 가능한지 의구심이 든다. 저자는 책에서 오래된 뇌에서 처음 발견된 격자 세포와 비슷한 역할을 하는 영역이 MRI를 통해 새로운 뇌에서도 발견되었다는 실험을 언급한다. 정치나 언어와 같은 추상적인 개념이 신피질에 존재할 수 있다고 생각하는 저자 본인의 생각과 달리, 실존과 생존에 대한 개념이 신피질에 존재하지 않을 것이라고 생각하는 이유를 이해할 수 없었다.
일부 진화심리학자들은 본능적인 뇌와 논리적인 뇌에 형태적인 경계가 존재한다고 하더라도(ref4) 이성과 본능의 경계를 찾기 어렵다고도 이야기한다. 제프 호킨스가 생각하는 범용 지식 학습의 기본 원리는 감각-예측의 피드백 사이클이다(ref5). 사람이 움직이는 이유는 탐험 욕구이고, 탐험의 본질은 유전자의 생존 욕구이다(ref3). 사람은 감각기관을 통해 자극을 입력받고, 생존하기 위해 움직이며 세상에 대한 모델을 갱신한다. 학습의 대부분은 오래된 뇌의 생존 욕구에서 기인한다고도 해석할 수 있다. 이들 둘이 논리적으로 강하게 결합되어 있다면, 어떻게 오래된 뇌 없이 스스로 범용적인 작업을 학습할 수 있는 AGI를 만들 수 있을까.
parse me : 언젠가 이 글에 쓰이면 좋을 것 같은 재료을 보관해 두는 영역입니다.
1.
None
from : 과거의 어떤 원자적 생각이 이 생각을 만들었는지 연결하고 설명합니다.
1.
•
앞의 글은 이 책의 또다른 독후감으로, 제프 호킨스는 유전자에 의해 생겨나는 본능의 존재를 인정하는 사람이라는 이야기를 담았다. 이 글에서는 저자가 이성을 본능과 완전히 분리하여 모델링하여 AGI를 만들 수 있다고 생각한다는 내용을 다룬다.
2.
•
진화심리학은 인간이기 때문에 함으로 여겨지는 것들이 사실은 본능적인 것임을 밝혀낸다.
supplementary : 어떤 새로운 생각이 이 문서에 작성된 생각을 뒷받침하는지 연결합니다.
1.
None
opposite : 어떤 새로운 생각이 이 문서에 작성된 생각과 대조되는지 연결합니다.
1.
None
to : 이 문서에 작성된 생각이 어떤 생각으로 발전되거나 이어지는지를 작성하는 영역입니다.
1.
None
ref : 생각에 참고한 자료입니다.