[리뷰] 지능의 기원

저도 okky 에서 추천받고 읽어봤습니다.
https://okky.kr/articles/1535680
서평이 올라온걸 보고 개인적인 리뷰를 공유합니다.
—————————————-————

지능이 진화하면서 나타난 다섯 가지 혁신에 대해서 소개한다.
조종, 강화, 시뮬레이션, 정신화, 언어 라는 혁신과 어떤 진화적 압력에 의해서 혁신이 일어났는지,
또 각각의 지능의 생물학적 매카니즘이 AI 분야의 발전에서는 어떻게 데칼코마니처럼 재현되었는지 이야기 한다.
각 장에서 어떤 혁신이 일어났는지 잘 요약해준 점이 친절하다.
지능이 혁신해온 과정을 들어다 보면서 지능의 여러 속성에 대해서 알 수 있다.

다음 혁신이 있기위해선 반드시 그전의 혁신이 있었고 사라지지 않고 지금도 우리의 뇌에 존재하고 있다는 사실이 흥미롭다.
예를 들면 우리는 여전히 기저핵을 중심으로 강화학습과(도파민이 신뢰할당 문제 해결에 사용되고 기저핵은 도파민 분비를 극대화 하는 행동을 반복하도록 학습한다.)
새 겉질의 시뮬레이션을 능력을 활용한 모델 기반 강화학습, 각각 장단이 있는 두가지 메카니즘을 모두 사용한다. (생각에 관한 생각에서 시스템1 시스템2 로 설명되었다.)

정신화(mentalizing) 혁신을 통해서 마음에 대한 모델을 만들고 이를 통해 자기자신과 타인의 마음에 대해서 시뮬레이션을 할 수 있게 되었고, 이를 통해 마침내 마지막 혁신인 언어로 나아간다.
언어를 통해서 아이디어를 축적할 수 있게 되면서 이제 인류의 지능은 다른 축으로 진화하게 된다.

책이 쓰였을 당시에는 GPT4 가 등장했다. 저자는 모델 없는 학습을 하는 LLM 의 한계에 대해서 이야기 한다.
내가 책을 다 읽었을 시점에서 AI 는 더욱 발전해서 세계를 모델링 하는 Genie3 라는 모델이 등장했다.
이제 더 길고 정교하게 세계 모델을 구성하도록 발전해 나갈 것이다.
이제 인간과 같은 AI를 만들기 위해 남은 문제는 연속학습과 마음에 대한 모델을 가지는 것이다.
(무시무시한 "종이 클립 문제"를 보면 다른 능력보다 마음에 대한 모델이 먼저 발전해야 할 것 같다.)

저자는 여섯번째 혁신은 인공 초지능의 창조가 될 가능성이 크다고 말하면서,
우리가 아는 생물학적 진화의 과정이 사라지게 될 것 이라고 이야기 한다.

인상깊은 구절

...5장 혁신, 생각 축적하기 섹션 중...
DNA에 비유해도 좋겠다. DNA의 진정한 힘은 그것이 구축한 산물(심장, 간, 뇌)이 아니라 그것을 통해 가능해진 과정(진화)에 있다.
마찬가지로 언어의 힘도 그 산물(더 나은 가르침, 협동, 공통의 신화)이 아니라 아이디어가 세대를 이어가며 전달되고 수정될 수 있도록 길을 터준 그 과정에 있다.
유전자가 부모의 세포에서 자식의 세포로 뛰어넘으며 존속되듯이 아이디어도 뇌에서 뇌로, 세대에서 자식의 세포로 뛰어넘으며 존속된다. 
유전자와 마찬가지로 이런 뛰어넘기 역시 균일하지 않아서 자체적으로 유사진화적인 규칙에 따라 작동한다. 
이 과정에서도 지속적으로 좋은 아이디어는 살아남고 나쁜 아이디어는 도태된다. 인류의 생존에 도움이 되는 아이디어는 살아남지만 그렇지 못한 아이디어는 소멸한다.
...
언어의 등장은 인류의 역사에서 변곡점에 해당한다. 아이디어의 진화라는 새롭고 독특한 진화가 시작되는 시간적 경계선인 것이다.
언어의 등장은 자기복제하는 DNA의 등장만큼이나 기념비적인 사건이었다. 언어는 인간의 뇌를 덧없이 차자왔다 사라지는 기관에서 축적된 발명을 저장하는 영구적인 매체로 바꿔놓았다.