The Vision of AI

딥러닝과 인공지능, 우리는 이런 단어들이 언제나 튀어나오는 시대에 살고 있습니다. 우리는 매트릭스, 터미네이터와 같은 SF 영화를 통해 해당 기술의 미래에 관해 어렴풋이 짐작해보기도 하죠. 알파고와 GPT-3와 같은 인공지능의 등장이 관심을 환기시키기도 하지만, 진지하게 이 과학 기술들이 현재 어디에 있으며, 어디까지 갈 수 있는가에 관해서는 깊이 생각할 기회가 많지 않았던 것 같습니다. 이 영상에서는 현재 가장 성공적인 인공지능이라고 여겨지는 '딥러닝'과 인공지능의 궁극적인 비전, '인공일반지능'에 관해 이야기해보겠습니다.

영상의 내용 중 일부는 다음을 참조하였습니다.

[1] 이렇게 입력에서 출력의 방향으로 이동하는 단순한 네트워크를 피드 포워드 신경망이라고 부르며, 입력과 출력 사이에 여러 개의 층이 있으므로 다층 퍼셉트론이라고도 부를 수 있습니다.
- 심층 학습, 이안 굿펠로 외 p.185

[2] 딥러닝은 입력값에서 결과값의 단순한 순방향 이동만이 아니라 역방향으로도 이동하며 가중치를 조절해 실제 점수와 신경망으로 얻은 점수의 오차를 계속 줄여나갑니다. 이것이 딥러닝의 핵심인 역전파 학습입니다.
- 심층 학습, 이안 굿펠로 외 p.238
- 브레인 모사 인공지능 기술, ETRI, 김철호 외, ETRI.2021.J.360311

[3] 우리는 GPT-3에게 이런 문장을 제시한 적이 있습니다. 그리고 GPT-3는 이 글을 보고 마치 사람과 같은 창작력으로 유려하게 스토리를 이어나갔죠.
- https://www.buildgpt3.com/post/88/

[4] 인간은 신체가 가진 감각을 통해 끊임없이 학습하면서 세계의 모델을 구축합니다.
- A Thousand Brain, Jeff Hawkins, p.130

[5] 던진 공이 사물과 어떻게 상호작용하는지 알고 싶다면, 우리는 그저 공을 관찰하는 것으로 충분합니다.
- Emperor’s New Mind, Roger Penrose

[6] 우리는 모든 측면에서 다섯 살 아이보다는 뛰어난 지능을 가진 기계를 만들어야 합니다. 하지만 아이의 능력이 대단한 것이든 혹은 기술의 발전이 더딘 것이든, 이 목표를 달성하기는 아직도 너무 어렵습니다.

- Emperor’s New Mind, Roger Penrose

[7] 공의 움직임을 예측하기 위해 관련된 모든 데이터를 입력하고 머신러닝을 하는 것이 의미가 있을까요?

- Emperor’s New Mind, Roger Penrose

[8] 일상의 지식을 컴퓨터에게 제시하는 방법을 해결하지 못하면 어쩌면 우리는 진정한 지능을 가진 기계를 만들 수 없을지도 모릅니다.
- A Thousand Brain, Jeff Hawkins, p.122

[9] 사람과 딥러닝의 또다른 차이는 다양한 모델을 처리하는 것과 관련이 있습니다. 우리는 체스와 바둑, 장기와 같은 게임간의 유사성을 발견하고 빠르게 학습합니다. 하나의 모델을 다른 모델에 적용하거나, 다양한 게임 모델을 동시에 가질 수 있는 것이죠.

- A Thousand Brain, Jeff Hawkins, p.134

[10] 게다가 딥러닝은 두 가지 주요한 문제로 인해, 현실적인 도입에 매우 큰 어려움을 겪고 있습니다. 첫 번째는 훈련 데이터와 실제 케이스의 차이로 인해 발생하는 Data Shift이고, 두 번째는 비슷한 예측을 보이는 여러 모델들이 서로 너무나 다른 가중치들을 가져서 어떤 모델이 타당한지 혼란을 일으키는 Underspecification입니다. 이러한 문제들 때문에 딥러닝은 의료와 같은 중요한 분야에 빠르게 적용되지 못하고 있죠. 우리는 여전히 전문가의 직관과 판단에 의존할 수밖에 없습니다.
- Underspecification Presents Challenges for Credibility in Modern Machine Learning, A. D’Amour, K. Heller, D. Moldovan, et al, arXiv:2011.03395v2 [cs.LG] 24 Nov 2020

[11] 일론 머스크는 초인적인 인공지능이 출현하기 5년도 채 안 남았다고 말했지만
- Elon Musk, Blasting Off in Domestic Bliss, New York Times

[12] 뇌가 딥러닝처럼 순방향과 역방향의 순서로 미세조정의 프로세스를 가지거나, 지도학습과 유사한 무언가를 하고 있을까요?

- 브레인 모사 인공지능 기술, ETRI, 김철호 외, ETRI.2021.J.360311

[13] 비록 딥러닝의 초기 아이디어는 뇌의 작동방식에 영감을 받았지만, 더이상 딥러닝은 뇌와 신경과학에 신경쓰지 않고 수학과 컴퓨터공학에 더 의존하며 독자적인 길을 가고 있다고 여겨집니다.
- 심층 학습, 이안 굿펠로 외 p.16

[14] 예쁜꼬마선충의 모든 신경 네트워크를 컴퓨터로 구현하고, 센서와 바퀴와 같은 입출력기관을 가진 이 장치는 어떠한 명령 없이도 자신의 의지로 움직이는 듯한 모습을 보여주었습니다. 신경망의 연결만으로 예쁜꼬마선충의 행동이 생겨난 것이죠.
- https://openworm.org/

[15] 사람은 860억 개의 뉴런을 가지고 있고, 뉴런간의 연결은 100조가 넘습니다.
- The Search for True Numbers of Neurons and Glial Cells in the Human Brain: A Review of 150 Years of Cell Counting, Christopher S. von Bartheld, Jami Bahney, Suzana Herculano-Houzel, J Comp Neurol. 2016 Dec 15; 524(18): 3865–3895.

[16] 하지만 실용적인 측면을 떠나서 우리가 인공일반지능을 상상하는 이유는, 우리를 인간답게 만드는 것이 무엇인지에 관한 철학적 통찰을 우리와 닮은 기계를 만들고자 하는 과정에서 얻을 수 있기 때문인지도 모릅니다.
- Emperor’s New Mind, Roger Penrose

[17] 인간의 뇌를 모사해 의식을 가지게 된 AGI는 인간과 동일한 물리적 시간에서 세계와 상호작용해야 함을 지적합니다. 이런 기계는 학습 속도가 빠르지 않을 가능성이 높습니다. 게다가 세계는 끊임없이 변하고, 우리의 인식도 그에 맞추어 변하고 확장합니다. 그렇기에 모든 면에서 인간보다 뛰어난 기계는 존재하기 어려울지도 모릅니다.
- A Thousand Brain, Jeff Hawkins, p.122

[18] 제프 호킨스는 우리가 남겨야 하는 것이 인류의 지식이라고 말합니다.
- A Thousand Brain, Jeff Hawkins, p.238

↑Back to Top