AGI

의식의 근원은 정녕 뉴련과 신경계에서 나오는가. 우리의 뇌는 뉴런 세포들의 전기적, 화학적인 소통을 한다. 이 글을 보고 있는 이의 뇌 안에서도 뉴런은 끊임 없이 작동하고 있다. 의식의 근원은 완전히 밝혀지지 않았지만, 가장 유력한 후보는 뉴런으로 이루어진 거대한 네트워크다. 뉴런은 화학적 신호를 받아 전기적으로 활성화 되며, 이 전기적 흐름은 화학물질 주머니를 자극해 방출을 유도한다. 뉴런 자체는 의식과 같은 신비감이 없는 완전히 물리 화학적인 기계적 장치다.
 
딥러닝은 이 뉴런을 피상적으로 모방한 인공 신경망을 사용한다. 입력층에 입력된 값들이 여러개의 노드로 구성된 은닉층을 여러개 거쳐 출력층에 도달한다. 이를 다층 퍼셉트론이라고 한다.
먼저 퍼셉트론은 인공지능에서 가장 기본적 신경망 모델이며, 하나의 뉴런과 비슷하다.
입력값들에 가중치를 곱해 더하고, 이 값이 임계값을 넘으면 1출력, 아니면 0을 출력한다. 즉 선형 분류기 역할을 한다.
앞서 말한 다중 퍼셉트론(MLP)은 퍼셉트론을 여러층 쌓은 피드포워드 신경망이라 할 수 있다. 입력층, 은닉층, 출력층으로 앞서 말한 것과 같이 구성돼 있으며, 각 층에서 활성화 함수(ReLU, Sigmoid, Leaky ReLU, tanh, Maxout, ELU)를 통해 입력을 처리한다.
 
딥러닝의 한계
알파고와 같은 딥러닝 기반 인공지능은 특정 분야에서는 특출나지만, 진정한 의식, 지능을 가진 것이 아니다. 인간의 학습 방식과는 근본적으로 다르며. 유연한 학습 능력이 부족하다.
 
튜링 테스트란 우리가 기계에게 질문을 던졌을 때, 대답만으로 사람인지 기계인지 구분할 수 없다면. 그 기계는 지능과 의식을 가진 존재로 볼 수 있을까? 이것이 튜링 테스트다.
하지만, GPT 모델이 튜링 테스트를 통과한다고 해서 지능을 가졌다 볼 수 있을까? 튜링 테스트는 지능이 무엇인가에 관한 질문을 회피하고 있다. gpt가 튜링테스트를 통과했다고 해도 이 기계는 단순히 신경망으로 학습한 문장들의 조합을 바탕으로 통계적으로 질문에 적절한 문장을 뱉어내는 단순한 입출력 기계에 불과하다는 것을 알고 있다. GPT는 질문을 완벽히 이해한 것이 아닌, 통계정으로 가장 그럴 듯한 단어를 차례로 생성하는 것이다.
 
인간은 신체 감각을 통해 끊임 없이 학습하며, 세계 모델을 구축한다. 던진 공이 사물과 어떻게 상호작용하는지 알고 싶다면, 공을 관찰하면 된다. 상호작용 속에서 인과관계를 파악하여 세계 모델을 만드는 것이다. 하지만 딥러닝은 다르다. 우리는 이 모델을 토대로 다음에 어떤 일이 발생할지 예상도 한다. 예를 들어 던진 공이 빌딩을 부순다면 우린 낯선 감정을 느낀다. 다섯 살 아이조차 장난감 칼로 여러 물건들을 때려 보며, 세계 모델을 구축한다. 하지만 우리는 이 다섯 살 아이의 지능을 가진 기계를 만들어내지 못하고 있다. 공의 움직임 에측을 위해 관련 데이터를 모두 입력하고, 머신러닝하는 게 의미가 있을까? 일상 지식을 컴퓨터에게 제시하는 방법을 해결하지 못하면, 어쩌면 우리는 진정한 지능을 가진 기계를 만들 수 없을 것이다.
 
게임을 보자. 바둑, 체스, 장기 등 게임들은 딥러닝을 통해 게임 룰을 습득시키고 게임할 수 있다. 하지만 이들은 하나의 프로그램으로 통합되지 못하고 별개의 프로그램으로 구동된다. 반면, 사람은 체스와 장기를 동시에 두며, 말로 상대방을 도발할 수도 있다. 딥러닝은 인간에 비하면 초라하다. 따라서 지능은 한 작업을 얼마나 잘 해내느냐가 아닌, 어떤 일이든 유연하게 배울 수 있는가로 측정해야 할지 모른다. 이것들을 종합한다면, 현재의 인공지능에겐 ‘지능이 없다.‘라는 결론을 내릴 수 있다.
 
다음의 문제는 신경망이 어떻게 작동되는지 우리는 알 수 없다는 것이다. 딥러닝은 아주 좋은 결과를 제시한다. AI는 아주 잘 작동하는데 우리는 이것이 왜 잘 작동하는지 알지 못하고 있다. 왜 잘 작동하는지 모르니 언제 잘못 작동하게 될지도 모른다. 딥러닝은 내부 작동 과정의 해석이 어렵다. 또한 딥러닝은 트레이닝 데이터 실제 데이터의 차이로 인해 발생하는 Data shift문제가 있고, 비슷한 예측을 하는 모델들은 서로 너무 다른 가중치를 가져 어떤 모델이 타당한지 혼란을 일으키는 Underspecification문제가 있다. 이 두 개 문제 때문에도 의료와 같은 분야에 빠르게 적용되지 못하고 있다.
 
역전파 학습의 한게. 딥러닝의 핵심은 역전파 학습이다. 이가 뇌의 학습방식과 동일한지도 의문으로 남는다. 우리는 무언가 놓치고 있는 것 같다. 왜냐하면 뇌가 딥러닝처럼 순방향, 역방향 순서로 가중치를 가지며 미세조정 프로세스를 거치거나 supervised learning과 같은 뭔가를 할까? 딥러닝은 뇌 작동 방식을 정확히 알지 못한 채, 막연한 모방을 하고 있는 것 같다.
 
이처럼 딥러닝은 유망하면서도 우리의 발목을 붙잡는 듯하다. 이 딥러닝은 우리의 꿈 AGI(인공 일반 지능)을 실현할 주인공이 아닐지 모른다. 딥러닝은 더이상 뇌 신경 과학을 신경쓰지 않고, 수학, 컴퓨터공학에 의존하며 독자적인 길을 가고 있다. 근본적 문제가 확실해진다면, 딥러닝을 버리고 AGI 실현을 위한 새로운 방법을 찾아야 한다.
 
예쁜꼬마선충은 연구자들의 사랑을 받는다. 왜냐하면 구조가 간단하기 때문이다. 기술력이 많지 않은 과학자여도 생물학적 정보에 접근할 수 있다. 예쁜꼬마선충의 뉴런 지도가 나왔을 정도이다. 신경세포가 302개밖에 없기 때문이다. 이 뇌지도를 Connectome 커넥톰이라고 한다. 최근에는 AI를 활용하여, 완전한 초파리의 뇌지도가 나오기도 했다.
https://www.bbc.com/korean/articles/c8rd0647d71o

초파리 ‘뇌 지도’ 완성 …  인간의 뇌 이해하는 데 도움 될 것 - BBC News 코리아

뉴런 13만 개 이상 , 시냅스 5000만 개 이상으로 연결된 초파리의 뇌

이 예쁜꼬마선충의 뇌지도로 로봇을 만들었다. 이 로봇의 움직임을 통해 생명체의 행동, 지능, 그리고 의식의 근원은 이 신경망의 구조에서 비롯될 수 있다는 가능성을 얻었다.
 
만약 그렇다면, 뇌의 막연한 모방이 아닌, 인간의 커넥톰을 만드는 것이 AGI의 실마리를 푸는 가장 빠른 길일지 모른다. 하지만 이는 매우 어렵다. 약 860억 개의 뉴런과 100조 개의 시냅스가 존재하기 때문이다.
 
HBP라는 인간 뇌 프로젝트가 진행 중이다. 이는 뇌를 완전히 시뮬레이션한다는 프로젝트지만 HGP와 달리 실패할 가능성이 크다. 하지만 이 노력은 인간의 지능과 의식을 이해하는 데 중요한 출발점이 될 것이라고 본다. 또한, 이 뇌를 물리적 네트워크를 컴퓨터로 구현했을 때 의식이 창발한다는 보장이 없다.
 
만약 우리가 AGI를 만들어낸다면 가정하자.
인간은 경험을 통해 배우고, 배운 것을 다양한 상황에 적용하며 동시에 여러 가지 일을 수행할 수 있다. 반면, 특정 분야에 특화된 능력을 가지는 것은 곤충과 같은 생명체에게 주로 나타나는 특징이다.
AGI가 현실화된다면, 인간과 유사한 방식으로 세계를 인식할 가능성이 크다. 따라서, 아무리 기술이 발전한다고 해도 인간을 모든 면에서 완벽히 초월하는 '초지성'이 등장하기는 어렵다고 본다. 왜냐하면, AGI가 인간과 비슷한 세계관과 인식 체계를 공유해야 하기 때문에, 갑작스러운 지능의 폭발적 성장은 일어나지 않을 가능성이 높다는 판단에서다.
 
우리가 상상한 특이점이 오지 않는다면, AGI의 궁극적인 비전은 무엇이 되어야 할까.
모든 생물의 목표는 자신의 유전자를 보존하는 것이다. 인류가 더 이상 존재하지 않게 됐을 때 우리가 보존하고자 노력해야 하는 것은 무엇일까. 제프 호킨스는 우리가 남겨야 하는 것이 ’인류의 지식‘이라고 한다. AGI야 말로 우주에 우리가 존재했고, 훌륭한 문화를 만들어 냈다는 것 그리고 AGI의 창조주라는 것을 증명하는 강력한 증거이자, 우주를 비추는 지성의 마지막 봉화가 되는 것이다.