로봇시대에 불시착한 문과형 인간 1

 

 

현재의 인공지능에게는 윤리관도, 철학도 없다. 선악이 무엇인지도 모른다.

 

예를 들어 인공지능을 탑재한 자율주행차(로봇카)의 개발로 문제가 되는 것은 기술이 아니다. 프로그램 개발이다. 프로그램을 만들 때 연구원은 어떻게 코드를 짜야 할지 고민한다.

 

만약 고양이가 갑자기 도로로 튀어나왔을 때 자율주행차는 어떻게 해야 할까? 인간이 튀어나왔을 때는 어떻게 해야 할까? 고양이가 나왔을 때는 그대로 주행하고, 인간이 나왔을 때는 급브레이크를 밟아야 할까?

 

즉 고양이의 생명을 인간의 생명과 비교해 어느 정도의 무게로 생각해야 할는지 설정하지 못하면 코드를 작성할 수 없다. 이것은 기술의 문제가 아니라 철학의 명제다.

 

즉 ‘인간이란 무엇인가’ ‘고양이와 어떻게 다른가?’ ‘인간의 생명과 고양이의 생명은 어떻게 다른가?’ 등을 명확하게 구분하지 않으면 인공지능은 무엇을 해야 하는지 알지 못하기 때문이다. -p10

 

 

 

 

 

인공지능 과학자들은 인공지능이 점, 직선, 곡선 또는 모든 조합을 통해 차례차례 읽어 들이는 형태를 ‘특징값feature value’이라고 한다. 한마디로 신경망은 대상으로부터 특유의 특징값을 추출하여 대상을 인식한다.

 

이처럼 특유의 특징값을 산출해 대상 2는 다른 대상 1 혹은 6과 구분되어 인식된다.

 

제1장에서 소개한 구글의 고양이 인식도 고양이 인식도 고양이라는 대상 특유의 특징값을 추려내 집적함으로써 고양이로 인식하는 것이다. -p49

 

 

 

딥러닝 획기적인 이유는 누군가에게 배우지 않고도 인공지능 기계가 스스로 특징값 추출을 해낸다는 점에 있다.

 

마치 인간이 새로운 미지의 대상을 만났을 때, 다른 사람에게 배우지 않고도 그 대상물의 특징을 스스로 인지한 다음 다른 대상과 구별하여 인식하는 구조와 동일한 효과다.

 

딥러닝이 등장하기 전에는 인간인 프로그래머가 대상의 특징을 인공지능에게 일일이 알려주어야 했다. 생각해보면 엄청난 양의 작업이다. -p50

 

 

 

지도 학습(supervised learning) - 인간이 인공지능에게 일일이 특징값을 가르쳐야만 했던 싣의 방식.

 

비지도 학습(unsupervised learning) - 특징값을 자동으로 학습하는 방식

 

 

 

인공지능 과학자 마쓰오 유타카가 말했듯이 인공지능에게 “‘계산의 목적’을 가르치는 일”이 가장 중요하다.

 

명령 없이 목적을 부여하기만 해도 딥러닝은 명령에 따라 충실하게 작동한다. 정리하면 사전에 “대상을 정확하게 인식하라.”라는 목표를 인공지능에게 명령하기만 해도 이후 딥러닝은 자동으로 대상을 정확하게 인식한다.

 

그런 의미에서 딥러닝이라는 인공지능도 인간의 명령을 따르는 도구에 불과하다. 이렇듯 현대 딥러닝은 자동 학습기이지 자발적 학습자가 아니다.

 

인간처럼 지적 호기심을 바탕으로 학습하는 구조가 아니기 때문이다. 딥러닝은 목적과 목표를 자율적으로 설정하지 않는다. 따라서 현 단계에서는 인공지능이 인간을 뛰어넘어 다른 생명체처럼 행동할 수 없다는 사실을 알 수 있다. -p54

 

 

 

인공지능 엔지니어 아사이 노보루가 저서 <<엑셀로 배우는 인공지능>>에서 지적하듯이 딥러닝, 즉 심층학습은 인간이 깨닫지 못하는 부분을 간파한다. 아사이 노보루는 다음과 같이 말했다.

 

“심층학습은 인간이 예측하지 못한 특징값을 추출하기도 합니다. 인간 입장에서 보면 숨겨진 데이터 속에서 보물을 찾아주는 고마운 도구이지요. 하지만 특징값을 추출하는 과정은 알 수 없습니다. 어째서 이러한 결론이 나왔는지 영원히 이해하지 못할 가능성도 있습니다.”  -p56

 

 

 

그럼에도 어떤 부분에서 인공지능은 이미 인간의 생각을 뛰어넘었고, 인간이 그은 선을 안쪽에서부터 무너뜨리며 혼자서 행동하기 시작했다.

 

이것이 딥드림이 제시한 그림을 ‘악몽 회화’라고 하듯이 인공지능이 야기하는 섬뜩함이다. 이 섬뜩함 때문에 어떤 사람들은 당장이라도 딥러닝이 인간을 멸망시킬 것이라며 두려워한다.

 

하지만 여러 차례 이야기했듯이 현재 인공지능 기술로는 불가능하다. 그렇다고 해서 오늘날의 불가능이 앞으로 영원히 인공지능이 인간을 뛰어넘지 못하리라고 보증하는 것은 아니다. -p59

 

 

 

구글 딥 드림온이 그린 그림