[AI News] 23.05.03 인공지능 대부 '제프리 힌턴' 교수, "생성 AI의 진화와 '킬러 로봇'이 현실이 되는 날이 두렵다!"

- 캐나다 토론토대학교 컴퓨터과학 교수이자 구글의 석학 연구원도 겸임하고 있는 제프리 힌턴(Geoffrey Hinton) 박사가 지난달 구글을 사임했다고 현지시간 1일, 뉴욕타임스(NYT)가 보도했다.

- 제프리 힌턴은 2000년대 중반 새로 쌓아 올린 인공신경망 레이어를 효율적으로 학습시키는 방법을 제시하면서 기존의 틀을 깨부순 딥러닝이라는 신기술을 등장시켰다. 이는 오늘날 인공지능과 생성 AI 모델의 근간이 되었다.

- 힌턴은 앤드류 응, 요수아 벤지오, 얀 르쿤 등과 함께 세계 인공지능 '4대 석학'으로 그 중 가장 대부격이다. 그는 1947년 영국 태생으로 인지심리학자이자 컴퓨터 과학자이다. 캐나다 최고 명문대인 토론토대학교의 교수로 구글의 석학 연구원도 겸임하고 있었다. 그는 수십 년 동안 인공지능 분야를 발전시킨 공로로 2018년 ‘컴퓨팅의 노벨상’으로 불리는 AM 튜링상(AM Turing Award)의 세 명의 수상자 중 한 명으로 선정되기도 했다.

- 이날 보도에 따르면 그는 인공지능 기술의 미래 버전이 인류가 분석하는 방대한 양의 데이터에서 예상치 못한 행동을 배우기 때문에 인류에게 위협이 되는 것을 우려했다. 또한 개인과 기업이 AI 시스템이 자체 컴퓨터 코드를 생성할 뿐만 아니라 실제로 자체적으로 해당 코드를 실행하도록 허용하기 때문에 이것이 문제가 된다고 말했다. 또한 그는 진정한 자율 무기인 '킬러 로봇'이 현실이 되는 날이 두렵다고 했다.

- 힌튼 박사는 구글을 그만둘 때까지 구글이나 다른 회사를 공개적으로 비판하고 싶지 않다고 말했다. 그는 지난달 회사에 사임을 통보했고, 지난 목요일(20일)에는 구글 모회사인 알파벳의 순다 피차이 최고경영자(CEO)와 전화 통화를 했다고 했으나 구체적인 내용은 밝히지 않았다. 즉, 사임한 가장 큰 이유로 구글을 떠나 'AI의 위험성'에 대해 자유롭게 말하고 의견을 내기 위한 것이라고 한다.

- 특히, 2012년에 힌튼 박사와 그의 제자 토론토대학교 학생 두 명, 현재 오픈 AI 공동설립자인 일리야 수츠케버(Ilya Sutskever), 알렉스 크리제브스키(Alex Krishevsky)와 AI 업체 DNN리서치를 창업하고 수천 장의 사진을 분석하고 꽃, 개, 자동차와 같은 일반적인 물체를 식별하도록 스스로 학습할 수 있는 신경망을 구축했다.

- 이 회사는 2013년 구글에 4,400만 달러에 인수되며, 힌튼 박사는 구글 부사장 겸 엔지니어링 펠로우로 연구 활동을 지속해 왔다. 그들의 시스템을 기반으로 한 인공지능은 현재, 챗GPT(ChatGPT) 및 구글 바드(Bard)와 같은 대화형 생성 AI를 포함하여 점점 더 강력한 인공지능으로 진화 중이다.

출처 : 인공지능신문(https://www.aitimes.kr)

 

추가 조사 

제프리 힌튼 교수, 그는 누구인가?

인공지능을 공부하는 분들이라면 못해도 한번쯤은 다들 들어보았을거다! 그 이유는 힌튼 교수는 neural network를 만든 대부이기도 하기 때문이다. (CNN도..) 🤩

제프리힌턴 교수님의 히스토리를 한번 살펴보면 1986년도 부터 backprop을 연구하셨다..헉..

1986년, 럼멜하트의 오류 역전파 알고리즘(BackPropagation Algorithm) 논문에 참여했다. 신경망과 인공지능 연구의 긴 겨울을 끝낸 기념비적인 논문이다. 역전파 알고지름과 다층 퍼셉트론이 XOR 문제를 해결할 수 없던 기존 퍼셉트론의 문제에 대한 해결책이 되었다.

하지만, 1990년대 인공신경망 연구는 기울기 소실 문제 등 한계에 부딪히며 어려운 시기를 보내야 했다. 연구에 대한 지원과 투자가 끊기고, 수 많은 연구자들이 떠났다. 하지만 힌튼은 포기하지 않고 계속해서 신경망 연구를 진행했다. 힘든 시기를 견디며 연구를 지속한 힌튼은 2006년 ‘A fast learning algorithm for deep belief nets’라는 논문을 발표한다. 이 논문은 심층 신뢰 신경망(Deep BeliefNetwork, DBN)이란 새로운 알고리즘으로 기존 신경망의 한계를 극복하고, 본격적인 딥러닝의 시대를 열게 되었다. DBN은 제한 볼츠만 머신을 여러층으로 쌓아 올린 형태로 사전 학습을 통해 기울기 소실 문제를 해결하고, 학습 도중에 고의로 데이터를 누락시키는 방법을 사용하여 새로운 데이터를 잘 처리하지 못하는 문제까지 해결한다.

1989년 힌튼의 지도를 받은 얀 레쿤과 요슈아 벤지오가 CNN(Convolution Neural Network)을 완성한다. 기존 볼츠만 머신에 역전파 알고리즘을 결합해 구현한 심층 신경망(Deep Neural Network)으로 딥러닝의 전성기를 열었다. 이를 적용한 AlexNet이 2012년 ILSVRC(ImageNet Large Scale Visual Recognition Challenge)에서 압도적 성적으로 우승을 차지하며 이후 깊은 구조(Deep Architecture) 기반의 딥 러닝 알고리즘이 주류를 이루게 된다.

이 후, 2018년에는 컴퓨터 과학 분야의 노벨상으로 불리는 튜링상을 수상했다. 구글 스칼라에서 공식 집계한 출간 논문의 피인용 건수는 59만건이 넘고, 이 중 70%이상이 최근 5년 사이에 집중될 정도로 학계에 큰 영향을 주고 있다.

 

3줄 느낀점

1. 힌튼 교수님의 위대함은 익히 알고 있었으나 다시 그의 업적을 되새기니 가슴이 뛴다! 🤩

2. 구글에서 사임한 지프리 힌턴 교수님이 앞으로 AI에 대해서 어떤 소신 발언을 이어 나갈지 기대 된다.

3. 최근, backprop을 하지않고 nn가 동작할 수 있다는 논문도 최근에 나왔는데 복잡한 구조의 nn의 발전이 기대된다.