Gaegul's devlog
[AI News] 23.03.08 '생성 AI'는 앞으로 사회 어떤 분야에서, 어떤 영향을 미칠 것인가!...스탠퍼드大 리더와 글로벌 석학 12명의 생각은? 본문
[AI News] 23.03.08 '생성 AI'는 앞으로 사회 어떤 분야에서, 어떤 영향을 미칠 것인가!...스탠퍼드大 리더와 글로벌 석학 12명의 생각은?
부지런깨꾹이 2023. 3. 11. 15:48
본문 내용
ImageNet을 구축했으며 현재 HAI 공동책임자 페이 페이 리(Fei-Fei Li) 교수는 “AI의 위대한 변곡점(AI’s Great Inflection Point)"으로 머신에 이러한 기능은 즉 생성 기능을 부여하는 것은 여러 세대에 걸친 AI 과학자들의 꿈이었습니다”라고, 스탠퍼드 인공지능연구소 크리스토퍼 매닝 소장은 “이 AI 모델은 토니 모리슨 수준의 소설이나 그녀의 생생한 경험을 제공하지는 못하겠지만, 매우 흥미로운 소설을 만들어낼 것이라고 믿습니다”라며..
생성 인공지능(Generative AI)은 텍스트 프롬프트를 기반으로 새로운 콘텐츠를 생성하는 인공지능의 하위 집합이다. 챗GPT(ChatGPT)는 에세이를 작성할 수 있고, 텍스트로 이미지를 생성하는 인공지능 미드저니(Midjourney) 아름다운 삽화를 만들 수 있으며, 뮤직LM(MusicLM)은 제시한 텍스트로 작곡할 수 있다. 대부분의 최신 생성 AI는 기본 모델 또는 대규모 자체 감독을 사용하여 광범위한 데이터에 대해 훈련된 후 광범위한 다운스트림 작업에 맞게 조정되는 AI 모델에 의해 구동된다.
이러한 모델이 우리의 삶, 지역 사회 및 사회에 제공하는 기회는 막대하며, 위험도 마찬가지다.
한편으로는 인간의 노동력을 완벽하게 보완하여 우리를 더 생산적이고 창의적으로 만들 수 있지만, 다른 한편으로는 우리가 이미 경험하고 있는 편견을 증폭시키거나 정보에 대한 신뢰를 약화시킬 수 있다. 이러한 기술이 우리 모두에게 혜택을 주려면 학제 간 협력이 필수적이다. 이에 의학, 과학, 공학, 인문학 및 사회과학 분야에서 생성적 AI가 자신의 분야와 세계에 어떤 영향을 미칠 수 있는지에 대한 관점과 일부는 이 기술이 사회에 미치는 영향을 연구하고, 다른 일부는 이러한 기술을 자신의 분야를 발전시키기 위해 가장 잘 적용하는 방법을 연구하고, 일부는 기초 모델의 기초가 되는 알고리즘의 기술적 원리를 개발했다.
이에 스탠퍼드 인간중심 인공지능연구소(Human-Centered Artificial Intelligence. HAI)가 생성 AI가 의학, 교육, 디자인, 법률, 예술, 일 등의 분야를 어떻게 변화시키기를 기대하는지를 12명의 스탠퍼드 대학교(Stanford University) 교수 및 글로벌 리더들의 생성 AI가 '앞으로 사회 어떤 분야에서 , 어떤 영향을 미칠 것'이라고 생각하는지에 대한 기고를 담아 '생성 AI: 스탠퍼드 HAI의 관점(Generative AI: Perspectives from Stanford HAI)'란 제목으로 6일 발표했다.
먼저, ImageNet을 구축했으며, 현재 스탠퍼드 인간중심 AI 연구소의 공동책임자이자 컴퓨터공학과 페이 페이 리(Fei-Fei Li) 교수는 'AI의 위대한 변곡점(AI’s Great Inflection Point)' 란 주제로 "머신에 이러한 기능은 즉 생성 기능을 부여하는 것은 여러 세대에 걸친 AI 과학자들의 꿈이었습니다."라고 요약했으며, 생물의학 교수 겸 데이터과학 및 컴퓨터 과학 교수 러스 알트만(Russ Altman) '가상 환자의 잠재력'란 주제로, 방사선과(흉부 영상), 의생명 정보학 연구 및 의생명 데이터 과학 커티스 랭글로츠(Curtis Langlotz) 교수는 '환자 치료에서 청구까지 의료 서비스 혁신', 응용 물리학 및 신경 생물학 수리야 강굴리(Surya Ganguli) 교수는 '자연을 들여다보는 AI 창', HAI 공동 창립자이자 부소장으로 인간과 컴퓨터의 상호 작용을 전문으로 하는 제임스 랜데이(James Landay) 교수는 '일상 생활의 새로운 도구',란 주제로 인간중심인공지능연구소 교수부소장이자 인문학 미셸 엘람(Michele Elam) 교수는 '시는 최적화되지 않습니다: AI 시대의 창의성', 스탠퍼드 규제, 평가 및 거버넌스 연구소(RegLab) 소장이자 법학· 정치학 다니엘 E. 호(Daniel E. Ho) 교수는 '생성적 AI와 법치주의', 스탠퍼드 기초모델 연구센터 소장이자 컴퓨터 과학 퍼시 리앙(Percy Liang) 교수는 '새로운 캄브리아기 시대: 과학적 흥분, 불안',이란 주제로
세계 최고의 디지털 경제 전문가 중 한 명으로 스탠포드 디지털 경제연구소 소장인 에릭 브린졸프손(Erik Brynjolfsson) 교수는 '자동화가 아닌 노동력 증강을 위한 요청', 스탠퍼드인공지능연구소(SAIL) 소장으로 머신러닝 및 언어학 글로벌 석학인 크리스토퍼 매닝(Christopher Manning) 교수는 '업무의 재창조'란 주제로
스탠퍼드 사회 윤리 센터 소장이자 정치학·철학 롭 라이히(Rob Reich) 교수는 '교육, 만들어지는 재앙', 구글 핵심 검색 알고리즘 그룹과 구글 연구그룹을 지휘했으며, NASA 에임스 전산과학부문 책임자를 역임한 HAI 특별연구원 피터 노르빅(Peter Norvig) 박사는 '교육 시스템의 불평등 해결'란 각각의 주제로 생성 AI가 앞으로 사회 어떤 분야에 어떤 영향을 미칠 것이라고 생각하는지에 대한 기고를 담아냈다.
[생성 AI: 스탠퍼드 HAI의 관점(Generative AI: Perspectives from Stanford HAI)]
1. 'AI의 위대한 변곡점(AI’s Great Inflection Point) - 페이 페이 리(Fei-Fei Li)
2. 가상 환자의 잠재력' - 러스 알트만(Russ Altman)
3. '환자 치료에서 청구까지 의료 서비스 혁신' - 커티스 랭글로츠(Curtis Langlotz)
4. '자연을 들여다보는 AI 창' - 수리야 강굴리(Surya Ganguli)
5. '일상 생활의 새로운 도구' - 제임스 랜데이(James Landay)
6. '시는 최적화되지 않습니다: AI 시대의 창의성' - 미셸 엘람(Michele Elam)
7. '생성적 AI와 법치주의' - 다니엘 E. 호(Daniel E. Ho)
8. '새로운 캄브리아기 시대: 과학적 흥분, 불안' - 퍼시 리앙(Percy Liang)
9. '자동화가 아닌 노동력 증강을 위한 요청' - 에릭 브린졸프손(Erik Brynjolfsson)
10. '업무의 재창조' - 크리스토퍼 매닝(Christopher Manning)
11. '교육, 만들어지는 재앙' - 롭 라이히(Rob Reich)
13. '교육 시스템의 불평등 해결' - 피터 노르빅(Peter Norvig)
이 중에 첫번째 기고인 페이 페이 리의 'AI의 위대한 변곡점'에 대한 본문이다.
'AI의 위대한 변곡점(AI’s Great Inflection Point)' – Fei Fei Li
5억 4천만 년 전, 동물 종의 수는 매우 짧은 기간에 폭발적으로 증가했다. 무슨 일이 일어났는지에 대한 많은 이론들이 있지만, 하나는 내 관심을 사로잡았다.
시각의 갑작스러운 시작과 그에 따른 진화. 오늘날, 시각적 지각은 주요한 감각 시스템이고 인간의 마음은 세상의 패턴을 인식하고 모델이나 개념을 생성할 수 있다.이 패턴들 위에 이러한 능력, 생성 능력을 갖춘 기계를 제공하는 것은 많은 AI 과학자들에게 꿈이었다. 다양한 진행 정도를 가진 생성 모델에 대한 알고리즘 시도의 오랜 역사가 있다.
1966년 MIT의 연구원들은 "서머 비전 프로젝트"를 개발했다. 기술로 "시각 시스템의 중요한 부분"을 효과적으로 구성한다. 이것은 컴퓨터 비전과 이미지 생성 분야의 시작이었다.
최근 딥 러닝과 대규모 데이터의 심오하고 상호 연결된 개념으로 인해 우리는 기계가 언어, 이미지, 오디오 등을 생성하는 능력에 변곡점에 도달한 것으로 보인다. 인간이 볼 수 있는 것을 보기 위해 인공지능을 만드는 것이 컴퓨터 비전의 영감이었지만, 이제 우리는 인간이 볼 수 없는 것을 보기 위해 인공지능을 만드는 것을 넘어서야 한다. 우리의 비전을 강화하기 위해 생성적 인공지능을 어떻게 사용할 수 있을까?
정확한 수치는 논란의 여지가 있지만, 미국에서 의료 실수로 인한 사망은 중대한 문제이다. 생성적 인공지능 모델은 의료 제공자가 다른 방법으로 놓쳤을 수도 있는 잠재적인 문제를 보는 데 도움이 될 수 있다. 또한, 실수가 희귀한 상황에 대한 최소한의 노출로 인한 것이라면, 생성 AI는 이 희귀한 데이터의 시뮬레이션 버전을 생성하여 AI 모델 또는 의료 제공자 자신을 추가로 훈련시킬 수 있다.
우리 연구소의 로봇 작업을 벤치마킹하기 위한 최근 프로젝트에서, 프로젝트 팀은 연구를 시작하기도 전에 대규모 사용자 연구를 수행하여 로봇이 이러한 특정 작업을 수행할 경우 얼마나 많은 이익을 얻을 수 있는지를 사람들에게 물었다. 승리한 과제들이 연구의 초점이 되었다. 또한, 새로운 생성 도구를 개발하기 전에 사람들이 이러한 도구로부터 무엇을 원하는지에
초점을 맞춰야 한다. 우리 연구소의 로봇 작업을 벤치마킹하기 위한 최근 프로젝트에서, 프로젝트 팀은 연구를 시작하기도 전에 대규모 사용자 연구를 수행하여 로봇이 이러한 특정 작업을 수행할 경우 얼마나 많은 이익을 얻을 수 있는지를 사람들에게 물었다. 승리한 과제들이 연구의 초점이 되었다.
이러한 능력, 생성 능력을 갖춘 기계를 제공하는 것은 많은 AI 과학자들에게 꿈이었다.
생성적 인공지능이 창출하는 중요한 기회를 완전히 실현하기 위해서는 관련 위험도 평가해야 한다.
Joy Buolamwini는 "젠더 쉐이드"라는 제목의 연구를 발표했는데, AI 시스템이 종종 여성과 유색인종을 인식하지 못한다는 것을 발견했다. 연구 결과는 2018년에 발표되었다. 우리는 특히 대표되지 않은 인구에 대한 생성 AI 모델에서 유사한 편향을 계속 보고 있다. AI를 이용해 이미지 생성 여부를 판단하는 능력도 필수다. 우리 사회는 시민권과 정보의 신뢰 위에 세워진다. 만약 우리가 이미지가 인공지능으로 생성되었는지 쉽게 판단할 수 없다면, 어떤 정보에 대한 우리의 신뢰는 약화될 것이다.
이 경우, 우리는 이 기술의 적대적인 사용에 특히 취약할 수 있는 인구에 특별한 주의를 기울일 필요가 있다.
인간이 할 수 없는 것을 볼 수 있는 AI의 능력을 탐구할 수 있는 잠재력과 마찬가지로 콘텐츠를 생성하는 기계의 능력의 발전은 매우 흥미롭다. 하지만 우리는 이러한 능력들이 우리의 일상 생활, 우리의 공동체, 그리고 세계 시민으로서의 우리의 역할을 방해하는 방식에 주의를 기울일 필요가 있다.
느낀점
페이 페이 교수님의 'AI의 위대한 변곡점' 본문 내용 중에 " 인간이 볼 수 있는 것을 보기 위해 인공지능을 만드는 것이 컴퓨터 비전의 영감이었지만, 이제 우리는 인간이 볼 수 없는 것을 보기 위해 인공지능을 만드는 것을 넘어서야 한다. " 이 말이 나에게 전율을 주었다. 결국 AI 가 존재해야 하는 이유, 목적을 정확하게 전달하는 것 같아서 흥미로운 글이었다. AI는 인간이 할 수 없는, 비효율적인 일을 하는 것이 옳다고 생각한다. 또한, 앞으로 AI 가 발전되어야 하는 방향성을 제시하는 내용들이 많아서 다양한 인사이트를 얻을 수 있는 기고이다.
관심있는 분들은 pdf 를 다운 받아서 읽어 보길 바란다! ☺️
