제프리 힌턴
제프리 힌턴 Geoffrey Hinton | |
![]() 2024년의 모습 | |
출생 | 1947년 12월 6일 |
---|---|
분야 |
제프리 에버리스트 힌턴(영어: Geoffrey Everest Hinton, 1947년 12월 6일~)은 인공지능(AI) 분야를 개척한 영국 출신의 컴퓨터과학자이자 인지과학자, 인지심리학자이다. 캐나다에 위치한 토론토 대학교에서 컴퓨터 과학 교수로 재직중이며 구글 브레인(Google Brain)석학 연구원도 겸임했었으나 2023년 인공지능(AI)의 위험성에 대해 경고하며 퇴사하였다.[1][2] 2017년에는 토론토에 소재한 벡터 연구소(Vector Institute)를 공동 설립하고 수석 과학 자문으로 활동했다.[3][4]
힌턴은 1986년 데이비드 럼멜하트, 로널드 윌리엄스와 함께 발표한 논문에서 역전파(backpropagation) 알고리즘을 다층 신경망 학습에 적용하는 방식을 소개하여 널리 주목받았다.[5] 비록 이들이 해당 접근을 최초로 제안한 것은 아니었지만, 알고리즘의 대중화를 이끈 것으로 평가된다.[6] 힌턴은 딥러닝 분야를 선도하는 인물로 여겨지며,[12] 그의 제자인 알렉스 크리제브스키와[13] 일리야 수츠케버와 함께 개발한 이미지넷 챌린지 2012의 알렉스넷(AlexNet)은[14] 컴퓨터 비전 분야에서 획기적인 성과로 간주된다.[15]
딥러닝에 대한 공로를 인정받아 2018년 요슈아 벤지오 몬트리올대 컴퓨터과학과 교수, 메타의 AI 과학자 얀 르쿤과 함께 컴퓨터 과학 분야의 노벨상 튜링상을 수상하였다. 존 홉필드과 함께 인공신경망에 대한 연구로 2024년 노벨 물리학상을 수여받았다.[16] 전통적인 물리학 이외에 다학제적 연구분야인 인공지능을 연구해 컴퓨터과학자가 노벨 물리학상을 받은 것은 이번이 첫 사례로 상당한 파격성을 띈다.
힌턴은 2023년 5월 구글을 떠나며 “AI의 위험성에 대해 자유롭게 말하고 싶다”고 밝혔으며,[17] 악의적인 사용자에 의한 오용, 기술적 실업, 인공지능의 존재론적 위험성 등 다양한 문제를 우려하고 있다.[18] 그는 AI 사용 경쟁에 참여하는 기업 및 국가 간의 협력을 통해 안전 가이드라인을 수립해야 한다고 주장했다.[19] 노벨상 수상 이후에는 인간보다 더 똑똑한 AI를 제어하기 위한 AI 안전 연구의 시급성을 다시금 강조했다.[20][21][22]
생애 초기
[편집]제프리 힌턴은 1947년 12월 6일[23] 영국 윔블던에서 태어나 브리스톨의 클리프턴 칼리지에서 교육을 받았다.[24] 1967년 케임브리지 대학교 킹스 칼리지에 입학한 그는 자연과학, 예술사, 철학 등 여러 전공을 전전하다가 결국 실험심리학으로 학사 학위를 1970년에 취득했다.[23][25] 이후 1년간 목공 일을 배우며 실무를 익힌 뒤, 다시 학문으로 돌아갔다.[26]
1972년부터 1975년까지 에든버러 대학교에서 인공지능을 전공했으며, 1978년에 크리스토퍼 롱게트-히긴스의 지도를 받아 박사학위를 받았다. 롱게트-히긴스는 기호주의 인공지능 접근법을 선호했으며, 이는 힌턴의 이후 연구와 대비된다.[25][27][28][26]
연구 활동
[편집]박사 학위 취득 후, 제프리 힌턴은 서식스 대학교와 MRC 응용심리학 연구소에서 일했다. 그러나 영국에서 연구 자금을 확보하는 데 어려움을 겪으면서,[26] 미국으로 건너가 캘리포니아 대학교 샌디에이고 캠퍼스와 카네기 멜런 대학교에서 연구를 이어갔다.[23] 이후 그는 유니버시티 칼리지 런던(UCL)의 개츠비 자선재단 계산신경과학 유닛의 초대 책임자를 맡았다.[23] 1987년부터 힌턴은 토론토 대학교 컴퓨터과학과의 교수로 임명되었으며, 현재는 명예 석좌교수로 재직 중이다.[29]
캐나다에 정착한 1987년, 힌턴은 캐나다 고등연구소(CIFAR)에 인공지능, 로보틱스 및 사회 프로그램의 펠로우로 참여했다.[30] 이후 2004년, 힌턴과 공동 연구자들은 "신경 계산 및 적응적 지각"(Neural Computation and Adaptive Perception, NCAP)이라는 새로운 연구 프로그램을 제안해 성공적으로 출범시켰으며, 이 프로그램은 현재 "기계와 뇌에서의 학습"(Learning in Machines & Brains)으로 명칭이 변경되었다.[31] 힌턴은 이 프로그램을 10년간 이끌었고,[32] 프로그램 구성원에는 요슈아 벤지오와 얀 르쿤도 포함되어 있으며, 이들은 함께 2018년 튜링상을 공동 수상했다.[33] 세 연구자는 현재도 CIFAR의 해당 프로그램에서 활동 중이다.[34]
힌턴은 2012년 코세라 플랫폼을 통해 신경망에 관한 무료 온라인 강좌를 개설해 대중 교육에도 기여했다.[35] 같은 해, 그는 토론토 대학교 컴퓨터과학과 소속 대학원생 알렉스 크리제브스키, 일야 수츠케버와 함께 DNNresearch Inc.를 공동 창업했다. 2013년 3월, 구글이 이 회사를 인수하면서 힌턴은 학계와 구글에서의 연구를 병행하게 되었다.[36][37]
힌턴의 연구는 기계학습, 기억, 지각, 기호처리 등에 신경망을 활용하는 방법에 초점을 맞추고 있으며, 그는 200편 이상의 동료 평가 논문을 발표했다.[38][39]
힌턴은 UCSD에서 박사후 과정을 밟던 시절, 데이비드 E. 럼멜하트, 로널드 J. 윌리엄스와 함께 역전파 알고리즘을 다층 신경망에 적용했다. 이들의 실험은 이러한 신경망이 유용한 내부 표현을 학습할 수 있음을 보여주었다.[40] 2018년 한 인터뷰에서,[41] 힌턴은 "역전파의 핵심 아이디어는 럼멜하트가 고안한 것"이라며 그 공로를 인정했다. 이들의 연구는 역전파를 널리 알리는 데 기여했지만, 최초의 제안은 아니었다.[42] 역전파의 특수한 형태인 역방향 자동 미분(reverse-mode automatic differentiation)은 세포 린나인마가 1970년에 제안했고, 폴 워보스는 1974년에 이를 신경망 학습에 사용할 수 있다고 주장했다.[42]
1985년, 제프리 힌턴은 데이비드 액클리(David Ackley), 테리 세이노프스키(Terry Sejnowski)와 함께 볼츠만 머신을 공동 개발했다.[43] 이외에도 힌턴은 신경망 연구에서 분산 표현(distributed representations), 시차 신경망(time delay neural network), 전문가 혼합 모델(mixtures of experts), 헬름홀츠 머신(Helmholtz machines), 전문가 곱(product of experts) 등의 개념을 제시하며 큰 공헌을 했다.[44] 그의 연구는 1992년 9월과 1993년 10월호의 《사이언티픽 아메리칸》 기사에 일반적인 대중을 상대로 기사가 작성되기도 했다.[45]
2007년, 힌턴은 이미지 변환의 비지도 학습에 관한 논문을 공동 저술했다.[46] 2008년에는 로렌스 판 데어 마텐(Laurens van der Maaten)과 함께 데이터 시각화 기법 t-SNE를 개발했다.[47][48]
2017년 10월과 11월에는 캡슐 신경망(capsule neural networks)을 주제로 한 두 편의 공개 논문을 발표했으며,[49][50] 그는 이를 "마침내 잘 작동하는 것"이라 평가했다.[51]
2022년 신경정보처리시스템 학회(NeurIPS)에서 힌턴은 새로운 신경망 학습 알고리즘인 "포워드-포워드(Forward-Forward)" 알고리즘을 발표했다. 이 알고리즘은 기존의 순전파-역전파 방식(backpropagation)을 대체하는 개념으로, 긍정적(실제) 데이터와 네트워크 자체가 생성한 부정적 데이터를 각각 한 번씩 순전파하는 방식이다.[52][53]
2023년 5월, 힌턴은 구글에서의 사임을 공개적으로 발표했다. 그는 인공지능의 위험성에 대해 자유롭게 발언하고 싶어서 사임을 결정했으며, 자신의 평생 연구에 대해 일말의 후회를 느낀다고 밝혔다.[54][55]
사생활
[편집]제프리 힌턴은 첫 번째 아내 로잘린 잘린(Rosalind Zalin)과 1994년 난소암으로 인 사별했다. 두 번째 아내 재클린 "재키" 포드(Jacqueline "Jackie" Ford)는 2018년 췌장암으로 사망했다.[56][57]
힌턴은 수학자이자 교육자인 메리 에베레스트 불(Mary Everest Boole)과 논리학자 조지 불의 고손자이다.[58] 조지 불의 연구는 불리언 자료형 등 현대 컴퓨터 과학의 기초 중 하나가 되었다. 힌턴의 또 다른 고조부는 외과의이자 작가였던 제임스 힌턴(James Hinton)으로, 수학자 찰스 하워드 힌턴(Charles Howard Hinton)의 아버지이기도 하다.
힌턴의 아버지는 곤충학자 하워드 힌턴(Howard Hinton)이다.[59] 힌턴의 중간 이름 ‘에베레스트(Everest)’는 인도 측량국장이었으며 히말라야의 에베레스트산의 이름 유래가 된 친척 조지 에베레스트(George Everest)에서 유래했다.[60] 그는 경제학자 콜린 클라크(Colin Clark)의 조카이기도 하다.[61]
힌턴은 19세 때 허리 부상을 입어, 오랜 시간 앉아 있는 것이 힘들다고 한다. 그는 평생 동안 우울증을 겪어 왔다.[62]
각주
[편집]- ↑ Daniela Hernandez (2013년 5월 7일). “The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI”. 《와이어드》. 2016년 9월 18일에 확인함.
- ↑ “요즘 뜨는 딥러닝, 알고보니 힌튼 교수 제자와 동료들이 이끈다”. 2015년 12월 29일. 2021년 4월 1일에 확인함.
- ↑ Hernandez, Daniela (2013년 5월 7일). “The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI”. 《Wired》 (미국 영어). 2014년 2월 8일에 원본 문서에서 보존된 문서. 2013년 5월 10일에 확인함.
- ↑ “Geoffrey E. Hinton – Google AI”. 《Google AI》 (미국 영어). 2019년 11월 9일에 원본 문서에서 보존된 문서. 2018년 6월 15일에 확인함.
- ↑ Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. (1986년 10월 9일). “Learning representations by back-propagating errors”. 《Nature》 (미국 영어) 323 (6088): 533–536. Bibcode:1986Natur.323..533R. doi:10.1038/323533a0. ISSN 1476-4687. S2CID 205001834.
- ↑ Schmidhuber, Jürgen (2015년 1월 1일). “Deep learning in neural networks: An overview”. 《Neural Networks》 (미국 영어) 61: 85–117. arXiv:1404.7828. doi:10.1016/j.neunet.2014.09.003. PMID 25462637. S2CID 11715509.
- ↑ Mannes, John (2017년 9월 14일). “Geoffrey Hinton was briefly a Google intern in 2012 because of bureaucracy – TechCrunch”. 《TechCrunch》 (미국 영어). 2020년 3월 17일에 원본 문서에서 보존된 문서. 2018년 3월 28일에 확인함.
- ↑ Somers, James (2017년 9월 29일). “Progress in AI seems like it's accelerating, but here's why it could be plateauing”. 《MIT Technology Review》 (미국 영어). 2018년 5월 20일에 원본 문서에서 보존된 문서. 2018년 3월 28일에 확인함.
- ↑ Sorensen, Chris (2017년 11월 2일). “How U of T's 'godfather' of deep learning is reimagining AI”. 《University of Toronto News》 (미국 영어). 2019년 4월 6일에 원본 문서에서 보존된 문서. 2018년 3월 28일에 확인함.
- ↑ Sorensen, Chris (2017년 11월 3일). “'Godfather' of deep learning is reimagining AI”. 《Phys.org》 (미국 영어). 2019년 4월 13일에 원본 문서에서 보존된 문서. 2018년 3월 28일에 확인함.
- ↑ Lee, Adrian (2016년 3월 18일). “Geoffrey Hinton, the 'godfather' of deep learning, on AlphaGo”. 《Maclean's》 (미국 영어). 2020년 3월 6일에 원본 문서에서 보존된 문서. 2018년 3월 28일에 확인함.
- ↑ [7][8][9][10][11]
- ↑ Gershgorn, Dave (2018년 6월 18일). “The inside story of how AI got good enough to dominate Silicon Valley”. 《Quartz》 (미국 영어). 2019년 12월 12일에 원본 문서에서 보존된 문서. 2018년 10월 5일에 확인함.
- ↑ Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. (2012년 12월 3일). 〈ImageNet classification with deep convolutional neural networks〉. F. Pereira; C. J. C. Burges; L. Bottou; K. Q. Weinberger. 《NIPS'12: Proceedings of the 25th International Conference on Neural Information Processing Systems》. Curran Associates. 1097–1105쪽. 2019년 12월 20일에 원본 문서에서 보존된 문서. 2018년 3월 13일에 확인함.
- ↑ Allen, Kate (2015년 4월 17일). “How a Toronto professor's research revolutionized artificial intelligence”. 《Toronto Star》 (영어). 2015년 4월 17일에 원본 문서에서 보존된 문서. 2018년 3월 13일에 확인함.
- ↑ “The Nobel Prize in Physics 2024”. 《NobelPrize.org》 (미국 영어). 2024년 10월 8일에 확인함.
- ↑ Metz, Cade (2023년 5월 1일). “'The Godfather of A.I.' Leaves Google and Warns of Danger Ahead”. 《The New York Times》 (미국 영어). ISSN 0362-4331. 2023년 5월 1일에 원본 문서에서 보존된 문서. 2023년 5월 1일에 확인함.
- ↑ Jacobson, Dana (host); Silva-Braga, Brook (reporter); Frost, Nick; Hinton, Geoffrey (guests) (2023년 3월 25일). 〈'Godfather of artificial intelligence' talks impact and potential of new AI〉. 《CBS Saturday Morning》. 시즌 12. 제 12회. New York City: CBS News. 2023년 3월 28일에 원본 문서에서 보존된 문서. 2023년 3월 28일에 확인함.
- ↑ Erlichman, Jon (2024년 6월 14일). “'50-50 chance' that AI outsmarts humanity, Geoffrey Hinton says”. 《BNN Bloomberg》 (영어). 2024년 10월 11일에 확인함.
- ↑ Hetzner, Christiaan. “New Nobel Prize winner, AI godfather Geoffrey Hinton, says he's proud his student fired OpenAI boss Sam Altman”. 《Fortune》 (영어). 2024년 10월 11일에 확인함.
- ↑ Coates, Jessica (2024년 10월 9일). “Geoffrey Hinton warns of AI's growing danger after Nobel Prize win”. 《The Independent》 (영어). 2024년 10월 11일에 확인함.
- ↑ “Geoffrey Hinton – Facts – 2024”. 《NobelPrize.org》. Nobel Prize Outreach AB. 2024년 12월 24일에 확인함.
- ↑ 가 나 다 라 〈,〉. 《Who's Who》. 《ukwhoswho.com》 176판 (A & C Black, an imprint of Bloomsbury Publishing plc). 2023. doi:10.1093/ww/9780199540884.013.20261. (구독 또는 영국 공립 도서관 회원 가입 필요)
- ↑ Onstad, Katrina (2018년 1월 29일). “Mr. Robot”. 《Toronto Life》 (미국 영어). 2023년 12월 24일에 확인함.
- ↑ 가 나 Curriculum Vitae Geoffrey E. Hinton - website of the Department of Computer Science at the University of Toronto
- ↑ 가 나 다 Smith, Craig S. (2017년 6월 23일). “The Man Who Helped Turn Toronto into a High-Tech Hotbed”. 《The New York Times》. 2020년 1월 27일에 원본 문서에서 보존된 문서. 2017년 6월 27일에 확인함.
- ↑ “제프리 힌턴”. 《수학 계보 프로젝트》 (영어). 미국 수학회.
- ↑ Hinton, Geoffrey Everest (1977). 《Relaxation and its role in vision》. 《Edinburgh Research Archive》 (학위논문) (University of Edinburgh). hdl:1842/8121. OCLC 18656113. EThOS uk.bl.ethos.482889. 2023년 3월 30일에 원본 문서에서 보존된 문서. 2023년 3월 30일에 확인함.
|id=
에 templatestyles stripmarker가 있음(위치 1) (도움말) - ↑ “University of Toronto”. 《discover.research.utoronto.ca》. 2024년 10월 9일에 확인함.
- ↑ “How Canada has emerged as a leader in artificial intelligence”. 《University Affairs》 (미국 영어). 2017년 12월 6일. 2024년 10월 9일에 확인함.
- ↑ “Geoffrey Hinton Biography”. 《CIFAR》. 2024년 10월 8일에 확인함.
- ↑ “Geoffrey E Hinton - A.M. Turing Award Laureate”. 《amturing.acm.org》. 2024년 10월 9일에 확인함.
- ↑ “2018 ACM A.M. Turing Award Laureates”. 《awards.acm.org》 (영어). 2024년 10월 9일에 확인함.
- ↑ “CIFAR - Learning in Machines & Brains”. 《CIFAR》. 2024년 10월 8일에 확인함.
- ↑ “Neural Networks for Machine Learning”. 《University of Toronto》. 2016년 12월 31일에 원본 문서에서 보존된 문서. 2016년 12월 30일에 확인함.
- ↑ “U of T neural networks start-up acquired by Google” (보도 자료). Toronto, ON. 2013년 3월 12일. 2019년 10월 8일에 원본 문서에서 보존된 문서. 2013년 3월 13일에 확인함.
- ↑ Kelly, Meghan (2013년 3월 12일). “Google acquires voice and image research firm DNNresearch”. 《VentureBeat》 (미국 영어). 2024년 12월 29일에 확인함.
- ↑ 제프리 힌턴 출판 - 구글 학술 검색 색인
- ↑ 제프리 힌턴 publications indexed by the Scopus bibliographic database. (구독 필요)
- ↑ Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. (1986년 10월 9일). “Learning representations by back-propagating errors”. 《Nature》 (미국 영어) 323 (6088): 533–536. Bibcode:1986Natur.323..533R. doi:10.1038/323533a0. ISSN 1476-4687. S2CID 205001834.
- ↑ Ford, Martin (2018). 《Architects of Intelligence: The truth about AI from the people building it》. Packt Publishing. ISBN 978-1-78913-151-2.
- ↑ 가 나 Schmidhuber, Jürgen (2015년 1월 1일). “Deep learning in neural networks: An overview”. 《Neural Networks》 (미국 영어) 61: 85–117. arXiv:1404.7828. doi:10.1016/j.neunet.2014.09.003. PMID 25462637. S2CID 11715509.
- ↑ Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), "A learning algorithm for Boltzmann machines", Cognitive science, Elsevier, 9 (1): 147–169
- ↑ Hinton, Geoffrey E. “Geoffrey E. Hinton's Publications in Reverse Chronological Order”. 2020년 4월 18일에 원본 문서에서 보존된 문서. 2010년 9월 15일에 확인함.
- ↑ “Stories by Geoffrey E. Hinton in Scientific American”. 《Scientific American》. 2019년 10월 17일에 원본 문서에서 보존된 문서. 2019년 10월 17일에 확인함.
- ↑ Memisevic, Roland; Hinton, Geoffrey (2006). “Unsupervised Learning of Image Transformations” (PDF). 《IEEE CVPR》.
- ↑ “An Introduction to t-SNE with Python Example”. 《KDNuggets》 (미국 영어). 2024년 6월 22일에 확인함.
- ↑ van der Maaten, Laurens; Hinton, Geoffrey (2008). “Visualizing Data using t-SNE” (PDF). 《Journal of Machine Learning Research》.
- ↑ Svabour, Sara; Frosst, Nicholas; Hinton, Geoffrey E. (2017). “Dynamic Routing Between Capsules”. arXiv:1710.09829 [cs.CV].
- ↑ “Matrix capsules with EM routing”. 《OpenReview》. 2019년 6월 10일에 원본 문서에서 보존된 문서. 2017년 11월 8일에 확인함.
- ↑ Geib, Claudia (2017년 2월 11일). “We've finally created an AI network that's been decades in the making”. 《Futurism》. 2017년 11월 9일에 원본 문서에서 보존된 문서. 2023년 5월 3일에 확인함.
- ↑ Hinton, Geoffrey (2022). “The Forward-Forward Algorithm: Some Preliminary Investigations”. arXiv:2212.13345 [cs.LG].
- ↑ “Hinton's Forward Forward Algorithm is the New Way Ahead for Neural Networks”. 《Analytics India Magazine》. 2022년 12월 16일. 2024년 6월 22일에 확인함.
- ↑ Douglas Heaven, Will (2023년 5월 1일). “Deep learning pioneer Geoffrey Hinton quits Google”. 《MIT Technology Review》 (미국 영어). 2023년 5월 1일에 원본 문서에서 보존된 문서. 2023년 5월 1일에 확인함.
- ↑ Metz, Cade (2023년 5월 1일). “'The Godfather of A.I.' Leaves Google and Warns of Danger Ahead”. 《The New York Times》 (미국 영어). ISSN 0362-4331. 2023년 5월 1일에 원본 문서에서 보존된 문서. 2023년 5월 1일에 확인함.
- ↑ Rothman, Joshua (2023년 11월 13일). “Why the Godfather of A.I. Fears What He's Built”. 《The New Yorker》. 2024년 8월 25일에 원본 문서에서 보존된 문서. 2023년 11월 27일에 확인함.
- ↑ Scanlan, Chip (2024년 6월 6일). “How a reporter prepped to understand A.I. and the man who helped invent it”. 《Nieman Foundation》 (Has the full 2023 New Yorker article with annotations). 2024년 10월 26일에 확인함.
- ↑ Martin, Alexander (2021년 3월 18일). “Geoffrey Hinton: The story of the British 'Godfather of AI' – who's not sat down since 2005”. 《Sky News》 (영어). 2021년 3월 19일에 원본 문서에서 보존된 문서. 2021년 4월 7일에 확인함.
- ↑ Salt, George (1978). “Howard Everest Hinton. 24 August 1912-2 August 1977”. 《Biographical Memoirs of Fellows of the Royal Society》 24: 150–182. doi:10.1098/rsbm.1978.0006. ISSN 0080-4606. S2CID 73278532.
- ↑ Smith, Craig S. (2017년 6월 23일). “The Man Who Helped Turn Toronto into a High-Tech Hotbed”. 《The New York Times》. 2020년 1월 27일에 원본 문서에서 보존된 문서. 2017년 6월 27일에 확인함.
- ↑ Shute, Joe (2017년 8월 26일). “The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?”. 《The Daily Telegraph》. 2017년 12월 27일에 원본 문서에서 보존된 문서. 2017년 12월 20일에 확인함.
- ↑ “Why Geoffrey Hinton is sounding the alarm about AI”. 《Toronto Life》. 2023년 11월 16일.
외부 링크
[편집]위키미디어 공용에 제프리 힌턴 관련 미디어 분류가 있습니다.