딥러닝의 기원과 개척자

[힘힘]

딥러닝의 기원과 개척자

2018년 5월 8일| 기사

공유하다

인쇄

구하다

딥러닝의 개념은 1950년대부터 존재해 왔습니다. 개념에서 현실로 어떻게 발전했는지, 그리고 이를 실현한 핵심 인물을 간략하게 살펴보세요.

딥 러닝의 전체 역사를 기록하기에는 너무 이르며 세부 사항 중 일부는 논쟁의 여지가 있습니다. 그러나 우리는 이미 그 기원에 대한 불완전한 개요를 추적하고 일부 개척자를 식별할 수 있습니다. 여기에는 1943년 초에 뇌의 "신경망"에 대한 계산 모델인 인공 뉴런 (PDF–1.2MB)을 제안한 Warren McCulloch와 Walter Pitts가 포함됩니다. 스탠포드 대학교의 Bernard Widrow와 Ted Hoff는 1950년대 후반에 전화선의 잡음을 줄여 신경망 애플리케이션을 개발했습니다 .

비슷한 시기에 미국의 심리학자 프랭크 로젠블라트(Frank Rosenblatt )는 뇌의 신경 구조를 모방하고 학습 능력을 보여주는 퍼셉트론 (PDF–1.55MB) 이라는 장치에 대한 아이디어를 소개했습니다 . MIT의 Marvin Minsky와 Seymour Papert는 1969년에 출판한 저서 Perceptrons 에서 퍼셉트론이 매우 기본적인 작업만 수행할 수 있다는 것을 수학적으로 보여줌으로써 이 연구에 제동을 걸었습니다 . 그들의 책에서는 다층 신경망 훈련의 어려움에 대해서도 논의했습니다.

1986년 토론토 대학의 Geoffrey Hinton은 동료 David Rumelhart 및 Ronald Williams와 함께 현재 유명한 역전파 훈련 알고리즘을 발표하여 이 훈련 문제를 해결했습니다. 그러나 일부 실무자들은 핀란드 수학자 Seppo Linnainmaa를 다음과 같이 지적합니다. 역전파는 이미 1960년대에 발명되었습니다. 뉴욕 대학의 Yann LeCun은 이미지 인식 작업에서 신경망 사용을 개척했으며 그의 1998년 논문 (PDF–430KB)은 인간의 시각 피질을 모방하는 컨볼루션 신경망의 개념을 정의했습니다. 동시에 John Hopfield는 최초의 순환 신경망인 "Hopfield" 네트워크 (PDF–1.13MB)를 대중화했습니다. 이는 이후 1997년 Jurgen Schmidhuber와 Sepp Hochreiter에 의해 장단기 기억(LSTM) (PDF–388KB) 의 도입으로 확장되어 순환 신경망의 효율성과 실용성을 크게 향상시켰습니다. 2012년 Hinton과 그의 두 학생은 Fei-Fei Li 등이 수집한 데이터 세트를 기반으로 유명한 ImageNet 대회에서 중요한 결과를 얻었을 때 딥 러닝(PDF–1.35MB)의 힘을 강조했습니다 . 동시에 Jeffrey Dean과 Andrew Ng는 Google Brain에서 대규모 이미지 인식 (PDF–263KB) 에 대한 획기적인 작업을 수행하고 있었습니다 .

AI 및 고급 분석의 잠재적 영향 시각화

우리의 대화형 데이터 시각화는 19개 산업과 9개 비즈니스 기능에 대해 인공 지능과 고급 분석 기술이 창출한 잠재적 가치를 보여줍니다.

대화형 보기

또한 딥 러닝은 Richard Sutton (PDF–3.96MB) 과 같은 연구원이 이끄는 기존 강화 학습 분야를 향상시켜 DeepMind가 개발한 시스템의 게임 플레이 성공을 이끌었습니다. 2014년에 Ian Goodfellow는 강화 학습과 함께 이 분야의 최근 연구의 초점이 된 생성적 적대 네트워크 (PDF–527KB) 에 관한 논문을 발표했습니다 .

인공 지능(AI) 기능의 지속적인 발전으로 Eric Horvitz가 설립한 Stanford University의 인공 지능에 관한 100년 연구(One Hundred Year Study on Artificial Intelligence) 는 그와 그의 동료들이 Microsoft Research에서 주도한 오랜 연구를 바탕으로 이루어졌습니다. 우리는 지난 몇 년 동안 연구에 있어 이러한 많은 선구자들의 의견과 지도로부터 혜택을 받았습니