복권가설

1. 개요[편집]

---

딥 러닝 네트워크에서 핵심적인 부분 네트워크만 잘 추출해도 성능 저하를 최소화한 채 극한의 효율을 낼 수 있다고 주장하는 가설이다. 2019년에 등재된 논문 '복권가설: 성기고 훈련 가능한 신경 네트워크 찾기'[1]에서 제안되었다.

네트워크에서 주요 요소만으로도 거의 비슷한 성능을 유지할 수 있다는 말은, 달리 말하면 대부분의 노드들은 하는 일이 거의 없는 잉여 자원이라는 뜻이다.

네트워크의 핵심 부분을 잘 추출하는 것도 능력이며 수많은 과학자들이 학습을 최소화하고도 핵심 부분 네트워크를 구축하는 방법에 대해 연구하고 있다.

사람의 두뇌도 몇 살이 지나면 태어났을 때 가지고 있던 시냅스를 대부분 없애버리고 필요한 것들만 효율적으로 남긴다고 한다.