다 IT지~ 다 IT지~

https://www.youtube.com/playlist?list=PLVNY1HnUlO26qqZznHVWAqjS1fWw0zqnT 딥러닝 자연어처리 - YouTube www.youtube.com https://sy-programmingstudy.tistory.com/13 [6주차] Youtube 허민석 : 딥러닝 자연어처리 (1차) https://www.youtube.com/playlist?list=PLVNY1HnUlO26qqZznHVWAqjS1fWw0zqnT 딥러닝 자연어처리 - YouTube www.youtube.com 이 글은 Youtube 허민석님의 딥러닝 자연어처리 강의 목록 13개를 수강하고 정리한 1차.. sy-programmingstudy.tistory.com 이 글은 Youtube 허민석..

https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 'Batch Normalization'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 배치 정규화 딥러닝이 떠오르면서 가장 중요한 아이디어 중 하나로 배치정규화라는 알고리즘이 꼽힌다. Sergey loffe와 Christian Szegedy가 만들었다. 배치 정규화는 하이퍼파라미터 탐색을 쉽게 만들어줄 뿐만 아니라 신경망과 하이퍼파라미터의 상관관계를 줄여준다. 즉, 더 많은 하이퍼파라미터가 잘 작동하는 것이다..

https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '하이퍼파라미터 튜닝'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 튜닝 프로세스 지금까지 신경망을 학습시킬 때 여러 하이퍼파라미터들이 관여한다는 걸 배웠다. 그렇다면 좋은 하이퍼파라미터는 어떻게 찾을 수 있을까? 체계적으로 하이퍼파라미터를 튜닝할 수 있는 팁을 알아보자. Hyperparameters 심층 신경망을 학습시킬 때 가장 어려운 일은 다뤄야 할 하이퍼파라미터가 많다는 것이다. (우선 조정하는 순으..

https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '최적화 알고리즘'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 미니 배치 경사하강법 머신러닝을 적용하는 것은 잘 작동되는 모델을 찾기 위해 많은 훈련을 거쳐야 하는 반복정인 과정으로 매우 실험적이다. 따라서 모델을 빠르게 훈련시키는 것이 매우 중요한다. 큰 데이터 세트에서 신경망을 훈련 시킬 수 있을 때 딥러닝이 빅데이터에서 가장 잘 작동된다는 것도 훈련을 어렵게 만든다. 큰 데이터 세트에서 훈련하는 것은..

https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '최적화 문제 설정'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 입력값의 정규화 Nomalizing traing sets 신경망의 훈련을 빠르게 할 수 있는 하나의 기법은 입력을 정규화하는 것이다. 두 개의 입력 특성이 있는 훈련세트가 있다. 입력특성 x가 2차원이다. 그리고 훈련세트의 산포도가 있다. 두 단계에 따라서 입력을 정규화하겠다. 첫번째는 평균을 빼는 것이다. 즉, 0으로 만든다. 0의 평균을 ..