분류 전체보기
-
[6주차] 딥러닝 2단계 : 다중 클래스 분류/프로그래밍 프레임워크 소개DSCstudyNLP 2020. 2. 17. 22:20
https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '다중 클래스 부류'와 '프로그래밍 프레임워크 소개'를 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. Softmax Regression 지금까지 우리는 0과 1의 두가지 선택이 있는 이진분류 문제에 대한 문제를 봤다. 여러 개의 선택지가 주어진다면 어떨까? 로지스틱 회귀를 일반화한 소프트맥스 회귀가 있다. 이것을 클래스가 두 개인 경우에 여러 클래스나 C 중 하나를 인식할 때 예측에 사용할 수 있다. Recog..
-
[5주차] 딥러닝 2단계 : Batch NormalizationDSCstudyNLP 2020. 2. 10. 22:42
https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 'Batch Normalization'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 배치 정규화 딥러닝이 떠오르면서 가장 중요한 아이디어 중 하나로 배치정규화라는 알고리즘이 꼽힌다. Sergey loffe와 Christian Szegedy가 만들었다. 배치 정규화는 하이퍼파라미터 탐색을 쉽게 만들어줄 뿐만 아니라 신경망과 하이퍼파라미터의 상관관계를 줄여준다. 즉, 더 많은 하이퍼파라미터가 잘 작동하는 것이다..
-
[5주차] 딥러닝 2단계 : 하이퍼파라미터 튜닝DSCstudyNLP 2020. 2. 8. 00:20
https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '하이퍼파라미터 튜닝'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 튜닝 프로세스 지금까지 신경망을 학습시킬 때 여러 하이퍼파라미터들이 관여한다는 걸 배웠다. 그렇다면 좋은 하이퍼파라미터는 어떻게 찾을 수 있을까? 체계적으로 하이퍼파라미터를 튜닝할 수 있는 팁을 알아보자. Hyperparameters 심층 신경망을 학습시킬 때 가장 어려운 일은 다뤄야 할 하이퍼파라미터가 많다는 것이다. (우선 조정하는 순으..
-
[4주차] 딥러닝 2단계 : 최적화 알고리즘DSCstudyNLP 2020. 2. 5. 03:24
https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '최적화 알고리즘'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 미니 배치 경사하강법 머신러닝을 적용하는 것은 잘 작동되는 모델을 찾기 위해 많은 훈련을 거쳐야 하는 반복정인 과정으로 매우 실험적이다. 따라서 모델을 빠르게 훈련시키는 것이 매우 중요한다. 큰 데이터 세트에서 신경망을 훈련 시킬 수 있을 때 딥러닝이 빅데이터에서 가장 잘 작동된다는 것도 훈련을 어렵게 만든다. 큰 데이터 세트에서 훈련하는 것은..
-
[4주차] 딥러닝 2단계 : 최적화 문제 설정DSCstudyNLP 2020. 2. 4. 03:09
https://www.edwith.org/deeplearningai2/joinLectures/20015 딥러닝 2단계: 심층 신경망 성능 향상시키기 강좌소개 : edwith - 커넥트재단 www.edwith.org 이 글은 edwith 딥러닝 2단계 강의 목록 중 '최적화 문제 설정'을 수강하고 정리하였습니다. 수식, 그래프 이미지의 출처는 강의 필기 캡처본입니다. 입력값의 정규화 Nomalizing traing sets 신경망의 훈련을 빠르게 할 수 있는 하나의 기법은 입력을 정규화하는 것이다. 두 개의 입력 특성이 있는 훈련세트가 있다. 입력특성 x가 2차원이다. 그리고 훈련세트의 산포도가 있다. 두 단계에 따라서 입력을 정규화하겠다. 첫번째는 평균을 빼는 것이다. 즉, 0으로 만든다. 0의 평균을 ..