rkgk

https://sanghyu.tistory.com/113 [PyTorch] PyTorch가 제공하는 Learning rate scheduler 정리(여기 내용을 많이 참고하여 작성하였습니다.) (** learning rate와 lr이라는 용어를 혼용해서 작성하였습니다.) learning rate는 gradient의 보폭을 말한다. learning rate는 성능에 꽤나 영향을 주는 요소(learnisanghyu.tistory.com

https://velog.io/@ghj616/%EB%94%A5%EB%9F%AC%EB%8B%9D-%EC%A3%BC%EC%9A%94-%EA%B0%9C%EB%85%90 딥러닝 주요 개념모델을 학습시키는 데 쓰이는 단위.batch와 iteration약 10,000,000개의 데이터셋을 한꺼번에 메모리에 올리고 학습시키려면 엄청난 용량을 가진 메모리가 필요하고 그 메모리를 사는데 (메모리가 없velog.io

https://pseudo-lab.github.io/pytorch-guide/docs/ch03-1.html" data-og-host="pseudo-lab.github.io" data-og-source-url="https://pseudo-lab.github.io/pytorch-guide/docs/ch03-1.html" data-og-url="https://pseudo-lab.github.io/pytorch-guide/docs/ch03-1.html" data-og-image="https://scrap.kakaocdn.net/dn/XfLHo/hyXegdsS72/lOCrBhZKtBjLKFdMsGP9G1/img.png?width=760&height=810&face=0_0_760_810"> PyTorch 로 Res..