이니의 공부일지

1강. Neural Networks & Multi-Layer Perceptron 인공지능이란? 사람의 지능을 모방하는 것이다. 딥러닝에서 중요한 요소는? data : 풀고자 하는 문제에 의존 model loss fuction : 모델을 어떻게 학습시킬까 optimization algorithm Historical Review : 어떠한 연구들이 큰 변화를 주었는가 2012 - AlexNet : AlexNet의 등장으로 딥러닝이 시작되었다고 볼 수 있으며, 기계학습에 대한 판도가 뒤집힘 2013 - DQN : 알파고를 만든 알고리즘이다. 강화학습을 딥러닝에 적용한 방법론이다. 2014 - Encoder / Decoder : 어떤 문장이 주어졌을 때, 이를 잘 표현해서 다른 언어로 표현해 줄 때 활용( 기계..

4강. AutoGrad & Optimizer torch.nn.Module은 다음과 같은 특징을 가지고 있다. 딥러닝을 구성하는 layer의 base class이다. input, output, forward, backward를 정의해야 한다. 학습의 대상이 되는 parameter(tensor)를 정의해야 한다. nn.Module을 정의하려면, 학습의 대상이 되는 weight 값들을 정의해야한다. 이 weight 값들은 nn.Parameter에 정의하게 된다. nn.Parameter는 다음과 같은 특징을 가지고 있다. Tensor 객체의 상속 객체 nn.Module 내에 attribute가 될 때는 required_grad=True로 지정되어 학습 대상이 되는 Tensor (AutoGrad의 대상이 된다.)..

2강. PyTorch Basics pytorch는 딥러닝을 만드는데 가장 기본적인 프레임워크이다. pytorch는 numpy를 기반으로 했기 때문에 그 사용법이 유사하다. pytorch는 numpy와 AutoGrad에 대한 많은 딥러닝 모듈들을 제공한다. numpy에서 list를 표현하기 위해서는 ndarray를 사용하였다. pytorch에서는 list를 표현하기 위해 Tensor를 사용한다. Tensor에 대한 설명은 다음과 같다. 다차원 arrays를 표현하는 pytorch 클래스 numpy의 ndarray와 동일, Tensorflow의 Tensor와도 동일 Tensor를 생성하는 함수도 거의 동일 # numpy _ ndarray import numpy as np n_array = np.arange(..