Computer Science 254 Deep Neural Network (DNN) Deep Neural Network Representation 몇개의 layer로 이루어져있는지를 셀 때는 input layer를 포함하지 않는다. 따라서 몇 번째 layer인지를 셀 때도 input layer를 제외하고 카운트를 한다. Output layer만 가지고 있는 단층 구조의 network, 즉 input → output 형태의 네트워크는 single-layered라고 부른다. 아래와 같이 1 input layer, 1 hidden layer, 1 output layer로 구성된 네트워크는 2-layered network이라 한다. Deep Neural Network 주로 3개층 이상(2개 이상의 hidden layer)의 구조를 가진 neural network를 deep neural netw.. 2022. 4. 20. XOR with Neural Network XOR 문제 하나의 unit(linear regression)으로는 XOR 문제를 해결할 수 없다. 그래프를 어떻게 만들더라도 명확하게 구분해낼 수 없다. 해결 이를 해결하기 위해서 여러 개의 unit(multiple logistic regression)을 이용한다. 아래 3개의 unit들을 이용해서 해결할 수 있다. 구현 이러한 문제를 해결하기 위해서 W와 b를 학습해야 한다. 이를 위해서 앞에서와 마찬가지로 gradient descent algorithm을 이용할 수 있다. 각 input이 output에 미치는 영향을 계산해서 node의 weight을 조정해야 하지만, 너무 계산량이 많고 수학적으로도 어렵다. 이를 위해서 backpropagation algorithm을 사용한다. 2022. 4. 20. [Classification] Ensemble - 정확도를 높이기 위한 방법 Ensemble 2개 이상의 classifier를 결합해서 정확도를 높이는 방법이다. 대표적인 ensemble method는 다음과 같다. Bagging 같은 종류의 classifier를 조합해서 사용 accuracy = 각 classifier의 accuracy의 평균 Boosting 같은 종류의 classifier를 조합해서 사용 accuracy = 각 classifier의 accuracy의 weighted average Ensemble 좁은 의미의 ensemble 다양한 종류의 classifier를 조합해서 사용 Bagging 같은 종류의 classifier를 사용하고, 각 classifier가 동일한 비율을 가진다. 따라서 prediction과 accuracy을 각 classifier의 평균으로 계.. 2022. 4. 18. Classifier Accuracy Measure Accuracy Measure Accuracy의 기준은 대표적으로 4가지가 있다. 이 중 암 진단에서는 sensitivity와 precision을 중요하게 생각한다. sensitivity = t-pos / pos positive하다고 판단된 것 중 진짜 positive한 비율 specificity = t-neg / neg negative하다고 판단된 것 중 진짜 negative한 비율 precision = t-pos / (t-pos + f-pos) 진짜 positive 한 것 중 postivie하다고 판단된 비율 accuracy = (t-pos + t-neg) / (pos + neg) 전체 데이터 중 제대로 판단된 비율 = sensitivity * pos/(pos+neg) + specificity * n.. 2022. 4. 18. [Prediction] Regression Prediction Numerical value(real-value)를 예측하는 방법이다. 대표적인 방법으로 regression이 있다. vs. Classification 공통점 Model construction → model usage의 단계를 가진다는 것에서 classification과 유사하다. 차이점 Classification categorical class label을 예측한다. Prediction numerical value를 예측한다. continuous-valued function을 이용해서 continuous space에서의 value(real-value)를 예측한다. Regression Predictor variable을 가지고 response variable을 예측한다. 이를 위해 하.. 2022. 4. 18. 이전 1 ··· 18 19 20 21 22 23 24 ··· 51 다음
