데이터 과학

오류역전파는 정방향(forward) 알고리즘으로 순차적으로 연산을 진행하는 알고리즘입니다. 앞에 있는 행렬을 학습하고 입력값과 가중치(weight) 값을 연산하면 출력값이 나타나는데 이 출력값을 그냥 반영하면 안 되고 이를 변형해야 합니다. https://tsyoon.tistory.com/144 인공신경망에서 행렬 인공 신경망에서 행렬 이론은 중요한 역할을 합니다. 인공 신경망에서 입력 데이터와 가중치를 행렬로 표현하고, 이를 행렬 곱셈을 통해 계산하는 것이 기본적인 방법 중 하나입니다. 이를 통해 tsyoon.tistory.com 위 행렬 예제에서 가중치에 있는 값을 입력값과 연산을 해 봅시다. W1 = [[0.1, 0.2, 0.3], [0.4, 0.5, 0.6]] h = W1 * x = [[0.1, ..

수학에서의 행렬과 함수 이론을 배웠으면 이를 적용하여 간단한 순방향 학습 이론을 만들어 낼 수 있습니다. 행렬과 시그모이드 함수를 이용하여 이를 파이썬으로 구현할 수 있으며 프로그래밍을 하면서 기초 인공신경망 이론에 대해 학습해 봅시다. 행렬 관련 예제를 통해 간단한 행렬 이론에 대해 학습하고 행렬 이론을 전반적으로 이해하고 입력값과 웨이트값(가중치)을 어떻게 연산하는지를 그림으로 표현도 해 봅시다. https://tsyoon.tistory.com/144 인공신경망에서 행렬 인공 신경망에서 행렬 이론은 중요한 역할을 합니다. 인공 신경망에서 입력 데이터와 가중치를 행렬로 표현하고, 이를 행렬 곱셈을 통해 계산하는 것이 기본적인 방법 중 하나입니다. 이를 통해 tsyoon.tistory.com numpy ..

인공신경망에 대해서 공부하려면 함수(function)의 의미에 대해 이해를 해야 합니다. 퍼셉트론을 사용할 때 함수의 개념을 이용하여 경계를 기준으로 값을 변환시키는 형태로 알고리즘을 작성하기 때문입니다. 어떤 경계를 만들어서 판별해야 합니다. 그 경계가 선형방정식이고, 그 결과 값을 다른 형태로 바꿔주는 기능이 필요한 것입니다. 초기에는 Step Function을 사용하다 이후에는 Sigmoid Function을 사용합니다. (현재는 주로 ReLU Function을 사용합니다.) Step Funtion: import numpy as np import matplotlib.pylab as plt # 계단 함수 구현 def step_function(x): return np.array(x>0, dtype=np..

인공 신경망에서의 오류역전파는 입력과 은닉층(Hidden layer)의 연산의 결과와 활성화 함수(activate function)의 발산으로 구성되어 있다. 입력값 → 은닉층 연산 (가중치 곱 + 편향 더하기)은닉층 연산 결과 → 활성화 함수 적용 (예: sigmoid, ReLU 등)은닉층의 출력 → 다음 은닉층 입력 → 연산 (가중치 곱 + 편향 더하기)두 번째 은닉층 출력 → 활성화 함수 적용출력층에서 최종 결과 산출출력 결과와 정답(타깃) 간 오차 계산 (예: MSE, Cross-Entropy) 이후에 오차값을 바탕으로 변화율을 만들어 내야 하는데 이때 사용하는 것이 미분인데 미분의 연속이 모여서 만든 개념이 경사 하강법이다. https://ko.wikipedia.org/wiki/%EA%B..