지속 가능한 꾸준함

www.edwith.org/linearalgebra4ai/lecture/24800 [LECTURE] 고유벡터와 고유값 : edwith 학습목표 고유값 분해는 이미 널리 알려지고 다양한 분야에서 쓰이고 있는 주성분분석(PCA: Principal Component Analysis) 등의 주요 머신러닝 알고리즘에서 중... - 커넥트재단 www.edwith.org Eigenvectors and Eigenvalues Eigen Decomposition은 주어진 Matrix에 대해 굉장히 중요한 정보를 추출해내는 과정이라고 생각해볼 수 있습니다. \(A\mathbf{x} = \lambda\mathbf{x}\) 를 만족하는 Nonzero Vector \(\mathbf{x}\)를 \(A\)의 Eigenvector라 ..

www.edwith.org/linearalgebra4ai/lecture/24798 [LECTURE] 그람-슈미트 직교화와 QR 분해 : edwith 학습목표 이번에는 임의의 행렬을 직교기저(Orthogonal basis)를 가지는 행렬로 변환하는 그람-슈미트 직교화에 대해 배워보겠습니다. 핵심 키워드 그람-슈미트 직교화(... - 커넥트재단 www.edwith.org Gram-Schmidt Orthogonalization 행렬 \(A\)가 있습니다. \(A = \begin{bmatrix} 3 && 1 \\ 6 && 2 \\ 0 && 2 \end{bmatrix} \) \(A\)의 Column Vectors를 \(\mathbf{a}_{1}\), \(\mathbf{a}_{2}\)라고 정의하겠습니다. 이 Col..

www.edwith.org/linearalgebra4ai/lecture/24797 [LECTURE] Orthogonal Projection Ⅱ : edwith 학습목표 이번 강의에서는 지난 시간에 이어서 Orthogonal Projection을 구체적인 예시와 함께 더 깊이 다뤄보는 시간을 가지겠습니다. 핵심 키워드 정사영(Orth... - MJ www.edwith.org Orthogonal Projection Perspective Back to the case of invertible \(A^{T}A\), consider the orthogonal projection of \(\mathbf{b}\) onto Col \(A\) as $$ \hat{\mathbf{b}} = f(\mathbf{b}) = A\..

www.edwith.org/linearalgebra4ai/lecture/24796/ [LECTURE] Orthogonal Projection Ⅰ : edwith 학습목표 이번에는 Orthogonal Projection 관점에서 Least Squares Problem을 접근해보도록 하겠습니다. 이를 위해 선형대수에서 중요한 개념인 Ortho... - 커넥트재단 www.edwith.org Orthogonal Projection Perspective Projection은 "사영을 시킨다."라는 의미로 해석 가능합니다. \(A\mathbf{x}=\mathbf{b}\)인 Linear System에 대하여, Least Square 방법을 통해 구한 해 \(\hat{\mathbf{x}}\)는 다음과 같습니다. \(\..

www.edwith.org/linearalgebra4ai/lecture/24131/ [LECTURE] 정규방정식 : edwith 학습목표 이번 강의에서는 Least Squares Problem을 푸는 방법 중 하나인 정규방정식을 배워보도록 하겠습니다. 그리고 그 해를 유도하는 두 가지 방법을 살펴보는 시간을... - 커넥트재단 www.edwith.org Another Derivation of Normal Equation Normal Equation을 유도하는 방법으로 미분(Derivation)을 이용할 수 있습니다. \(||\mathbf{b}-A\mathbf{x}||\)를 최소화하는 \(\mathbf{x}\)는 \(||\mathbf{b}-A\mathbf{x}||^{2}\)를 최소화하는 \(\mathbf{..

https://www.boostcourse.org/ai251/lecture/540328?isDesc=false 인공지능을 위한 선형대수 부스트코스 무료 강의 www.boostcourse.org Geometric Interpretation of Least Squares Least Squares는 \(||\mathbf{b} - \hat{\mathbf{b}}||\)를 최소화 할 수 있는 \(\hat{x}\)을 구하는 방법입니다. 여기서, \(\mathbf{b}\)는 우리가 피팅하고자 하는 Ground Truth 벡터이고 \(\hat{\mathbf{b}}\)는 우리의 모델 \(A\hat{x}\)로부터 예측되는 벡터입니다. \(\hat{\mathbf{b}}\)는 죽었다 깨어나도 Col(A) 를 벗어날 수 없습니다..

\(Var(X) = E[(X - \mu)^{2}] \) \(= \underset{x}{\Sigma} (x-\mu)^{2} p(x) \) \(= \underset{x}{\Sigma} (x^{2}-2\mu x +\mu^{2}) p(x) \) \(= \underset{x}{\Sigma} x^{2}p(x)-2\mu \underset{x}{\Sigma} xp(x) +\mu^{2} \underset{x}{\Sigma} p(x) \) \(= E[X^{2}] - 2\mu^{2} + \mu^{2}\) \(= E[X^{2}] - \mu^{2}\) \(E[X+Y] = E[X] + E[Y]\) \(E[aX + b] = aE[X] + b = a\mu + b \) \(Var(aX + b) = E[(aX + b - a\mu - b..

www.edwith.org/linearalgebra4ai/lecture/24129/ [LECTURE] Least Squares Problem 소개 : edwith 학습목표 이번 강의에서는 Least Squares Problem에 대한 소개와 함께 앞으로 Least Squares를 배우는데 필요한 개념들을 배워보도록 하겠습니다. 벡터와 관련된... - 커넥트재단 www.edwith.org Over-determined Linear Systems Linear System에서 방정식의 개수가 미지수가 많은 경우, Over-determined Linear System이라고 부릅니다. 이러한 경우 대개 Solution이 없습니다. Motivation for Least Squares Even if no solutio..

www.edwith.org/linearalgebra4ai/lecture/24128/ [LECTURE] 전사함수와 일대일함수 : edwith 학습목표 이번 강의에서는 전사함수와 일대일함수를 배워보겠습니다. 그리고 이 개념이 실제로 Neural networks에는 어떻게 응용될 수 있는지를 생각해보는 시간을 갖겠습니다. ... - 커넥트재단 www.edwith.org ONTO and ONE-TO-ONE ONTO 전사함수(ONTO)는 공역(Co-domain) = 치역(Range)인 경우를 의미합니다. Domain(정의역): Set of all the possible values of \(x\) Co-domain(공역): Set of all the possible values of \(y\) Image(상): ..

www.edwith.org/linearalgebra4ai/lecture/23827/ [LECTURE] 선형변환 with Neural Networks : edwith 학습목표 이번 강의에서는 앞서 배운 선형변환이 실제 딥 러닝(Deep Learning)이 기반을 두는 신경망(Neural Networks)에서는 어떻게 작용하는지 알아보겠습니다. ... - 커넥트재단 www.edwith.org Linear Transformation in Neural Networks Neural Network에서 Fully-connected Layer의 입력 값과 출력 값은 행렬(Weights or Coefficients)과 벡터(Input)간의 곱으로 표현되며 이는 곧 Linear Transformation으로 정의할 수 있..