코딩하는 해맑은 거북이

본 게시물의 내용은 '인공지능을 위한 선형대수(주재걸 교수님)' 강의를 듣고 작성하였다. 해당 글은 아래의 3가지를 다룬다. 1. 선형변환 with Neural Networks 2. 전사함수(Onto, Surjective) 3. 일대일함수(One-to-one, Injective) - 선형변환 with Neural Networks - 선형변환은 기하학적으로 좌표계에서 왜곡(distortion)을 가하는 짓으로 해석 가능하다. (이미지에서 선형변환에 의해 기울어지고, non-linear unit에 의해 구부러지는 모습을 확인할 수 있다) - Affine Transformation(아핀 변환) Neural Networks에서는 Bias term가 있기 때문에 선형변환이 아니게 된다. 이를 Affine Tran..

해당 글은 아래의 3가지를 다룬다. 1. Cross Validation 2. Cross Validation의 장단점 3. Cross Validation의 종류 Check. Q. Cross Validation은 무엇이고 어떻게 해야하나요? 더보기 cross validation(교차검증)이란 train(학습) 데이터로 학습한 모델이, 학습에 사용되지 않은 validation(검증) 데이터를 기준으로 얼마나 잘 동작하는지 확인하는 것이다. 여기서 주의할 점은 train 데이터셋과 validation 데이터셋에는 test 데이터셋이 포함되면 안된다는 것이다. 교차검증을 통해 얻을 수 있는 장단점은 아래와 같다. - 적은 데이터에 대한 validation 신뢰성을 높일 수 있다. - 모든 데이터셋을 훈련에 활용할..

본 게시물의 내용은 '인공지능을 위한 선형대수(주재걸 교수님)' 강의를 듣고 작성하였다. 해당 글은 아래의 4가지를 다룬다. 1. 부분공간(Subspace) 2. 기저(Basis)와 차원(Dimension) 3. 계수(Rank) 4. 선형변환(Linear Transformation) - 부분공간의 기저와 차원 - Subspace(부분공간) : n차원 공간에 대해, n차원 공간에 포함되면서 n차원 벡터들에 대해 선형결합 연산이 성립되는 작은 공간 - 기저벡터(Basis) : subspace H를 Fully span 하면서 선형 독립인 벡터들의 집합 - 부분공간의 기저벡터는 Unique 하지 않다는 특성을 가지고 있다. - Dimension of Subspace : subspace가 주어져 있을 때, Sub..

해당 글은 아래의 2가지를 다룬다. 1. Bias-Variance tradeoff 2. Regularization 3. Regularization의 종류 Check. Q. L1, L2 정규화에 대해 설명해주세요. 더보기 정규화(일반화)의 목적은 모델이 학습 데이터에 오버피팅되지 않고 처음 보는 테스트 데이터에도 좋은 성능을 내도록 만드는 것이다. 모델의 학습은 loss 함수를 최소화하는 방향으로 진행된다. 이 때, loss 함수에 L1, L2 정규화 항 (norm) 을 더함으로써 모델은 기존의 loss 도 줄이면서 정규화 항 (모델의 피쳐값과 관련) 도 줄이는 방향으로 학습된다. 모델의 피쳐값이 줄어듦에 따라 특정 피쳐가 너무 큰 값을 갖지 않게 되면서 오버피팅을 방지할 수 있게 된다. L1 정규화 (라..

해당 글은 아래의 2가지를 다룬다. 1. Informed Search(Heuristic Search)란? 2. Informed Search의 종류 - Informed Search(= Heuristic Search)란? : 문제 정의 외에 추가적인 정보를 가진채 검색하는 알고리즘 -> Informed Search는 Uninformed Search의 단점을 극복하기 위해 나온 탐색법, 더 효율적임 -> Informed Search의 기본적인 접근 방법은 Best-First Search 이다. * Best-First Search는 평가 함수 F(n)을 기반으로 한 Tree/Graph-Search의 확장이다. 이는 Uninformed Search의 Uniform-Cost Search와 유사한데, Uniform-..

해당 글은 아래의 3가지를 다룬다. 1. Object Detection 2. Boundary coordinates 3. Ground Truth와 비교 Matrix - Object Detection : 물체가 있는 영역의 위치 정보를 Bounding-Box로 찾고 Bounding-Box 내에 존재하는 사물들의 Label을 분류하는 문제 영역 - Boundary coordinates x, y lines의 pixel coordinates를 사용하는 것. Bounding-Box의 boundary coordinates는 (x_min, y_min, x_max, y_max) 하지만, image의 actual dimension을 모르는 경우 pixel values는 거의 쓸모 없다. 더 나은 방법은 모든 coordin..