선형대수와 해석기하의 기초

벡터의 길이

• 
  • 벡터의 norm으로 벡터의 길이를 정의

단위 벡터

• 
  • 길이가 1인 벡터, 방향은 동일

유클리드 거리

• 
  • 두 벡터가 가리키는 점 사이의 거리
  • 벡터의 차의 길이로 계산

벡터의 내적과 삼각함수

• 
• 
  • 내적을 활용해서 두 벡터 사이의 각도 theta를 계산

직교

• 
  • 두 벡터 a,b가 이루는 각도가 90도인 경우, 두 벡터의 내적은 0이 된다.

정규 직교

• 
  • N개의 단위벡터가 서로 직교하면 정규직교(orthonormal)

코사인 유사도

• 
• 
  • 두 벡터의 방향이 비슷할수록 벡터가 비슷하다고 전제 > 두 벡터 사이의 각의 코사인 값을 Cosine Similarity

벡터의 분해

• 특정 벡터가 n개의 벡터의 합으로 나타낼 수 있다면 분해(decomposition)된다고 말함.
• 평행 성분
  • 길이 :
  • 벡터 :
    • 벡터 b가 단위 벡터인 경우
      • 
• 직교 성분
  • 

직선의 방정식

• 

• 

  • 직선의 방정식 : 1) 원점에서 출발한 벡터 w가 가리키는 점을 지나기 2) 벡터 w에 수직

• 

  • 벡터 w에 수직인 직선의 방정식 -> w'벡터를 지난다고 가정 (위의 경우보다 좀 더 일반화 하는 Case)
  • 

• 

  • w0 == c|w|^2

• 

  • 직선과 원점 사이의 거리

직선과 점의 거리

• 과 직선 위에 있지 않은 점 x'의 거리
  • 
    • 벡터 w에 대한 벡터 x'의 투영 성분의 길이
  • 
    • 직선과 점 x'의 거리는 위의 거리에서 |w|를 밴 것
  • 
    • 직선과 점 사이의 거리, w0 = |w|^2

좌표 변환

선형종속과 선형독립

선형종속(linearly dependent)

• 
  • c_i가 모두 0인 경우를 제외하고 위의 식을 만족하는 스칼라 계수 c가 존재하면 선형종속

선형독립(linearly independent)

• 
  • 모든 c_i가 모두 0인 경우밖에 없다면 선형 독립

선형 연립방정식 판단

• 
  • 행렬과 벡터의 곱, x1~xN은 열벡터 -> 벡터 간의 성형 독립/종속 여부를 판단할 수 있음

선형독립 Case

• 
  • 위의 식을 만족하는 c 벡터가 0벡터 밖에 없다면 각 벡터 x1~xN은 선형독립

선형종속 Case

1. X의 행의 개수보다 열의 개수가 많은 경우
   • 미지수의 수가 방정식의 수보다 많은 경우
2. x vector중 같은 값을 가지는 경우
   • simple한 계수 조작이 가능해짐
3. x_i vector가 x_j, x_k의 선형조합인 경우
   • 2번의 general한 케이스

랭크(rank)

개념

• 열랭크(column rank) / 행랭크(row rank)
  • 행렬의 열/행벡터 중 독립인 최대 개수를 의미
  • [정리]에 의해 행랭크와 열랭크는 항상 동일
• 

풀랭크(full rank)

• 
  • 선형 독립인 벡터들을 가지고 행,열을 만드는 경우

로우-랭크 행렬

랭크-1 행렬 (rank-1 matrix)

• N차원 벡터 x를 활용하여 만들어지는 행렬, rank = 1

랭크-2 행렬 (rank-2 matrix)

• N차원 벡터 x1,x2를 활용하여 만든 행렬, rank = 2

랭크-M 행렬 (rank-M matrix)

• M개의 N차원 벡터를 활용하여 rank = m

랭크와 역행렬

• [정리] : 정방행렬이 풀랭크면 역행렬이 존재한다. 역도 성립한다.
  • 정방행렬이 풀랭크 <-> 역행렬이 존재

벡터공간

벡터공간과 기저벡터

• 
  • N개의 N차원 벡터 x1~xN이 선형 독립이면 모든 N차원 벡터를 만들 수 있다.
  • 벡터 공간(Vector Space)은 기저벡터의 개수로 정의된다.

벡터공간의 투영

• M개의 N차원 기저벡터가 존재하는 경우(M<N)
• v1 ~ vm을 조합하여 만든 x벡터가 있고, x벡터의 직교성분 벡터가 모든 기저벡터(v1 ~ vm)에 직교하면 x벡터의 평행성분은 벡터공간에 대한 투영벡터라고 한다.

정규직교인 기저벡터로 이루어진 벡터공간

• 
• 
  • 투영벡터(projection vector)는 내적을 통해 스칼라 값을 계산하고 해당 기저벡터 방향으로 표현해준 것들의 합으로 나타낼 수 있다.
  • x벡터의 Space V에 대한 모든 기저벡터와 직교하는지를 두 번째 식을 통해서 입증할 수 있다.

표준 기저벡터

• 기저벡터 중에서도 원소 중 하나만 값이 1이고 다른 값은 0으로 이루어진 것들을 말함.
• 표준기저벡터를 열로 가지는 행렬은 항등행렬이 된다.

좌표

• 
• 
• 
  • 좌표는 기저벡터를 선형조합하여 그 벡터를 나타내기 위한 계수 벡터를 의미한다.

변환행렬

• 
• 
• 
• 기존의 기저벡터를 변환행렬을 통해 새로운 기저벡터를 생성

좌표변환

• 
• 
• 
• 
  • 벡터 x의 기저벡터 {e1, e2} -> 좌표 x_e ; 새로운 기저벡터 {g1, g2} -> 좌표 x_g
  • A의 역행렬 T를 변환행렬이라 한다.