[AIB] Vector/Matrices

💡 Regression

import matplotlib.pyplot as plt
import numpy as np
import pandas as pd

df = pd.DataFrame(
	[[1, 3, 5, 7, 9],
    [2, 8, 14, 20, 26]],
    index=['mid', 'final']
).T

df['ones'] = np.ones(5)

df

output :

 

X = df[['ones', 'mid']].values
Y = df['final'].values.reshape(-1,1)	# Transpose

# 위의 공식 계산
beta = np.matmul(np.linalg.inv(np.matmul(np.transpose(X), X)), np.matmul(np.transpose(X), Y))

beta

output :

cf.

np.reshape(a, b) : a x b 차원의 배열로 재구조화

• reshape(-1, b) - 행 위치가 -1인 경우

     열 차원의 정수(b)에 따라서 원소가 배치될 수 있도록 행의 개수가 가변적으로 정해짐

• reshape(a, -1) - 열 위치가 -1인 경우

     행 차원의 정수(a)에 따라서 원소가 배치될 수 있도록 열의 개수가 가변적으로 정해짐

 

np.matmul(x1, x2) : 두 배열의 행렬 곱 연산 함수

np.linalg.inv(x) : 역행렬을 구해주는 함수

 

Visualize Linear Regression

# Beta를 변수로 저장
beta_0 = beta[0,0]
beta_1 = beta[1,0]

# 그래프
plt.scatter(df['mid'], df['final'])
axex = plt.gca()
x_vals = np.array(axes.get_xlim())
y_vals = beta_0 + beta_1 * x_vals
plt.plot(x_vals, y_vals, '-', color='b')

plt.title('Grade')
plt.xlabel('Mid')
plt.ylabel('Final')
plt.show()

output :

 

Linear Regression with Scipy

from scipy import stats

stats.linregress([1, 3, 5, 7, 9], [2, 8, 14, 20, 26])

output :

 

💡 Dimensionality Reduction : PCA, SVD

사이즈가 큰 데이터셋을 사이즈가 작은 부분으로 나누는 작업이다.

일반적으로 시각화나 다른 모델링을 위해서 사용한다.

 

✨ CNN

'Convolving' 은 필터, 커널(작은 매트릭스)을 통해 이미지를 축소화하여 그 결과물을 분석에 사용하는 방법이다.

필터를 통해서 수정된 이미지는 특수한 부분이 강조되어 이미지 분석에 사용될 수 있다. (선형대수 기반)

... 추후 포스팅 예정 ...

 

💡 스칼라, 벡터

• 스칼라와 벡터는 선형대수를 구성하는 기본 단위이다.
• 스칼라는 단순히 변수로 저장되어 있는 숫자이며, 벡터 혹은 매트릭스에 곱해지는 경우 해당 값에 스칼라 값만큼 곱해진 값으로 결정된다.
• 스칼라는 단일 숫자이며, 실수와 정수 모두 가능하다.
• 벡터는 파이썬에서 주로 list 형태로 사용되며, 데이터셋을 구성하고 있는 데이터프레임의 행/열로써 사용되기도 한다.
• n차원의 벡터는 컴포넌트라 불리는 n개의 원소를 가지며 순서가 있는 모음이다. (컴포넌트는 스칼라로 간주되지 않음)
• 매트릭스는 벡터의 모음으로 간주될 수도 있다.

 

import math
import matplotlib.pyplot as plt
import numpy as np

# 시작 벡터 (0 ,0) 기준
blue = [0.5, 0.5]

# 스칼라 곱
green = np.multiply(5, blue)
red = np.multiply(math.pi, blue)
orange = np.multiply(-3.12, blue)

# scale이 바뀐 벡터를 그림
plt.arrow(0, 0, red[0], red[1], head_width=0.1, head_length=0.1, color='#d63031')
plt.arrow(0, 0, green[0], green[1], head_width=0.1, head_length=0.1, color='#00b894')
plt.arrow(0, 0, blue[0], blue[1], head_width=0.1, head_length=0.1, color='#0984e3')
plt.arrow(0, 0, orange[0], orange[1], head_width=0.1, head_length=0.1, color='#e17055')
plt.xlim(-2, 3)          
plt.ylim(-2, 2)
plt.title("Vector example 1")
plt.grid()
plt.show()

output :

 

# vector 예시
yellow = [0.4, 0.6]
red = [0.11, 0.12]
blue = [0.1, 0.7]

plt.arrow(0, 0, yellow[0], yellow[1], head_width=0.01, head_length=0.01, color='#fdcb6e')
plt.arrow(0, 0, red[0], red[1], head_width=0.01, head_length=0.01, color='#d63031')
plt.arrow(0, 0, blue[0], blue[1], head_width=0.01, head_length=0.01, color='#0984e3')
plt.title('Vector example 2')
plt.grid()
plt.show()

ouput :

 

벡터의 크기 (Magnitude, Norm)

벡터의 크기인 Magnitude 혹은 Norm 은 단순히 길이에 지나지 않는다.

벡터의 길이(Length)는 벡터의 차원수와 동일하다.

 

벡터의 내적 (Dot Product)

두 벡터의 내적은 벡터의 각 구성요소를 곱한 뒤 합한 값과 같다.

• 내적은 교환법칙이 적용된다.   a x b = b x a
• 내적은 분배법칙이 적용된다.   a x (b + c) = a x b + a x c
• 벡터의 내적을 위해서는 두 벡터의 길이가 반드시 동일해야 한다.

 

 

💡 매트릭스

매트릭스는 행과 열을 통해 배치되어있는 숫자들이다.

pandas를 통해 많이 다뤘던 데이터프레임과 유사한 형태를 가지고 있다.

 

Square Matrix (정사각 매트릭스, 정방 매트릭스)

행과 열의 수가 동일한 매트릭스이다.

 

 

💡 Matrix Calculation

Matirx multiplication

 

Matrix Transpose

df

df.T	# df.transpose()

 

Determinant

행렬식은 모든 정사각 매트릭스가 갖는 속성으로 det(A) 혹은 |A|로 표기된다.

 

Inverse Matirx (역행렬)

역행렬을 계산하는 방법은 여러가지가 있으며, 행렬의 역수와 같이 표현할 수 있다.

매트릭스에 역행렬을 곱하면 단위 매트릭스가 된다.

단위 매트릭스란, 주대각선의 원소가 모두 1이며 나머지 원소는 모두 0인 정사각 행렬이다.