본문 바로가기

분류 전체보기

(53)
[신호와시스템]신호의 기본개념(3) - 지수함수 지수함수를 이산 신호에서 표현하게 된다면 알아두어야 할 점은 1) $\dfrac{w_0}{2\pi}$ 가 유리수인 경우에만 주기신호이다. 2) $e^{j(w_0+2\pi)n} = e^{jw_0 n}$ 왜? $e^{j2\pi n} = 1$이기 때문이다. 복소평면 상에서 볼 때 $2\pi$마다 똑같은 그림이 반복될 것이다. 구체적으로는 $-\pi ≤\ w_0 < \pi$ 에서만 $w_0$ 크기가 늘어날 수록 진동이 점점 빨라지고 이를 넘어가는 범위에서는 해당되지 않는다. 즉 이산 신호에서는 $w_0 = 0$과 $w_0 = 2\pi$가 같은 주파수이다. 연속 신호에서의 상수함수는 최소 주기가 양의 실수로 주기가 존재하지 않았다. 이산 신호에서의 상수함수는 최수 주기가 양의 정수가 1로 주기가 존재한다. 이산 ..
[신호와시스템]신호의 기본개념(2) 독립변수의 affine 변환 $x(t)$ → $x(at + b)$ shift 후 scaling 으로 바라보는게 편하다. 1) 이동(time shift) $x(t)$ → $x(t- t_0)$ 2) scaling $x(t)$ → $x(\alpha t)$ 3) reflection $x(t)$ → $x(-t)$ 주기신호 모든 시간 t에 대해서 $x(t) = x(t + T)$를 만족하는 T가 있다면 T : 주기 이때 T의 정수배도 모두 주기라고 말할 수 있다. 그러므로 주기신호의 주기를 물어볼 때 답이 단 하나가 나오는 것이 아니다. 단 fundamental period를 묻는다면 이는 제일 작은 주기로, 유일하게 답할 수 있겠다. 주기신호 가운데 상수신호는 예외적이다. x(t) = c = x(t+T) 이때 T는..
[신호와시스템]신호의 기본개념(1) 신호 : 정보를 포함하는 함수 또는 수열 시스템 : 신호 사이의 관계 예시 raw data image(신호) → 압축 알고리즘(시스템) → jpeg 이미지(신호) 미분은 시간에 따라 변하는 신호를 정량적으로 기술할 수 있다. 그렇기에 필연적으로 미분방정식 형태로 연속적으로 변하는 신호들 사이의 관계가 정의될 수 밖에 없다. 연속시간 신호 vs 이산시간 신호 Continuous time signal 시간 t에 대한 신호를 x(t)로 표현한다. R → R 연속적이고 실수이다. Discrete time signal x(t)로부터 t=T마다 샘플링 했다. 그러면 x(0), x(T), x(2T), ... , x(nT) 값을 뽑는다는 것이고 이를 ..., x[0], x[1], x[2], ... , x[n]으로 표현..
[선형대수]역행렬, 행렬식, 고유벡터 역행렬부터 시작하자. $n \times n$ 행렬 A의 역행렬 $A^{-1}$을 정의하면 $$A^{-1}A = AA^{-1} = I$$ 역행렬은 언제 존재하는가? $A^{-1}$ exists $\Leftrightarrow Ax \neq 0$ for all $x \neq 0 \Leftrightarrow N(A) = 0$ Nullspace $N(A) = \left\{x|Ax = 0\right\}$ A에 x를 곱했을 때 0으로 보내는 x들의 집합 즉, 역행렬이 존재하는 조건은 A에 x를 곱했을 때 0으로 보내는 x vector가 영벡터 뿐일 때를 뜻한다. A의 역행렬이 존재한다는 말은 곧 A가 invertible하다, A가 non-singular하다와 동치이다. 반대로 A의 역행렬이 존재하지 않는다는 말은 곧..
[Density Estimation]GMM(Gaussian Mixture Model)과 EM 알고리즘 Parametic Methods(단순한 분포를 가정하고 유한한 파라미터를 구하자) ML(Maximum Likelihood) Estimation MAP(Maximum A Posteriori) Estimation Non-Parametic Methods(복잡한 분포를 가정하자) 파젠창(Parzen Window) K-Nearest Neighbor Estimation (Parametric Methods + Non Parametic Methods)단순한 분포를 여러개 사용하자! Mixture Models 두 개 이상의 서로 다른 확률 분포의 혼합으로 데이터의 확률 분포를 모델링하자. (b)와 같이 하나의 단순 분포로 나타내기에는 아무래도 무리가 있다. 그래서 (c)와 같이 두 개의 단순 분포를 혼합해서 사용하는 것..
[Density Estimation]K-Nearest Neighbors Estimation과 Classification Parametic Methods(단순한 분포를 가정하고 유한한 파라미터를 구하자) ML(Maximum Likelihood) Estimation MAP(Maximum A Posteriori) Estimation Non-Parametic Methods(복잡한 분포를 가정하자) 파젠창(Parzen Window) K-Nearest Neighbor Estimation K-Nearest Neighbors Estimation 파젠창에서는 h가 고정이고 그 안에 샘플 수 k는 가변적이었다. 이번에는 반대로 샘플 수 k가 고정, h가 변동되는 값이된다. 샘플의 위치 x를 중심으로 창을 씌우고 k개 샘플이 안에 들어올 때까지 h를 확장해나간다. $$P_k(x) = \frac{1}{h(x)^d}\frac{k}{n}$$ $k..
[Density Estimation]파젠창(KDE)으로 파라미터 추정 Parametic Methods(단순한 분포를 가정하고 유한한 파라미터를 구하자) ML(Maximum Likelihood) Estimation MAP(Maximum A Posteriori) Estimation Non-Parametic Methods(복잡한 분포를 가정하자) 파젠창(Parzen Window) K-Nearest Neighbor Estimation 데이터의 분포가 유한한 파라미터로 가정할 수 없는 경우를 다뤄본다. 어떠한 사전 정보나 지식 없이 순수하게 관측된 데이터만으로 확률밀도함수를 추정한다. Histogram 시험을 봐서 성적을 [0, 100]까지 나타낸다고 하자. 이때 점수 분포를 5점마다, 10점마다 나타낼 수 있겠다. 그러나 그렇게 되면 bin의 크기마다 데이터의 분포가 달라지게 된..
[Density Estimation]ML과 MAP로 파라미터 추정 Density Estimation 밀도추정이란, 어떤 점 x에서 데이터가 발생할 확률, 즉 확률분포 $P(x)$를 구하는 문제이다. 예를들어 현재와 같은 분포에서는 $P(x_1)>P(x_2)>P(x_3)$이겠다. $x_1$쪽에는 밀집된만큼, 발생할만하고 $x_3$쪽에는 전혀 없어 발생가능성이 현저히 적다. 분포를 어떻게 구하냐에 따라서 다음과 같이 나뉜다. Parametic Methods(단순한 분포를 가정하고 유한한 파라미터를 구하자) ML(Maximum Likelihood) Estimation MAP(Maximum A Posteriori) Estimation Non-Parametic Methods(복잡한 분포를 가정하자) Parametic Methods 우리는 평균과 분산값 이렇게 두 가지만 있으면 ..