RNN이란 무엇인가

이론... AI에 진심이라면 이론역시 중요하다고 권위자분이 그러심

나 AI에 진심인가? 그냥 재미로하는것같은데

 

출처

https://blog.naver.com/PostView.nhn?blogId=winddori2002&logNo=221974391796

RNN은 시퀀스 데이터 처리에 강점을 가진 신경망

그렇다면 시퀀스 데이터는 무엇인가 

시퀀스 데이터는 어떤 순서를 가진 데이터라고 볼수있는데 대표적인 분야에는 시게열(time series), 자연어(NLP)분야를 생각할수있다

 

예를들어 시계열에서는 1일, 2일, 3일 이러한 특정 시점들이 순서를 가지고 있다고 본다

NLP에서는 'My name is'라는 문장에서 'my', 'name', 'is'이러한단어들이 연결된 시퀀스로 볼수있음

 

정리 RNN은 시퀀스 데이터를 처리하기에 적합한 모델이며 어떤것을 시퀀스로 정의하느냐에 따라서

NLP, time series, image등 다양한 문제 해결가능

 

RNN의 원리부분은 지금 밤을새서 그런지 머리에 잘안들어오는것같다

주식으로 생각하니까 이해하기 쉬웠다

주식에서 대부분의 지표는 과거의 데이터를 이용한다 ex) 이동평균선, rsi, cci, macd등

현재데이터도 이용하긴한다 ex) 거래량, 가격 등

현재의 주가가 과거의 주가에 영향을 받는 다는사실은 쉽게 납득할수있다

 

잘은 모르지만 전행(시계열 기준으로는 뭐 예를들어 전날)의 데이터가 있으면 

현재행에 영향을 미치는것같다

 

RNN의 단점:

RNN은 관련정보와 그정보를 사용지점 사이거리가 멀경우 역전파시 그래디언트가 점점 줄어 학습능력이크게저하됨

LSTM은 RNN의 단점을 해결한것으로 RNN의 히든 state에 cell-state를 추가한 구조 RNN보다 개선된 모델

출처https://ratsgo.github.io/natural%20language%20processing/2017/03/09/rnnlstm/