[AI] GloVe

GloVe = Global Vectors for Word Representation

스탠포드대학에서 2014년 개발한 워드 임베딩 방법론

 

*2013년 구글에서 개발한 Word2Vec 단점

 

1. 기존 방법론에 대한 비판

2. 윈도우 기반 동시 등장 행렬 (Window based Co-occurrence Matrix)

3. 동시 등장 확률 (Co-occurrence Probability)

4. 손실 함수 (Loss Function)

5. GloVe 트레이닝

 

*Glove 의 목적함수