개발 일지

Gradient Descent 모델의 가중치를 조절하는 과정에서 주로 사용되는 방법으로 loss function을 최소화하는 방향으로 기울기를 점진적으로 반대 방향으로 이동시키는 것을 말한다. Stochastic Gradient Descent Gradient Descent 과정에서 전체 학습 데이터를 사용하는 것이 아니라 일부 데이터를 사용하는 방법 SGD는 데이터의 일부를 가지고 경사 하강법을 사용하기 때문에 전체를 사용하는 것보다는 부정확할 수 있지만 계산 속도가 훨씬 빠르며 여러번 반복할 경우 BGD의 결과에 수렴한다. 현재에는 SGD의 변형된 알고리즘들이 주로 사용되고 있다.

Likelihood 가능도(우도) 연속 사건의 경우 전체 구간 내의 특정 사건이 일어날 확률은 무한히 많은 사건 중 하나이기 때문에 1/∞ 즉 0이 된다. 이러한 특징때문에 연속 사건에서의 확률은 특정 사건이 아닌 특정 구간에 사건이 속할 확률을 계산한다. Likelihood(가능도)는 연속 사건에서 특정 사건이 일어날 가능성을 따지기 위한 개념으로 PDF(확률밀도함수)에서의 y값을 가진다. log-likelihood 로그 가능도 MLE 등의 계산 과정에서 미분 계산의 편의성을 위해 사용한다. 가능도 함수에 log를 취한 값이다. Maximum Likelihood Estimation 최대 우도 추정 가능도(우도)를 최대로 하는 확률 추정을 말한다.

Collaborative Filtering 협업 필터링 유저 A가 특정 이슈에 관해 유저 B와 같은 의견을 가진다면 또 다른 이슈에 관해서도 비슷한 의견을 가질 확률이 높다는 사실을 기반으로 한다. Memory-based 1. 유저 간의 유사도를 기준으로 하는 User-Based 두 사용자가 얼마나 유사한 항목을 선호했는지를 기준으로 추천 각 사용자의 평가 점수를 하나의 벡터로 나타낸다면 두 사용자 간의 유사도는 두 벡터 간의 유사도로 정의할 수 있다. 벡터 간 유사도 계산에는 주로 코사인 유사도, 피어슨 유사도를 사용한다. 이러한 유저 기반 유사도 점수를 일종의 가중치로 사용하여 특정 사용자가 평가 하지 않은 컨텐츠에 대한 예측 평가 점수를 계산할 수 있다. 2. 아이템 간의 유사도를 기준으로 하는 I..