선형 분류 2

로지스틱 회귀(logistic regression)

로지스틱 회귀는 이진 "분류"를 위한 모델로 분류를 위한 경계선인 선형 분류기를 학습하는 것을 목표로 한다.   이진 분류에서 분류 선인 선형 분류기를 학습하기 위해서는 단순히 정답 값과 예측치의 차이인 오류를 줄이는 방법으로 학습할 수 없으며 목적함수로 오차가 아닌 크로스 엔트로피(cross entropy)를 사용했어야 했다. 이때 엔트로피는 확률 값을 필요로 하므로 선형 분류기에서 출력된 함숫 값을확률 값으로 매핑해주는 과정이 필요하다.이 매핑에 활용되는 함수가 로지스틱 함수 즉 로지스틱 회귀는 선형 분류기 + 로지스틱 함수라 할 수 있다!!!    확률 매핑 과정을 구체적으로 보면 회귀분석할 때 사용한 직선 즉 선형 분류기에 data를 입력한다. 그때 나온 값은 직선으로부터 멀리 떨어져 있는 dat..

선형 분류 2024.09.04

선형 분류(Linear classification)

분류란?  어떤 값을 입력하면 어떤 카테고리에 속하는지 class를 출력하게 하는 것  가장 쉬운 분류 방식은 클래스를 구분 지어줄 직선을 잘 형성하는 것    그 직선을 다른 말로 선형 분류기라 한다.이진 분류를 위한 경계 직선을 의미한다.  이 선형 분류기는..회귀분석에 사용하는 예측 함수와 동일함. (단순히 직선 함수니까) 목적은 이러한 분류 경계인 선형 분류기를 계산 or 학습하는 것..선형 분류기 학습 방식은 회귀분석 방식과 동일하다목적함수를 정의하고 목적함수를 최소화시키는 방향으로 선형 분류기를 학습한다.   목적함수로는 무엇을 사용하는가회귀분석에서는 mse rmse 와 같은 오차 함수를 목적 함수로... 즉, 단순히 정답 값과 예측치 간의 차이를 줄이는 방식으로 학습하였습니다만분류에서는? 목..

선형 분류 2024.08.02