목록머신러닝 (10)

Hello Computer Vision

[머신러닝]랜덤 포레스트(Random Forest)에 대한 이해, 파이썬 코드

출처 : https://www.youtube.com/watch?v=lIT5-piVtRw 머신러닝 쪽에서 아주 유명한 앙상블 기법이며 정확도가 아주 높은 기법 중 하나이다. 활용할 데이터가 어떤 분포를 가질 지에 대한 가정이 필요없으며(비모수적 방법) 훈련시간이 적어 다양하게 활용된다. 또한 의사결정나무의 단점들을 보완한 방법이다.(과적합, 이상치민감) 랜덤포레스트의 핵심적인 아이디어는 Diversity, Random을 확보하는 것이다. Diversity는 Bootstrap, Bagging을 이용함으로서 충족시킨다. 이에 대한 설명은 이전 글에 간략하게 설명해놓았다 Diversity에대한 설명 Random을 충족시키기 위해서는 각각의 의사결정나무를 구축시 변수를 무작위로 선택한다. 이를 잘 설명해주는 이미..
머신러닝 2023. 1. 28. 15:51
[머신러닝] bootstrap, bagging이란?

이번에 머신러닝의 주요 기법인 랜덤포레스트를 공부하는 도중 부트스트랩, 배깅이란 용어가 나와 정리하고 가려고한다.(나름 핵심용어인 듯 하다) Bootstrap이란? 우선 앙상블을 사용할 때 사용하는 방법이다. 한정된 데이터셋에 대하여 (ex.10개의 변수) 전체 데이터수만큼의 복원추출을 수행한다. ex) 10개의 데이터가 있다면 10개를 복원추출하는 과정을 여러번 거친다. 이러한 과정에서 어떤 데이터셋에는 존재하지 않는 데이터도있을 것이고 여러번 뽑히는 데이터도 존재한다. 중요한 점은 전체 데이터셋보다 적은 데이터를 뽑은 것이 아닌 전체 데이터수만큼의 복원추출을 한다. 이론적으로 복원추출한 데이터셋에서 한개의 데이터가 존재하지 않을 확률은 0.36정도이다. Bagging이란? Bootstrap Aggre..
머신러닝 2023. 1. 28. 14:47
이전 Prev 1 2 Next 다음