Tabular data 썸네일형 리스트형 트리 모델은 왜 작은 데이터에서 강한가 — XGBoost와 딥러닝의 구조적 차이 정형 데이터와 작은 데이터셋에서 XGBoost, LightGBM이 딥러닝을 앞서는 이유를 귀납적 편향과 구조적 차이로 설명하며. 모델 선택 기준을 정리해보았다. 머신러닝을 처음 공부하던 시절에는 딥러닝이 결국 다 이길 거라고 생각했다. 레이어가 더 많고, 파라미터도 더 많으니 결국 딥러닝이 머신러닝이고 딥러닝을 통한 개발이 정답이라고 생각했다. 그런데 정형 데이터와 관련해서는 다소 내 추론과 결과가 달라졌다,,, 처음엔 단순히 딥러닝 튜닝이 어려워서 그렇다고 생각했다. 그런데 파고들수록 이유가 구체적으로 보이기 시작했다. 단순히 "트리 모델이 강하다"는 말로는 설명이 안 된다. 구조적인 이유와 그 차이를 통해서 알수 있었다.트리 모델은 함수가 아니라 규칙을 만든다딥러닝이 세상을 연속적인 함수로 보려 .. 더보기 이전 1 다음
