머신러닝/딥러닝 피쳐 생성 하는방법이 구체적으로 궁급합니다.

[Kim-Byung-woo]

# 해결하고자 하는 문제
주식예측, 유튜브 구독자 예측과 같은 선형 회귀분석을 딥러닝을 이용해 진행하고 있습니다.
주식예측 같은 경우는 피쳐가 종가가격 뿐이고, 유튜브 구독자 예측은 피쳐가 일일 누적 구독자수, 일일 누적 조회수 뿐입니다.
피쳐의 개수가 적어 정확성이 많이 낮습니다. 정확성을 올리기 위해 방법을 찾아보니 데이터 전처리 과정 중에 피쳐를 생성할 수 있다고 나왔습니다.

Product feature: A * B
Addition feature: A + B
Subtraction feature: A - B

위와 같이 importance를 추출하여 상위 feature들 끼리 조합하여 피쳐를 생성할 수 있다고 하는데 구체적으로 어떻게 피쳐를 생성하는지 예시를 들어주시면 감사하겠습니다. 그리고 위에 방법외 다른 방법으로 피쳐를 생성할 수 있다면 그 방법도 가르쳐 주셨으면 합니다.

# 환경
os: window 10
code: python
library: pandas, sk-learn, tensorflow

[RayleighKim]

이런, Feature Engineering에는 이런걸 하면 좋다는 정해진 가이드라인이 없답니다.
왜냐하면 예측/설명에 도움이 될 것 같아서 생성하는 Feature들은
비지니스 도메인 지식에서 부터 만들고 / 계획하게 되거든요.

하지만, 주식을 예로 들자면.. 종가만 있지는 않을거에요.
시가, 고가, 저가, 거래량, adj-Close등도 있을 것이고..
일별 데이터가 아니라면 더욱 많을 것이구요.
또한, 주식에서 사용되는 technical indicator들은 전부 feature 삼을 수 있습니다.
즉, 그런 인디케이터를 만들어내는 것이 feature engineering이 될 것이고..

주식데이터위에서 피쳐엔지니어링을 잘 한다는 것은, 주식을 잘 안다는 말에 더욱 가깝습니다.

[corazzon]

안녕하세요.
위에 답변을 주신 것 처럼 엔지니어링적인 측면보다는 도메인을 이해하는게 더 중요한 문제들이 많습니다.
도메인 문제를 잘 이해하고 있다는 가정하에 기술적인 도움을 받고자 한다면 다음의 방법들을 적용해 보실 수 있을거 같습니다.

회귀문제로 시계열데이터를 예측해 보시려고 하는것 같습니다.
질문해 주신 feature engineering 에는 다양한 방법이 있습니다.
또, feature engineering 을 통해 모델의 성능을 올려볼 수 있는 방법도 많이 있습니다.

아래 슬라이드는 파이콘에서 했던 캐글 튜토리얼의 슬라이드 입니다.
제가 봤던 슬라이드 중에 feature engineering 에 대한 내용이 잘 정리되어 있는 편이라 추천합니다.

Pycon korea 2018 kaggle tutorial(kaggle break)

또, 캐글에 보면 비슷한 사례로 시계열 데이터를 예측하는 공개된 노트북이 많이 있습니다.
유사한 사례를 찾아보시면 해결하고자 하는 문제를 푸는데 도움이 될 것 같습니다.

또, 아래의 책은 feature engineering 만을 다룬 책입니다.
소스코드를 깃헙에서 보실 수 있으니 둘러보시면 좋을 거 같습니다.

alicezheng/feature-engineering-book: Code repo for the book "Feature Engineering for Machine Learning," by Alice Zheng and Amanda Casari, O'Reilly 2018

그리고 시계열데이터를 예측할 때는 회귀를 사용하기도 하지만 시계열을 예측하는 다양한 기법이 있습니다.
그중에 페이스북에서 개발한 Prophet 이라는 라이브러리가 있습니다.

Quick Start | Prophet

R코드로 설명이 되어 있지만 시계열 분석을 이해해 볼 수 있는 책이 있어 아래 책도 추천합니다.

Forecasting: Principles and Practice 시계열분석 한국어 번역본

시계열 분석 등으로 검색을 해보시는 것도 도움이 될 것 같습니다.