Я запустил модель xgboost. Я точно не знаю, как интерпретировать вывод xgb.importance
.
В чем смысл усиления, покрытия и частоты и как мы их интерпретируем?
Кроме того, что означает Split, RealCover и RealCover%? У меня есть некоторые дополнительные параметры здесь
Есть ли другие параметры, которые могут рассказать мне больше о важности функций?
Из документации R я понимаю, что усиление - это что-то похожее на получение информации, а частота - это количество раз, когда функция используется во всех деревьях. Понятия не имею, что такое Cover.
Я запустил приведенный в ссылке пример кода (а также попытался сделать то же самое для проблемы, над которой я работаю), но приведенное там определение разделения не совпадало с вычисленными мною числами.
importance_matrix
Выход:
Feature Gain Cover Frequence
1: xxx 2.276101e-01 0.0618490331 1.913283e-02
2: xxxx 2.047495e-01 0.1337406946 1.373710e-01
3: xxxx 1.239551e-01 0.1032614896 1.319798e-01
4: xxxx 6.269780e-02 0.0431682707 1.098646e-01
5: xxxxx 6.004842e-02 0.0305611830 1.709108e-02
214: xxxxxxxxxx 4.599139e-06 0.0001551098 1.147052e-05
215: xxxxxxxxxx 4.500927e-06 0.0001665320 1.147052e-05
216: xxxxxxxxxxxx 3.899363e-06 0.0001536857 1.147052e-05
217: xxxxxxxxxxxxxx 3.619348e-06 0.0001808504 1.147052e-05
218: xxxxxxxxxxxxx 3.429679e-06 0.0001792233 1.147052e-05