И xgboost, и gbm следуют принципу повышения градиента. Есть, однако, разница в деталях моделирования. В частности, xgboost использовал более упорядоченную формализацию модели для управления перетеканием, что повышает его производительность.
Мы обновили исчерпывающее руководство по введению в модель, на которое вы, возможно, захотите взглянуть. Введение в Повышенные Деревья
Название xgboost, тем не менее, на самом деле относится к инженерной цели, заключающейся в том, чтобы расширить границы вычислительных ресурсов для алгоритмов улучшенного дерева. Именно поэтому многие люди используют xgboost. Для модели может быть более подходящим называться регуляризованным повышением градиента.