MLE против наименьших квадратов в подходящих распределениях вероятностей

На основании нескольких статей, книг и статей, которые я прочитал, у меня сложилось впечатление, что рекомендуемый способ подбора распределения вероятностей для набора данных - использование оценки максимального правдоподобия (MLE). Тем не менее, как физик, более интуитивный способ состоит в том, чтобы просто подогнать PDF модели к эмпирическому PDF данных, используя наименьшие квадраты. Почему тогда MLE лучше, чем наименьшие квадраты в подходящих распределениях вероятностей? Может ли кто-нибудь указать мне научную статью / книгу, которая отвечает на этот вопрос?

Я догадываюсь, что MLE не предполагает модель шума, а «шум» в эмпирическом файле PDF является гетероскедастичным и ненормальным.

Один полезный способ обдумать это - заметить, что бывают случаи, когда наименьшие квадраты и MLE одинаковы, например, оценка параметров, когда случайный элемент имеет нормальное распределение. Таким образом, на самом деле, вместо того, чтобы (как вы предполагаете), что MLE не предполагает модель шума, происходит то, что он действительно предполагает наличие случайного шума, но принимает более сложное представление о том, как он формируется, а не предполагает его имеет нормальное распределение.

Любой учебник по статистическому выводу будет иметь дело с хорошими свойствами MLE в отношении эффективности и согласованности (но не обязательно смещения). MLE также обладают хорошим свойством быть асимптотически нормальными при разумных условиях.