Значение «дизайн» в матрице дизайна?

В линейной регрессии $Y= X\beta$ , почему $X$ называется проектной матрицей? Может ли $X$ быть спроектирован или сконструирован произвольно до некоторой степени, как в искусстве?

Чтобы привести пример в соответствии с ответом @ neverKnowsBest, учтите, что в факторных экспериментах есть 3 фактора, каждый из которых рассматривается как категориальные переменные с 2 уровнями, и каждая возможная комбинация уровней факторов тестируется в каждой репликации. Если бы эксперимент проводился только один раз (без репликации), этот дизайн потребовал бы 2 3 = 8 прогонов. Прогоны могут быть описаны следующей матрицей 8x3: [ 0 0 0 1 0 0 0 1 0 1 1 0 0 0 1 1 0 1 0 1 1 $2^3$$2^3=8$ где строки представляют прогоны, а столбцы представляют уровни факторов: [ A B C ]. (Первый столбец представляет уровень фактора A, второй столбец B и третий столбец C). Это называетсяМатрица проектирования,потому что она описывает дизайн эксперимента. Первый прогон собирается на «низком» уровне всех факторов, второй прогон - на «высоком» уровне фактора A и «низком» уровне факторов B и C и т. Д.

$$\left[\begin{array}{rr} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 1 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 1 \\ 0 & 1 & 1 \\ 1 & 1 & 1 \\ \end{array} \right]$$ $$\left[\begin{array}{rr} A & B & C \\ \end{array} \right].$$

$$\left[\begin{array}{rr} 1 & 0 & 0 & 0 & 1 & 1 & 1 & 0 \\ 1 & 1 & 0 & 0 & 0 & 0 & 1 & 1 \\ 1 & 0 & 1 & 0 & 0 & 1 & 0 & 1 \\ 1 & 1 & 1 & 0 & 1 & 0 & 0 & 0 \\ 1 & 0 & 0 & 1 & 1 & 0 & 0 & 1 \\ 1 & 1 & 0 & 1 & 0 & 1 & 0 & 0 \\ 1 & 0 & 1 & 1 & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 \\ \end{array} \right]$$ $$\left[\begin{array}{rr} I & A & B & C & AB & AC & BC & ABC \\ \end{array} \right].$$

Цитирование

Монтгомери, Д. (2009). Дизайн и анализ экспериментов, 7-е издание. John Wiley & Sons Inc.

$\mathbf{X}$содержащий уровни факторов, на которых мы проводим эксперимент, и матрицу модели (также записывается как$\mathbf{X}$но на самом деле это функция матрицы дизайна), содержащая такие вещи, как столбец из всех 1 (представляющий элемент перехвата), а также произведения и полномочия столбцов матрицы дизайна (представляющие такие вещи, как термины взаимодействия и полиномиальной модели). Я бы позвонил$\mathbf{X}$ в $\mathbf{y} = \mathbf{X}\boldsymbol{\beta}$ матрица модели.

Проектирование экспериментов фокусируется на том, как построить матрицу проектирования и матрицу модели, поскольку это происходит до сбора данных. Если данные уже собраны, то дизайн будет сделан из камня, но вы все равно сможете изменить матрицу модели. Иногда спроектированный эксперимент будет иметь в матрице дизайна определенные фиксированные столбцы, называемые ковариатами которые не могут контролировать, но вы можете наблюдать.

Есть некоторые вещи, которые могут произойти в зависимости от вашего выбора модели и дизайна ... некоторые параметры могут стать трудными для оценки (большие расхождения в оценке), или вы не сможете оценить определенные параметры вообще. Я бы сказал, что выбор подходящей модели включает в себя некоторые элементы искусства, и, конечно же, есть искусство создавать эксперименты.

Это называется матрица дизайна, потому что столбцы матрицы $X$основаны на дизайне модели. Я не верю$X$ может быть создан произвольно в том смысле, что, как только модель будет определена, матрица проекта (как правило, одна колонка в $X$ для каждого $\beta$Вы пытаетесь оценить). Тем не менее, поскольку построение модели можно считать искусством, я полагаю, что и построение матрицы дизайна.

$X$это просто ваши данные (минус переменная ответа). Я считаю, что это называется матрицей дизайна, потому что она определяет «дизайн» вашей модели (через обучение).

Может ли Х быть спроектирован или сконструирован произвольно до некоторой степени, как в искусстве?

По сути, этот вопрос сводится к тому, «можете ли вы построить модель, подготовленную на основе полученных данных», на что, очевидно, ответ «да». Например, вот один из способов построить произвольную матрицу дизайна (в действительности вектор дизайна), которая даст модель с предопределенным наклоном и перехватом:

design_mat=function(b, a){
  X = runif(100)
  Y = a*X + b
  data.frame(X,Y)
}

df = design_mat(-5, 12.3)

(lm(Y~X, data=df))

Call:
lm(formula = Y ~ X, data = df)

Coefficients:
(Intercept)            X  
       -5.0         12.3  

В моем примере я «сконструировал» ответ из случайных проектных данных для иллюстративных целей, но вы могли бы также легко сконструировать матрицу дизайна из случайного ответа, используя $X = \frac{Y-b}{a}$,