Это означает, что ваша матрица дизайна не обратима и поэтому не может быть использована для разработки регрессионной модели. Это вытекает из линейно зависимых столбцов, то есть сильно коррелированных переменных. Изучите парную ковариацию (или корреляцию) ваших переменных, чтобы выяснить, есть ли переменные, которые потенциально могут быть удалены. Вы ищете ковариации (или корреляции) >> 0. В качестве альтернативы, вы можете, вероятно, автоматизировать выбор этой переменной, используя прямую пошаговую регрессию.
Это также может быть результатом наличия большего количества переменных, чем наблюдений, и в этом случае ваша матрица проектирования, вероятно, не имеет полного ранга. Это немного сложнее исправить, но есть способы. Я считаю, что регрессия лассо должна работать хорошо, когда данные «шире», чем «длинные».
Имейте в виду: если вы решите попробовать лассо или пошаговый отбор, вы будете делать гораздо больше (с точки зрения выбора переменных), чем просто справляться с мультиколлинеарностью.