Мой быстрый тест показывает, что поддержка btrfs встроена в raspbian как внешний модуль, не связанный напрямую с ядром.
Это означает, что ядро должно иметь возможность загрузить этот модуль (который хранится в корневой файловой системе), прежде чем он сможет смонтировать корневую файловую систему. Очевидно, это не работает.
Подход 1:
Создайте свое собственное ядро и настройте его конфигурацию, чтобы предварительно связать btrfs. Настроить конфигурацию легко, если вы выяснили, как собрать и загрузить собственное ядро.
Подход 2:
Выполните перенастройку, чтобы ядро и модули находились в файловой системе ext4, а данные, которые вы хотите сжать, - в разделе btrfs.
Подход 2А:
Оставьте корневой раздел как ext4 и создайте новый раздел на основе btrfs, но это не поможет сократить установку ОС (если это ваша цель).
Подход 2В:
Создайте маленький загрузочный раздел, содержащий ядро и модули, оставив все остальное на btrfs. Я понятия не имею, как сделать это для загрузчика Пи, или каковы ограничения вокруг этого.