Как уже упоминали другие, Btrfs все еще экспериментален, поэтому вы, вероятно, пока не хотите полагаться на Btrfs.
Люди, как правило, довольны ZFS на BSD, но вы также можете рассмотреть возможность использования ZFS на Solaris.
BSD-порт ZFS, вероятно, является наиболее зрелым портом, но он все еще отстает от ZFS на Solaris на несколько версий, поэтому вы не сразу получите все последние функции. Начиная с FreeBSD 8.0 поддерживается только ZFS версии 13, поэтому, например, вы не получите дедупликацию (которая была представлена в ZFS версии 21). Вы также не получите iSCSI с FreeBSD 8.0.
Если вам нужны новейшие функции ZFS в том виде, в каком они были представлены, вы можете выбрать OpenSolaris, Oracle Solaris или Nexenta (производная Solaris с пользовательским пространством GNU).