Конфигурация диска Hadoop JBOD на контроллере диска HP Smart Array 410 / i

8

Я нахожусь в стадии оценки некоторого hw, который мог бы использоваться для настройки кластера hadoop. Это устройство обновлено (серверы HP G6 с контроллером Smart Array 410 / i), и, вероятно, мы должны / должны его использовать ... у нас его пока нет. Я читал, что контроллер 410 / i не позволяет конфигурацию JBOD, как того требует hadoop, есть ли кто-нибудь, кто мог бы подтвердить это утверждение? Или нет ? Кажется, что обходным путем может быть настройка raid0 на каждом отдельном диске, опять же кто-нибудь это подтверждает или есть другие способы настройки? Спасибо, Роб

— nysalsa
источник

7

Контроллер Smart Array 410 / i позволяет создавать только 2 рейд-устройства без добавления дополнительной карты памяти. Так что, если ваше оборудование имеет только 2 диска, то все будет в порядке; Вы можете просто сделать это 2 raid0's. Если у вас более двух накопителей, вам, вероятно, придется купить Part # 462974-001 - 256 МБ кэш-памяти BBWC с резервным питанием от батареи. Если вы не уверены, попробуйте в утилите конфигурирования, он будет жаловаться, что существует ограничение на количество сконфигурированных raid-устройств, если вам необходимо приобрести аддон памяти.

Недавно я настроил ZFS-сервер, используя один из них и 12 дисков в режиме RAID0 для каждого, и он работает нормально. Поскольку вы можете отключить практически все функции фактического raid-контроллера, он практически такой же, как и режим JBOD.

— Erik
источник

4

Хотя вы можете создать несколько RAID 0 на этом контроллере для использования с ZFS, у вас будут проблемы в случае сбоя диска. ZFS не распознает замену, пока вы не перезагрузите компьютер.

— Ewwhite

4

Эта ситуация аналогична той, с которой я сталкиваюсь при разработке оборудования для решений хранения ZFS. ZFS представляет собой программный RAID и использует ресурсы сервера для управления дисками. Аппаратный RAID не рекомендуется, и JBOD на самом деле невозможен с контроллерами Smart Array. Поэтому при использовании систем ProLiant для ZFS я заменяю контроллер Smart Array чем-то, что имеет режим JBOD или базовый SAS / SATA HBA.

Как правило, это будет LSI SAS HBA (без функций RAID). Я предпочитаю LSI 9211-8i или 9205e.

См. Рекомендации по адресу: Рекомендации по контроллеру ZFS SAS / SATA.

— ewwhite
источник

0

Хотя диапазон Pxxx не разрешает прямую настройку JBOD, если вы просто создаете один массив из всех ваших дисков, а затем создаете несколько массивов RAID0 эквивалентных размеров, вы в значительной степени с точки зрения функционального сходства. Тем не менее, я также немного сомневаюсь в требованиях Hadoop, во-первых, нет никакого способа, которым он мог бы на самом деле сказать, какова реальная конфигурация диска, поскольку она скрыта BIOS, а во-вторых, потому что она кажется чрезмерно предписывающей, учитывая, насколько хорошо продуманы контроллеры HP, что проблема с массивом, управляющим его дисками?

— Chopper3
источник

3

Спасибо за ответ, HDFS (файловая система Hadoop) имеет встроенную избыточность за счет репликации блоков на несколько узлов. RAID 0 медленнее, чем конфигурация JBOD, используемая HDFS, поскольку ввод-вывод ограничен скоростью самого медленного диска в массиве RAID, ввод-вывод в JBOD независим, поэтому средняя скорость больше, чем у самого медленного диска. Тест, проведенный Yahoo, показал, что JBOD работает лучше, чем RAID 0: markmail.org/message/xmzc45zi25htr7ry

— nysalsa

0

Вы можете настроить RAID0 для каждого доступного физического диска.

Допустим, если у вас 8 дисков, то в итоге вы получите что-то подобное (CentOS 6):

# hpacucli ctrl all show config | grep RAID
      logicaldrive 1 (558.9 GB, RAID 0, OK)
      logicaldrive 2 (558.9 GB, RAID 0, OK)
      logicaldrive 3 (558.9 GB, RAID 0, OK)
      logicaldrive 4 (558.9 GB, RAID 0, OK)
      logicaldrive 5 (558.9 GB, RAID 0, OK)
      logicaldrive 6 (558.9 GB, RAID 0, OK)
      logicaldrive 7 (558.9 GB, RAID 0, OK)
      logicaldrive 8 (558.9 GB, RAID 0, OK)

— sl0n
источник

1

Не делайте этого. Вы теряете возможности горячей замены и будете иметь проблемы с перечислением блочных устройств. Отказавший диск == неисправный логический диск == новое устройство, созданное после замены.

— августа

1

Что такое «как поменять возможности»? Вы имеете в виду, что я не смогу заменить неисправный диск в режиме «онлайн», т.е. мне нужно выключить сервер перед заменой неисправного диска? Что касается перечисления устройств, я собираюсь проверить это, я думаю, что это справедливо.

— sl0n