Файл dmg (Install OS X El Capitan.app/Contents/SharedSupport/InstallESD.dmg) не является загрузочным образом.
Для создания загрузочного файла используйте следующий скрипт. Возможно, вам придется изменить некоторые пути (например, имя пользователя в последней строке и путь к установке OS X El Capitan.app (и внутренний файл InstallESD.dmg) в 6-й строке):
#!/bin/bash
# Create bootable El Capitan ISO
# Mount the installer image
hdiutil attach "/Applications/Install OS X El Capitan.app/Contents/SharedSupport/InstallESD.dmg" -noverify -nobrowse -mountpoint /Volumes/esd
# Create empty cdr image
hdiutil create -o ElCapitan.cdr -size 8000m -layout SPUD -fs HFS+J
# Mount the cdr image
hdiutil attach ElCapitan.cdr.dmg -noverify -nobrowse -mountpoint /Volumes/iso
# Restore Base System to the cdr image
asr restore -source /Volumes/esd/BaseSystem.dmg -target /Volumes/iso -noprompt -noverify -erase
# Remove Package link and replace with actual files
rm /Volumes/OS\ X\ Base\ System/System/Installation/Packages
# Copy Base System
cp -rp /Volumes/esd/Packages /Volumes/OS\ X\ Base\ System/System/Installation
cp -rp /Volumes/esd/BaseSystem.chunklist /Volumes/OS\ X\ Base\ System/
cp -rp /Volumes/esd/BaseSystem.dmg /Volumes/OS\ X\ Base\ System/
# Unmount the installer image
hdiutil detach /Volumes/esd
# Unmount the cdr image
hdiutil detach /Volumes/OS\ X\ Base\ System
# Convert the cdr to ISO/CD master
hdiutil convert ElCapitan.cdr.dmg -format UDTO -o ElCapitan.iso
# Rename the ISO and move it to the desktop
mv ElCapitan.iso.cdr $HOME/Desktop/ElCapitan.iso
# Clean up temporary file
rm ElCapitan.cdr.dmg
Вставьте содержимое в текстовом редакторе в новый документ в виде обычного текста и сохраните его как prepare_elcapitan_cdr.sh на рабочем столе.
Откройте Терминал, выполните chmod скрипт и выполните его:
chmod +x ~/Desktop/prepare_elcapitan_cdr.sh
cd ~/Desktop
./prepare_elcapitan_cdr.sh
Отключите elcap.dmg от виртуальной машины. Используйте конечный файл ElCapitan.iso в качестве установщика iso и подключите его к виртуальному порту SATA 1. Вы можете удалить файл ElCapitan.cdr.dmg.