Средняя нагрузка меньше числа процессоров у вас означает, что процессоры сидят без дела. Равный означает, что они все работают в данный момент. Больше означает, что есть процессы, которые могут быть запущены, но застряли в очереди.
Для супер чувствительных ко времени вещей, таких как voip-сервер или memcache, вы хотите, чтобы средняя загрузка была ниже количества ядер. Для асинхронного содержимого, которое может использоваться для периодического резервного копирования (например, для электронной почты), вы можете легко запустить в 4 раза больше ядер.
Самое важное, о чем следует помнить, это то, что процессы, которые ожидают дискового или сетевого ввода-вывода, но в противном случае могут быть запущены, все равно отображаются в средней загрузке. Таким образом, если у вас есть сервер Apache, который ложится с jpg на 56k пользователей, вы можете запустить намного более высокую среднюю загрузку, чем если бы вы запускали отклики php / what-script на прокси / loadbalancer через гигабитную локальную сеть. В вашем случае соединение smtp с некоторым медленным почтовым сервером, который тратит целую вечность для передачи вложения, покажет 1 процесс в очереди выполнения, но может быть прерван двадцать раз, чтобы отправлять быстрое однострочное электронное письмо в gmail без проблем.
Толчок приходит к толчку, средняя нагрузка подобна DOW. Это на самом деле никак не измеряет «экономику», люди просто используют ее как очень слабо коррелированную метрику, потому что о ней легко говорить. Сосредоточьтесь на мониторинге метрик, которые вас действительно интересуют, таких как глубина очереди доставки и количество сообщений в секунду.