Является ли «переключатель» быстрее, чем «если»?


242

Является ли switchутверждение на самом деле быстрее, чем ifутверждение?

Я запустил код ниже на x64 C ++ компиляторе Visual Studio 2010 с /Oxфлагом:

#include <stdlib.h>
#include <stdio.h>
#include <time.h>

#define MAX_COUNT (1 << 29)
size_t counter = 0;

size_t testSwitch()
{
    clock_t start = clock();
    size_t i;
    for (i = 0; i < MAX_COUNT; i++)
    {
        switch (counter % 4 + 1)
        {
            case 1: counter += 4; break;
            case 2: counter += 3; break;
            case 3: counter += 2; break;
            case 4: counter += 1; break;
        }
    }
    return 1000 * (clock() - start) / CLOCKS_PER_SEC;
}

size_t testIf()
{
    clock_t start = clock();
    size_t i;
    for (i = 0; i < MAX_COUNT; i++)
    {
        const size_t c = counter % 4 + 1;
        if (c == 1) { counter += 4; }
        else if (c == 2) { counter += 3; }
        else if (c == 3) { counter += 2; }
        else if (c == 4) { counter += 1; }
    }
    return 1000 * (clock() - start) / CLOCKS_PER_SEC;
}

int main()
{
    printf("Starting...\n");
    printf("Switch statement: %u ms\n", testSwitch());
    printf("If     statement: %u ms\n", testIf());
}

и получил эти результаты:

Оператор переключения: 5261 мс
Если оператор: 5196 мс

Из того, что я узнал, switchоператоры, очевидно, используют таблицы переходов для оптимизации ветвления.

Вопросы:

  1. Как будет выглядеть базовая таблица переходов в x86 или x64?

  2. Этот код использует таблицу переходов?

  3. Почему в этом примере нет разницы в производительности? Есть ли ситуация , в которой есть значительная разница в производительности?


Разборка кода:

testIf:

13FE81B10 sub  rsp,48h 
13FE81B14 call qword ptr [__imp_clock (13FE81128h)] 
13FE81B1A mov  dword ptr [start],eax 
13FE81B1E mov  qword ptr [i],0 
13FE81B27 jmp  testIf+26h (13FE81B36h) 
13FE81B29 mov  rax,qword ptr [i] 
13FE81B2E inc  rax  
13FE81B31 mov  qword ptr [i],rax 
13FE81B36 cmp  qword ptr [i],20000000h 
13FE81B3F jae  testIf+0C3h (13FE81BD3h) 
13FE81B45 xor  edx,edx 
13FE81B47 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81B4E mov  ecx,4 
13FE81B53 div  rax,rcx 
13FE81B56 mov  rax,rdx 
13FE81B59 inc  rax  
13FE81B5C mov  qword ptr [c],rax 
13FE81B61 cmp  qword ptr [c],1 
13FE81B67 jne  testIf+6Dh (13FE81B7Dh) 
13FE81B69 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81B70 add  rax,4 
13FE81B74 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81B7B jmp  testIf+0BEh (13FE81BCEh) 
13FE81B7D cmp  qword ptr [c],2 
13FE81B83 jne  testIf+89h (13FE81B99h) 
13FE81B85 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81B8C add  rax,3 
13FE81B90 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81B97 jmp  testIf+0BEh (13FE81BCEh) 
13FE81B99 cmp  qword ptr [c],3 
13FE81B9F jne  testIf+0A5h (13FE81BB5h) 
13FE81BA1 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81BA8 add  rax,2 
13FE81BAC mov  qword ptr [counter (13FE835D0h)],rax 
13FE81BB3 jmp  testIf+0BEh (13FE81BCEh) 
13FE81BB5 cmp  qword ptr [c],4 
13FE81BBB jne  testIf+0BEh (13FE81BCEh) 
13FE81BBD mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81BC4 inc  rax  
13FE81BC7 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81BCE jmp  testIf+19h (13FE81B29h) 
13FE81BD3 call qword ptr [__imp_clock (13FE81128h)] 
13FE81BD9 sub  eax,dword ptr [start] 
13FE81BDD imul eax,eax,3E8h 
13FE81BE3 cdq       
13FE81BE4 mov  ecx,3E8h 
13FE81BE9 idiv eax,ecx 
13FE81BEB cdqe      
13FE81BED add  rsp,48h 
13FE81BF1 ret       

testSwitch:

13FE81C00 sub  rsp,48h 
13FE81C04 call qword ptr [__imp_clock (13FE81128h)] 
13FE81C0A mov  dword ptr [start],eax 
13FE81C0E mov  qword ptr [i],0 
13FE81C17 jmp  testSwitch+26h (13FE81C26h) 
13FE81C19 mov  rax,qword ptr [i] 
13FE81C1E inc  rax  
13FE81C21 mov  qword ptr [i],rax 
13FE81C26 cmp  qword ptr [i],20000000h 
13FE81C2F jae  testSwitch+0C5h (13FE81CC5h) 
13FE81C35 xor  edx,edx 
13FE81C37 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81C3E mov  ecx,4 
13FE81C43 div  rax,rcx 
13FE81C46 mov  rax,rdx 
13FE81C49 inc  rax  
13FE81C4C mov  qword ptr [rsp+30h],rax 
13FE81C51 cmp  qword ptr [rsp+30h],1 
13FE81C57 je   testSwitch+73h (13FE81C73h) 
13FE81C59 cmp  qword ptr [rsp+30h],2 
13FE81C5F je   testSwitch+87h (13FE81C87h) 
13FE81C61 cmp  qword ptr [rsp+30h],3 
13FE81C67 je   testSwitch+9Bh (13FE81C9Bh) 
13FE81C69 cmp  qword ptr [rsp+30h],4 
13FE81C6F je   testSwitch+0AFh (13FE81CAFh) 
13FE81C71 jmp  testSwitch+0C0h (13FE81CC0h) 
13FE81C73 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81C7A add  rax,4 
13FE81C7E mov  qword ptr [counter (13FE835D0h)],rax 
13FE81C85 jmp  testSwitch+0C0h (13FE81CC0h) 
13FE81C87 mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81C8E add  rax,3 
13FE81C92 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81C99 jmp  testSwitch+0C0h (13FE81CC0h) 
13FE81C9B mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81CA2 add  rax,2 
13FE81CA6 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81CAD jmp  testSwitch+0C0h (13FE81CC0h) 
13FE81CAF mov  rax,qword ptr [counter (13FE835D0h)] 
13FE81CB6 inc  rax  
13FE81CB9 mov  qword ptr [counter (13FE835D0h)],rax 
13FE81CC0 jmp  testSwitch+19h (13FE81C19h) 
13FE81CC5 call qword ptr [__imp_clock (13FE81128h)] 
13FE81CCB sub  eax,dword ptr [start] 
13FE81CCF imul eax,eax,3E8h 
13FE81CD5 cdq       
13FE81CD6 mov  ecx,3E8h 
13FE81CDB idiv eax,ecx 
13FE81CDD cdqe      
13FE81CDF add  rsp,48h 
13FE81CE3 ret       

Обновить:

Интересные результаты здесь . Не уверен, почему один быстрее, а другой медленнее.


47
Что на земле люди голосуют, чтобы закрыть это мышление? Неужели они так верят в идею совершенно оптимизирующего компилятора, что любая мысль о том, что он генерирует не идеальный код, является ересью? Сама идея какой- либо оптимизации где-либо оскорбляет их?
Crashworks

6
Что именно не так с этим вопросом?
Тугрул Атес

25
Для тех , интересно , что случилось с этим вопросом : Во - первых, это не вопрос, это 3 вопросов, а это значит , что многие из ответов в настоящее время различные вопросы. Это означает, что будет трудно принять любой ответ, который отвечает на все вопросы . Кроме того, типичная реакция коленного рефлекса на вышеупомянутый вопрос заключается в том, чтобы закрыть его как «не очень интересный», в основном из-за того, что на этом уровне оптимизации вы почти всегда преждевременно оптимизируете . Наконец, 5196 против 5261 не должно быть достаточно, чтобы на самом деле заботиться. Напишите логический код, который имеет смысл.
Лассе В. Карлсен

40
@Lasse: Вы действительно предпочли , чтобы я отправил три вопросы на SO , а? Кроме того: 5196 vs. 5261 shouldn't be enough to actually care-> Я не уверен, неправильно ли вы поняли вопрос или я неправильно понял ваш комментарий, но разве не весь смысл моего вопроса в том, почему нет разницы? (Я когда-либо утверждал, что это значительная разница, о которой нужно заботиться?)
user541686

5
@ Роберт: Ну, у него есть только более 20 комментариев, потому что они мета-комментарии. Там только 7 комментариев на самом деле связаны с вопросом здесь. Мнение: я не вижу, как здесь есть «мнение». Есть причина, по которой я не вижу разницы в производительности, нет? Это просто вкус? Дебаты: Может быть, но для меня это похоже на здоровые дебаты, как я видел в других местах на SO (дайте мне знать, если есть что-то против этого). Аргументы: я не вижу здесь никаких аргументов (разве вы не воспринимаете это как синоним слова «дискуссия»?). Расширенное обсуждение: если вы включите эти мета-комментарии.
user541686

Ответы:


122

Есть несколько оптимизаций, которые компилятор может сделать на коммутаторе. Я не думаю, что часто упоминаемая «таблица переходов» является очень полезной, поскольку она работает только тогда, когда ввод может быть каким-то образом ограничен.

C псевдокодом для «таблицы переходов» будет что-то вроде этого - обратите внимание, что на практике компилятору потребуется вставить некоторую форму проверки if вокруг таблицы, чтобы убедиться, что входные данные были допустимы в таблице. Также обратите внимание, что это работает только в конкретном случае, когда ввод представляет собой последовательность последовательных чисел.

Если число ветвлений в коммутаторе очень велико, компилятор может делать что-то вроде использования бинарного поиска по значениям коммутатора, что (на мой взгляд) было бы гораздо более полезной оптимизацией, поскольку в некоторых случаях это значительно повышает производительность сценарии, такие же общие, как и переключатель, и не приводят к большему размеру сгенерированного кода. Но чтобы увидеть это, вашему тестовому коду понадобится МНОГО больше веток, чтобы увидеть разницу.

Чтобы ответить на ваши конкретные вопросы:

  1. Clang генерирует тот, который выглядит следующим образом :

    test_switch(char):                       # @test_switch(char)
            movl    %edi, %eax
            cmpl    $19, %edi
            jbe     .LBB0_1
            retq
    .LBB0_1:
            jmpq    *.LJTI0_0(,%rax,8)
            jmp     void call<0u>()         # TAILCALL
            jmp     void call<1u>()         # TAILCALL
            jmp     void call<2u>()         # TAILCALL
            jmp     void call<3u>()         # TAILCALL
            jmp     void call<4u>()         # TAILCALL
            jmp     void call<5u>()         # TAILCALL
            jmp     void call<6u>()         # TAILCALL
            jmp     void call<7u>()         # TAILCALL
            jmp     void call<8u>()         # TAILCALL
            jmp     void call<9u>()         # TAILCALL
            jmp     void call<10u>()        # TAILCALL
            jmp     void call<11u>()        # TAILCALL
            jmp     void call<12u>()        # TAILCALL
            jmp     void call<13u>()        # TAILCALL
            jmp     void call<14u>()        # TAILCALL
            jmp     void call<15u>()        # TAILCALL
            jmp     void call<16u>()        # TAILCALL
            jmp     void call<17u>()        # TAILCALL
            jmp     void call<18u>()        # TAILCALL
            jmp     void call<19u>()        # TAILCALL
    .LJTI0_0:
            .quad   .LBB0_2
            .quad   .LBB0_3
            .quad   .LBB0_4
            .quad   .LBB0_5
            .quad   .LBB0_6
            .quad   .LBB0_7
            .quad   .LBB0_8
            .quad   .LBB0_9
            .quad   .LBB0_10
            .quad   .LBB0_11
            .quad   .LBB0_12
            .quad   .LBB0_13
            .quad   .LBB0_14
            .quad   .LBB0_15
            .quad   .LBB0_16
            .quad   .LBB0_17
            .quad   .LBB0_18
            .quad   .LBB0_19
            .quad   .LBB0_20
            .quad   .LBB0_21
  2. Я могу сказать, что он не использует таблицу переходов - ясно видно 4 инструкции сравнения:

    13FE81C51 cmp  qword ptr [rsp+30h],1 
    13FE81C57 je   testSwitch+73h (13FE81C73h) 
    13FE81C59 cmp  qword ptr [rsp+30h],2 
    13FE81C5F je   testSwitch+87h (13FE81C87h) 
    13FE81C61 cmp  qword ptr [rsp+30h],3 
    13FE81C67 je   testSwitch+9Bh (13FE81C9Bh) 
    13FE81C69 cmp  qword ptr [rsp+30h],4 
    13FE81C6F je   testSwitch+0AFh (13FE81CAFh) 

    Решение на основе таблицы переходов вообще не использует сравнение.

  3. Либо недостаточно веток, чтобы компилятор генерировал таблицу переходов, либо ваш компилятор просто не генерирует их. Я не уверен, какой.

РЕДАКТИРОВАТЬ 2014 : В другом месте обсуждались люди, знакомые с оптимизатором LLVM, которые говорили, что оптимизация таблицы переходов может быть важной во многих сценариях; например, в случаях, когда существует перечисление со многими значениями и во многих случаях со значениями в указанном перечислении. Тем не менее, я придерживаюсь того, что я сказал выше в 2011 году - слишком часто я вижу, что люди думают: «Если я сделаю это переключение, это будет то же самое время, независимо от того, сколько у меня дел» - и это совершенно неверно. Даже с таблицей переходов вы получаете косвенную стоимость перехода и платите за записи в таблице для каждого случая; и пропускная способность памяти - это большое дело для современного оборудования.

Напишите код для удобства чтения. Любой компилятор, достойный своей соли, увидит лестницу if / else if и преобразует ее в эквивалентный переключатель, или наоборот, если это будет быстрее.


3
+1 за фактический ответ на вопрос и за полезную информацию. :-) Однако, вопрос: насколько я понимаю, таблица переходов использует косвенные переходы; это правильно? Если так, разве это обычно не медленнее из-за более сложной предварительной выборки / конвейеризации?
user541686

1
@ Mehrdad: Да, он использует косвенные прыжки. Однако один непрямой прыжок (с остановкой конвейера, с которым он поставляется) может быть меньше, чем сотни прямых прыжков. :)
Билли ONEAL

1
@ Mehrdad: нет, к сожалению. :( Я рад, что нахожусь в лагере людей, которые всегда думают, что ЕСЛИ более читабельно! :)
Билли ОНил

1
Несколько подсказок - «[переключатели] работают только тогда, когда входные данные могут быть каким-либо образом ограничены» », необходимо вставить некоторую форму проверки if вокруг таблицы, чтобы убедиться, что ввод был допустимым в таблице. Обратите внимание также, что он работает только в определенных на случай, если ввод представляет собой последовательность последовательных чисел. ": вполне возможно иметь малонаселенную таблицу, в которой читается потенциальный указатель, и только в том случае, если не-NULL является выполненным переходом, в противном случае - случай по умолчанию, если любой из них был перепрыгнут, тогда switchвыходы. Сорен сказал несколько других вещей, которые я хотел сказать после прочтения этого ответа.
Тони Делрой

2
«Любой компилятор, достойный своей соли, увидит лестницу if / else if и превратит ее в эквивалентный переключатель, или наоборот» - какая поддержка для этого утверждения? компилятор может предположить, что порядок ваших ifпредложений уже был настроен вручную, чтобы соответствовать частоте и относительным потребностям производительности, где switchтрадиционно рассматривается как открытое приглашение для оптимизации, как компилятор выбирает. Хороший момент, повторяющий прошлое switch:-). Размер кода зависит от случаев / диапазона - может быть лучше. Наконец, некоторые перечисления, битовые поля и charсценарии по своей природе действительны / ограничены и не требуют дополнительных затрат.
Тони Делрой

47

На ваш вопрос:

1. Как будет выглядеть базовая таблица переходов в x86 или x64?

Таблица переходов - это адрес памяти, который содержит указатель на метки в виде структуры массива. Следующий пример поможет вам понять, как устроены таблицы переходов

00B14538  D8 09 AB 00 D8 09 AB 00 D8 09 AB 00 D8 09 AB 00  Ø.«.Ø.«.Ø.«.Ø.«.
00B14548  D8 09 AB 00 D8 09 AB 00 D8 09 AB 00 00 00 00 00  Ø.«.Ø.«.Ø.«.....
00B14558  00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00  ................
00B14568  00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00  ................

введите описание изображения здесь

Где 00B14538 - указатель на таблицу переходов и значение, например, D8 09 AB 00 представляет указатель метки.

2. Использует ли этот код таблицу переходов? Нет в этом случае.

3. Почему в этом примере нет разницы в производительности?

Нет разницы в производительности, потому что инструкция для обоих случаев выглядит одинаково, нет таблицы переходов.

4. Есть ли ситуации, в которых есть существенная разница в производительности?

Если у вас очень длинная последовательность проверки if , в этом случае использование таблицы переходов повышает производительность (инструкции ветвления / jmp дороги если они не предсказывают почти идеально), но требуют затрат памяти.

Код для всех инструкций сравнения также имеет некоторый размер, поэтому, особенно при использовании 32-битных указателей или смещений, поиск в одной таблице переходов может не стоить намного большего размера в исполняемом файле.

Вывод: компилятор достаточно умен, обрабатывает такие случаи и генерирует соответствующие инструкции :)


(edit: nvm, ответ Билли уже содержит то, что я предлагал. Я думаю, это хорошее дополнение.) Было бы хорошо включить gcc -Sвывод: последовательность записей .long L1/ .long L2таблицы более значима, чем hexdump, и более полезна для тех, кто хочет научиться смотреть на компилятор. (Хотя я думаю, что вы просто посмотрите на код коммутатора, чтобы увидеть, был ли это косвенный jmp или связка jcc).
Питер Кордес

31

Компилятор может свободно скомпилировать оператор switch в виде кода, который эквивалентен оператору if, или создать таблицу переходов. Скорее всего, он будет выбирать один из другого в зависимости от того, что будет выполняться быстрее всего или генерировать наименьший код, в зависимости от того, что вы указали в параметрах компилятора, поэтому в худшем случае скорость будет такой же, как в операторах if.

Я бы доверил компилятору сделать лучший выбор и сосредоточился на том, что делает код наиболее читабельным.

Если число случаев становится очень большим, таблица переходов будет намного быстрее, чем серия if. Однако, если шаги между значениями очень велики, тогда таблица переходов может стать большой, и компилятор может не генерировать ее.


13
Я не думаю, что это отвечает на вопрос ОП. Вообще.
Билли Онил

5
@ Сорен: Если бы это был «основной вопрос», то я бы не стал беспокоиться о 179 других строках вопроса, это была бы только 1 строка. :-)
user541686

8
@ Сорен: я вижу по крайней мере 3 пронумерованных подвопроса как часть вопроса ОП. Вы просто трубили тот же самый ответ, который относится ко всем вопросам «производительности», а именно, что вы должны сначала измерить. Подумайте, что, возможно, Mehrdad уже измерил и выделил этот кусок кода, чтобы быть горячей точкой. В таких случаях ваш ответ хуже бесполезного, это шум.
Билли ОНил

2
Между таблицей переходов и тем, что не зависит от вашего определения, есть размытая линия. Я предоставил информацию по подвопросу, часть 3.
Сорен

2
@wnoise: Если это единственный правильный ответ, то никогда не было бы причины задавать вопрос о производительности. Однако в реальном мире есть некоторые из нас, которые измеряют наше программное обеспечение, и мы иногда не знаем, как сделать кусок кода быстрее, когда он будет измерен. Очевидно, что Мердад приложил некоторые усилия к этому вопросу, прежде чем задавать его; и я думаю, что его конкретные вопросы более чем ответственны.
Билли ОНил

13

Откуда вы знаете, что ваш компьютер не выполнял какую-либо задачу, не связанную с тестом, во время цикла тестирования коммутатора и выполнял меньше задач во время цикла тестирования if? Результаты вашего теста ничего не показывают как:

  1. разница очень маленькая
  2. результат только один, а не ряд результатов
  3. слишком мало дел

Мои результаты:

Я добавил:

printf("counter: %u\n", counter);

до конца, чтобы не оптимизировать цикл, так как в вашем примере счетчик никогда не использовался, так почему компилятор выполняет цикл? Сразу же, переключатель всегда выигрывал даже с таким микро-тестом.

Другая проблема с вашим кодом:

switch (counter % 4 + 1)

в вашем цикле переключения, по сравнению с

const size_t c = counter % 4 + 1; 

в вашем цикле if. Очень большая разница, если вы это исправите. Я считаю, что размещение оператора внутри оператора switch заставляет компилятор отправлять значение непосредственно в регистры ЦП, а не помещать его в стек первым. Следовательно, это в пользу оператора switch, а не сбалансированного теста.

Ох, и я думаю, что вы также должны сбросить счетчик между тестами. Фактически, вы, вероятно, должны использовать какое-то случайное число вместо +1, +2, +3 и т. Д., Так как оно, вероятно, что-то там оптимизирует. Например, под случайным числом подразумевается число, основанное на текущем времени. В противном случае компилятор может превратить обе ваши функции в одну длинную математическую операцию и даже не беспокоиться ни о каких циклах.

Я изменил код Райана настолько, чтобы компилятор не мог разобраться до запуска кода:

#include <stdlib.h>
#include <stdio.h>
#include <time.h>

#define MAX_COUNT (1 << 26)
size_t counter = 0;

long long testSwitch()
{
    clock_t start = clock();
    size_t i;
    for (i = 0; i < MAX_COUNT; i++)
    {
        const size_t c = rand() % 20 + 1;

        switch (c)
        {
                case 1: counter += 20; break;
                case 2: counter += 33; break;
                case 3: counter += 62; break;
                case 4: counter += 15; break;
                case 5: counter += 416; break;
                case 6: counter += 3545; break;
                case 7: counter += 23; break;
                case 8: counter += 81; break;
                case 9: counter += 256; break;
                case 10: counter += 15865; break;
                case 11: counter += 3234; break;
                case 12: counter += 22345; break;
                case 13: counter += 1242; break;
                case 14: counter += 12341; break;
                case 15: counter += 41; break;
                case 16: counter += 34321; break;
                case 17: counter += 232; break;
                case 18: counter += 144231; break;
                case 19: counter += 32; break;
                case 20: counter += 1231; break;
        }
    }
    return 1000 * (long long)(clock() - start) / CLOCKS_PER_SEC;
}

long long testIf()
{
    clock_t start = clock();
    size_t i;
    for (i = 0; i < MAX_COUNT; i++)
    {
        const size_t c = rand() % 20 + 1;
        if (c == 1) { counter += 20; }
        else if (c == 2) { counter += 33; }
        else if (c == 3) { counter += 62; }
        else if (c == 4) { counter += 15; }
        else if (c == 5) { counter += 416; }
        else if (c == 6) { counter += 3545; }
        else if (c == 7) { counter += 23; }
        else if (c == 8) { counter += 81; }
        else if (c == 9) { counter += 256; }
        else if (c == 10) { counter += 15865; }
        else if (c == 11) { counter += 3234; }
        else if (c == 12) { counter += 22345; }
        else if (c == 13) { counter += 1242; }
        else if (c == 14) { counter += 12341; }
        else if (c == 15) { counter += 41; }
        else if (c == 16) { counter += 34321; }
        else if (c == 17) { counter += 232; }
        else if (c == 18) { counter += 144231; }
        else if (c == 19) { counter += 32; }
        else if (c == 20) { counter += 1231; }
    }
    return 1000 * (long long)(clock() - start) / CLOCKS_PER_SEC;
}

int main()
{
    srand(time(NULL));
    printf("Starting...\n");
    printf("Switch statement: %lld ms\n", testSwitch()); fflush(stdout);
    printf("counter: %d\n", counter);
    counter = 0;
    srand(time(NULL));
    printf("If     statement: %lld ms\n", testIf()); fflush(stdout);
    printf("counter: %d\n", counter);
} 

переключатель: 3740
если: 3980

(аналогичные результаты для нескольких попыток)

Я также уменьшил количество дел / случаев до 5, и функция переключения все еще выиграла.


Идк, я не могу доказать это; Вы получаете разные результаты?
user541686

+1: сравнительный анализ сложен, и вы действительно не можете сделать какие-либо выводы из небольшой разницы во времени за один прогон на обычном компьютере. Вы можете попытаться выполнить большое количество тестов и сделать некоторую статистику по результатам. Или подсчет циклов процессора при контролируемом выполнении в эмуляторе.
Томас Падрон-Маккарти

А где именно вы добавили printутверждение? Я добавил его в конце всей программы и не увидел никакой разницы. Я также не понимаю, в чем «проблема» с другим ... умом объяснять, что такое «очень большая разница»?
user541686

1
@BobTurbo: 45983493 более 12 часов. Это была опечатка?
Гас

1
отлично, теперь я должен пойти и сделать это снова :)
BobTurbo

7

Хороший оптимизирующий компилятор, такой как MSVC, может генерировать:

  1. простой прыжковый стол, если дела расположены на хорошем дальнем расстоянии
  2. таблица разреженных (двухуровневых) прыжков, если есть много пробелов
  3. серия ifs, если количество дел мало или значения не близки
  4. комбинация выше, если случаи представляют несколько групп близко расположенных диапазонов.

Короче говоря, если переключатель выглядит медленнее, чем серия ifs, компилятор может просто преобразовать его в единицу. И это, вероятно, будет не просто последовательность сравнений для каждого случая, а двоичное дерево поиска. Смотрите здесь для примера.


Фактически, компилятор также может заменить его хешем и переходом, который работает лучше, чем предложенное вами разреженное двухуровневое решение.
Алиса

5

Я отвечу 2) и сделаю некоторые общие комментарии. 2) Нет, в коде сборки, который вы опубликовали, нет таблицы переходов. Таблица переходов - это таблица пунктов назначения перехода и одна или две инструкции для перехода непосредственно в индексированное местоположение из таблицы. Таблица переходов имеет больше смысла, когда есть много возможных пунктов назначения переключения. Может быть, оптимизатор знает, что простая, если еще логика быстрее, если количество пунктов назначения не превышает некоторый порог. Попробуйте еще раз, скажем, 20 вариантов вместо 4.


+1 спасибо за ответ на # 2! :) (Кстати, вот результаты с большим количеством возможностей.)
user541686

4

Я был заинтригован и посмотрел, что я могу изменить в вашем примере, чтобы он быстрее выполнял оператор switch.

Если вы наберете 40 операторов if и добавите 0, то блок if будет работать медленнее, чем эквивалентный оператор switch. У меня есть результаты здесь: https://www.ideone.com/KZeCz .

Эффект удаления случая 0 можно увидеть здесь: https://www.ideone.com/LFnrX .


1
Ваши ссылки сломались.
TS

4

Вот некоторые результаты из старого (сейчас трудно найти) теста Bench ++:

Test Name:   F000003                         Class Name:  Style
CPU Time:       0.781  nanoseconds           plus or minus     0.0715
Wall/CPU:        1.00  ratio.                Iteration Count:  1677721600
Test Description:
 Time to test a global using a 2-way if/else if statement
 compare this test with F000004

Test Name:   F000004                         Class Name:  Style
CPU Time:        1.53  nanoseconds           plus or minus     0.0767
Wall/CPU:        1.00  ratio.                Iteration Count:  1677721600
Test Description:
 Time to test a global using a 2-way switch statement
 compare this test with F000003

Test Name:   F000005                         Class Name:  Style
CPU Time:        7.70  nanoseconds           plus or minus      0.385
Wall/CPU:        1.00  ratio.                Iteration Count:  1677721600
Test Description:
 Time to test a global using a 10-way if/else if statement
 compare this test with F000006

Test Name:   F000006                         Class Name:  Style
CPU Time:        2.00  nanoseconds           plus or minus     0.0999
Wall/CPU:        1.00  ratio.                Iteration Count:  1677721600
Test Description:
 Time to test a global using a 10-way switch statement
 compare this test with F000005

Test Name:   F000007                         Class Name:  Style
CPU Time:        3.41  nanoseconds           plus or minus      0.171
Wall/CPU:        1.00  ratio.                Iteration Count:  1677721600
Test Description:
 Time to test a global using a 10-way sparse switch statement
 compare this test with F000005 and F000006

Из этого видно, что (на этой машине с этим компилятором - VC ++ 9.0 x64) каждый if тест занимает около 0,7 наносекунд. По мере увеличения количества тестов время масштабируется почти идеально линейно.

С оператором switch почти нет разницы в скорости между 2-х и 10-ти сторонним тестом, если значения плотные. Тест с 10 путями с разреженными значениями занимает примерно в 1,6 раза больше времени, чем тест с 10 путями с плотными значениями, но даже при разреженных значениях он все же лучше, чем в два раза быстрее, чем скорость с 10 путями if/else if .

Итог: с использованием только тест 4-полосная не будет на самом деле показать вам много о производительности switchпротив if/ else. Если вы посмотрите на числа из этого кода, то довольно просто интерполировать тот факт, что для теста с четырьмя путями мы ожидаем, что эти два приведут к довольно схожим результатам (~ 2,8 наносекунды для if/ else, ~ 2,0 для switch).


1
Немного сложно понять, что с этим делать, если мы не знаем, намеренно ли тест ищет значение, не соответствующее или не соответствующее только в конце if/ elseцепочки, против их разброса и т. Д. Не удается найти bench++источники после 10 минут гуглят.
Тони Делрой

3

Обратите внимание, что когда переключатель НЕ компилируется в таблицу переходов, вы можете очень часто писать, если он более эффективен, чем переключатель ...

(1) если дела имеют порядок, а не тестирование наихудшего случая для всех N, вы можете написать свои if для проверки, в верхней или нижней половине, а затем в каждой половине этого стиля двоичного поиска ... что приводит к в худшем случае это logN, а не N

(2) если определенные случаи / группы встречаются гораздо чаще, чем другие, то разработка вашего if для первичного выделения этих случаев может ускорить среднее время


Это заметно не соответствует действительности; компиляторы более чем способны сделать ОБА из этих оптимизаций.
Алиса

1
Алиса, как компилятор должен знать, какие случаи будут происходить чаще, чем другие случаи в ваших ожидаемых рабочих нагрузках? (A: Он не может знать, поэтому он не может сделать такую ​​оптимизацию.)
Брайан Кеннеди

(1) может быть легко сделано, и это делается в некоторых компиляторах, просто выполняя бинарный поиск. (2) может быть предсказано различными способами или указано компилятору. Вы никогда не использовали GCC "вероятно" или "вряд ли"?
Алиса

А некоторые компиляторы позволяют запускать программу в режиме, который собирает статистику, а затем оптимизирует эту информацию.
Phil1970

2

Нет, это если если затем перейти к другому, если затем перейти к другому ... Таблица перехода будет иметь таблицу адресов или использовать хэш или что-то в этом роде.

Быстрее или медленнее субъективно. Например, вы могли бы использовать случай 1 последним, а не первым, и если ваша тестовая программа или программа реального мира использовала случай 1, большую часть времени код был бы медленнее в этой реализации. Так что просто реорганизация списка дел, в зависимости от реализации, может иметь большое значение.

Если бы вы использовали случаи 0-3 вместо 1-4, компилятор мог бы использовать таблицу переходов, компилятор должен был бы в любом случае удалить ваш +1. Возможно, это было небольшое количество предметов. Например, если бы вы сделали это 0 - 15 или 0 - 31, он мог бы реализовать это с помощью таблицы или использовать другой ярлык. Компилятор может свободно выбирать, как он реализует вещи, если он соответствует функциональности исходного кода. И это касается различий компилятора, различий версий и различий в оптимизации. Если вам нужна таблица переходов, создайте таблицу переходов, если вы хотите, чтобы дерево if-then-else создавало дерево if-then-else. Если вы хотите, чтобы компилятор принял решение, используйте оператор switch / case.


2

Не уверен, почему один быстрее, а другой медленнее.

Это на самом деле не так уж сложно объяснить ... Если вы помните, что неправильно предсказанные ветки стоят в десятки и сотни раз дороже, чем правильно предсказанные ветки.

в % 20 версии первый случай / если всегда тот, который поражает. Современные процессоры «узнают», какие ветви обычно используются, а какие нет, поэтому они могут легко предсказать, как эта ветвь будет вести себя практически на каждой итерации цикла. Это объясняет, почему вылетает версия «если»; он никогда не должен выполнять что-либо после первого теста, и он (правильно) предсказывает результат этого теста для большинства итераций. Очевидно, что «переключатель» реализован несколько иначе - возможно, даже таблица переходов, которая может быть медленной благодаря вычисляемой ветви.

в % 21 версии ветки по сути случайные. Так что не только многие из них выполняют каждую итерацию, процессор не может угадать, в каком направлении они пойдут. Это тот случай, когда таблица переходов (или другая оптимизация «переключения») может помочь.

Очень сложно предсказать, как часть кода будет работать с современным компилятором и процессором, и это становится сложнее с каждым поколением. Лучший совет - «даже не пытайся, всегда в профиле». Этот совет становится лучше - и количество людей, которые могут его игнорировать, с каждым годом становится все меньше.

Все это говорит о том, что мое объяснение, приведенное выше, в значительной степени является предположением. :-)


2
Я не понимаю, откуда в сотни раз медленнее. В худшем случае ошибочно предсказанная ветвь - остановка конвейера, которая будет в ~ 20 раз медленнее на большинстве современных процессоров. Не сотни раз. (Хорошо, если вы используете старый чип NetBurst, он может быть в 35 раз медленнее ...)
Billy ONeal

@ Билли: Хорошо, поэтому я немного заглядываю в будущее. На процессорах Sandy Bridge «каждая непредсказуемая ветвь сбрасывает весь конвейер, теряя примерно до сотни инструкций в полете». Трубопроводы действительно становятся глубже с каждым поколением, в общем ...
Немо

1
Не правда. P4 (NetBurst) имел 31 этап конвейера; Песчаный мост имеет значительно меньше этапов. Я думаю, что «потеря работы около 100 инструкций» предполагает, что кэш инструкций становится недействительным. Для общего косвенного перехода, который действительно происходит, но для чего-то вроде таблицы переходов, скорее всего, цель косвенного перехода лежит где-то в кэше инструкций.
Билли ONEAL

@ Билли: я не думаю, что мы не согласны. Мое утверждение было таким: «Неправильно предсказанные ветки в десятки и сотни раз дороже, чем правильно предсказанные ветки». Возможно, небольшое преувеличение ... Но происходит больше, чем просто попадания в I-кэш и глубину конвейера выполнения; из того, что я прочитал, очередь на декодирование составляет ~ 20 инструкций.
Немо

Если аппаратное средство прогнозирования ветвления неверно предсказывает путь выполнения, мопы с неверного пути, которые находятся в конвейере команд, просто удаляются там, где они есть, без остановки выполнения. Я понятия не имею, как это возможно (или я неправильно истолковываю это), но, по-видимому, вНехалеме нет трубопроводов с неправильно предсказуемыми ответвлениями? (Опять же, у меня нет i7; у меня есть i5, так что это не относится к моему делу.)
user541686

1

Никто. В большинстве случаев, когда вы переходите на ассемблер и выполняете реальные измерения производительности, ваш вопрос просто не тот. Для данного примера ваше мышление становится слишком коротким, поскольку

counter += (4 - counter % 4);

выглядит для меня как правильное выражение приращения, которое вы должны использовать.

Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.