У меня есть linux box, который я использую в качестве iperf3клиента, тестирую 2 одинаково оборудованных серверных блока Windows 2012 R2 с адаптерами Broadcom BCM5721, 1 Гб (2 порта, но для тестирования использовался только 1). Все машины подключены через один 1Gb коммутатор.
Тестирование UDP, например, на 300 Мбит
iperf3 -uZVc 192.168.30.161 -b300m -t5 --get-server-output -l8192
приводит к потере 14% всех отправленных пакетов (для другой серверной коробки с точно таким же оборудованием, но с более старыми драйверами NIC потеря составляет около 2%), но потеря происходит даже на 50 Мбит, хотя и менее серьезно. Производительность TCP с использованием эквивалентных настроек:
iperf3 -ZVc 192.168.30.161 -t5 --get-server-output -l8192
дает скорость передачи к северу от 800 Мбит без повторных передач.
Сервер всегда запускается с использованием следующих параметров:
iperf3 -sB192.168.30.161
Кто виноват?
Клиентский ящик linux (аппаратные «драйвера», «настройки»)Изменить: Я только что провел тест с одного сервера Windows на другой, и потеря пакетов UDP на 300 Мбит был еще выше, на 22%- Windows Server Box (аппаратные «драйвер» настройки »)?
- (Единственный) переключатель, который соединяет все тестовые машины?
- Кабели?
Редактировать:
Сейчас я попробовал другое направление: Windows -> Linux. Результат: потеря пакетов всегда равна 0 , а пропускная способность максимально
- 840Мбит для
-l8192, т.е. фрагментированных IP-пакетов - 250 Мбит для
-l1472нефрагментированных IP-пакетов
Я предполагаю, что контроль потока ограничивает пропускную способность и предотвращает потерю пакетов. Особенно последняя, нефрагментированная цифра далеко не соответствует пропускной способности TCP (нефрагментированная TCP дает аналогичные показатели для фрагментированной TCP), но это бесконечно огромное улучшение по сравнению с Linux -> Windows с точки зрения потери пакетов.
А как узнать?
Я следовал обычному совету по настройке драйверов на сервере, чтобы максимизировать производительность, и попытался включить / отключить / развернуть / свернуть / изменить
- Модерация прерываний
- Управление потоком
- Получите буферы
- RSS
- Wake On LAN
Все функции разгрузки включены.
Редактировать Я также пытался включить / отключить
- Ethernet @ Wirespeed
- Различные функции разгрузки
- Приоритет & VLAN
С аналогичными показателями потерь.
Полный вывод запуска UDP:
$ iperf3 -uZVc 192.168.30.161 -b300m -t5 --get-server-output -l8192
iperf 3.0.7
Linux mybox 3.16.0-4-amd64 #1 SMP Debian 3.16.7-ckt4-3 (2015-02-03) x86_64 GNU/Linux
Time: Wed, 13 May 2015 13:10:39 GMT
Connecting to host 192.168.30.161, port 5201
Cookie: mybox.1431522639.098587.3451f174
[ 4] local 192.168.30.202 port 50851 connected to 192.168.30.161 port 5201
Starting Test: protocol: UDP, 1 streams, 8192 byte blocks, omitting 0 seconds, 5 second test
[ ID] Interval Transfer Bandwidth Total Datagrams
[ 4] 0.00-1.00 sec 33.3 MBytes 279 Mbits/sec 4262
[ 4] 1.00-2.00 sec 35.8 MBytes 300 Mbits/sec 4577
[ 4] 2.00-3.00 sec 35.8 MBytes 300 Mbits/sec 4578
[ 4] 3.00-4.00 sec 35.8 MBytes 300 Mbits/sec 4578
[ 4] 4.00-5.00 sec 35.8 MBytes 300 Mbits/sec 4577
- - - - - - - - - - - - - - - - - - - - - - - - -
Test Complete. Summary Results:
[ ID] Interval Transfer Bandwidth Jitter Lost/Total Datagrams
[ 4] 0.00-5.00 sec 176 MBytes 296 Mbits/sec 0.053 ms 3216/22571 (14%)
[ 4] Sent 22571 datagrams
CPU Utilization: local/sender 4.7% (0.4%u/4.3%s), remote/receiver 1.7% (0.8%u/0.9%s)
Server output:
-----------------------------------------------------------
Accepted connection from 192.168.30.202, port 44770
[ 5] local 192.168.30.161 port 5201 connected to 192.168.30.202 port 50851
[ ID] Interval Transfer Bandwidth Jitter Lost/Total Datagrams
[ 5] 0.00-1.01 sec 27.2 MBytes 226 Mbits/sec 0.043 ms 781/4261 (18%)
[ 5] 1.01-2.01 sec 30.0 MBytes 252 Mbits/sec 0.058 ms 734/4577 (16%)
[ 5] 2.01-3.01 sec 29.0 MBytes 243 Mbits/sec 0.045 ms 870/4578 (19%)
[ 5] 3.01-4.01 sec 32.1 MBytes 269 Mbits/sec 0.037 ms 469/4579 (10%)
[ 5] 4.01-5.01 sec 32.9 MBytes 276 Mbits/sec 0.053 ms 362/4576 (7.9%)
TCP работает:
$ iperf3 -ZVc 192.168.30.161 -t5 --get-server-output -l8192
iperf 3.0.7
Linux mybox 3.16.0-4-amd64 #1 SMP Debian 3.16.7-ckt4-3 (2015-02-03) x86_64 GNU/Linux
Time: Wed, 13 May 2015 13:13:53 GMT
Connecting to host 192.168.30.161, port 5201
Cookie: mybox.1431522833.505583.4078fcc1
TCP MSS: 1448 (default)
[ 4] local 192.168.30.202 port 44782 connected to 192.168.30.161 port 5201
Starting Test: protocol: TCP, 1 streams, 8192 byte blocks, omitting 0 seconds, 5 second test
[ ID] Interval Transfer Bandwidth Retr Cwnd
[ 4] 0.00-1.00 sec 109 MBytes 910 Mbits/sec 0 91.9 KBytes
[ 4] 1.00-2.00 sec 97.3 MBytes 816 Mbits/sec 0 91.9 KBytes
[ 4] 2.00-3.00 sec 97.5 MBytes 818 Mbits/sec 0 91.9 KBytes
[ 4] 3.00-4.00 sec 98.0 MBytes 822 Mbits/sec 0 91.9 KBytes
[ 4] 4.00-5.00 sec 97.6 MBytes 819 Mbits/sec 0 91.9 KBytes
- - - - - - - - - - - - - - - - - - - - - - - - -
Test Complete. Summary Results:
[ ID] Interval Transfer Bandwidth Retr
[ 4] 0.00-5.00 sec 499 MBytes 837 Mbits/sec 0 sender
[ 4] 0.00-5.00 sec 498 MBytes 836 Mbits/sec receiver
CPU Utilization: local/sender 3.5% (0.5%u/3.0%s), remote/receiver 4.5% (2.0%u/2.5%s)
Server output:
-----------------------------------------------------------
Accepted connection from 192.168.30.202, port 44781
[ 5] local 192.168.30.161 port 5201 connected to 192.168.30.202 port 44782
[ ID] Interval Transfer Bandwidth
[ 5] 0.00-1.00 sec 105 MBytes 878 Mbits/sec
[ 5] 1.00-2.00 sec 97.5 MBytes 818 Mbits/sec
[ 5] 2.00-3.00 sec 97.6 MBytes 819 Mbits/sec
[ 5] 3.00-4.00 sec 97.8 MBytes 820 Mbits/sec
[ 5] 4.00-5.00 sec 97.7 MBytes 820 Mbits/sec