Nginx proxy_read_timeout против proxy_connect_timeout

Я начал использовать Nginx в качестве обратного прокси-сервера для набора серверов, которые предоставляют какую-то услугу.

Служба может быть довольно медленной (иногда она работает на Java, а JVM иногда застревает в «полной сборке мусора», которая может занять несколько секунд), поэтому я установил proxy_connect_timeoutзначение 2 секунды, что даст Nginx достаточно времени для расчета выяснилось, что служба зависла на GC и не будет отвечать вовремя, и она должна передать запрос на другой сервер.

Я также установил, proxy_read_timeoutчтобы обратный прокси-сервер не зависал, если самой службе требуется слишком много времени для вычисления ответа - опять же, он должен переместить запрос на другой сервер, который должен быть достаточно свободным, чтобы вернуть своевременный ответ.

Я запустил некоторые тесты и ясно вижу, что все proxy_connect_timeoutработает правильно, поскольку некоторые запросы возвращаются точно в то время, которое указано для времени ожидания соединения, поскольку служба застревает и не принимает входящие соединения (служба использует Jetty в качестве встроенного контейнер сервлетов). proxy_read_timeoutТакже работает, как я могу видеть запросы, возврат после тайм - аута указан там.

Проблема заключается в том, что я ожидал бы увидеть некоторые запросы по истечении proxy_read_timeout + proxy_connect_timeoutили почти через некоторое время, если служба застряла и не будет принимать соединения, когда Nginx пытается получить к ней доступ, но до того, как Nginx сможет отключиться - она ​​освобождается и начинает обработку, но идет слишком медленно, и Nginx прерывает работу из-за тайм-аута чтения. Я считаю, что у службы есть такие случаи, но после выполнения нескольких тестов, насчитывающих несколько миллионов запросов, я не смог увидеть ни одного запроса, который бы возвращал что-либо выше proxy_read_timeout(что является большим временем ожидания).

Я был бы признателен за любые комментарии по этому вопросу, хотя я думаю, что это может быть связано с ошибкой в ​​Nginx (я пока не смотрю на код, так что это всего лишь предположение), что счетчик тайм-аут не сбрасывается после подключения успешно, если Nginx ничего не читал с вышестоящего сервера.

Я не смог воспроизвести это на:

2011/08/20 20:08:43 [notice] 8925#0: nginx/0.8.53
2011/08/20 20:08:43 [notice] 8925#0: built by gcc 4.1.2 20080704 (Red Hat 4.1.2-48)
2011/08/20 20:08:43 [notice] 8925#0: OS: Linux 2.6.39.1-x86_64-linode19

Я установил это в моем nginx.conf:

proxy_connect_timeout   10;
proxy_send_timeout      15;
proxy_read_timeout      20;

Затем я настраиваю два тестовых сервера. Тот, который будет просто тайм-аут на SYN, и тот, который будет принимать соединения, но никогда не отвечать:

upstream dev_edge {
  server 127.0.0.1:2280 max_fails=0 fail_timeout=0s; # SYN timeout
  server 10.4.1.1:22 max_fails=0 fail_timeout=0s; # accept but never responds
}

Затем я отправил в одном тестовом соединении:

[m4@ben conf]$ telnet localhost 2480
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
GET / HTTP/1.1
Host: localhost

HTTP/1.1 504 Gateway Time-out
Server: nginx
Date: Sun, 21 Aug 2011 03:12:03 GMT
Content-Type: text/html
Content-Length: 176
Connection: keep-alive

Затем посмотрел error_log, который показал это:

2011/08/20 20:11:43 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while connecting to upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://10.4.1.1:22/", host: "localhost"

тогда:

2011/08/20 20:12:03 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while reading response header from upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://127.0.0.1:2280/", host: "localhost"

И затем access.log, который имеет ожидаемое время ожидания 30 с (10 + 20):

504:32.931:10.003, 20.008:.:176 1 127.0.0.1 localrhost - [20/Aug/2011:20:12:03 -0700] "GET / HTTP/1.1" "-" "-" "-" dev_edge 10.4.1.1:22, 127.0.0.1:2280 -

Вот формат журнала, который я использую, который включает индивидуальные таймауты:

log_format  edge  '$status:$request_time:$upstream_response_time:$pipe:$body_bytes_sent $connection $remote_addr $host $remote_user [$time_local] "$request" "$http_referer" "$http_user_agent" "$http_x_forwarded_for" $edge $upstream_addr $upstream_cache_status';

Проблема заключается в том, что я ожидал бы увидеть некоторые запросы с истечением тайм-аута после proxy_read_timeout + proxy_connect_timeout или почти через такой промежуток времени, если сервис застрял и не будет принимать подключения, когда Nginx пытается получить к нему доступ, но до того, как Nginx сможет тайм-аут - он освобождается и начинает обработку, но работает слишком медленно, и Nginx прерывает работу из-за тайм-аута чтения.

Тайм-аут соединения означает, что TCP останавливается при установлении связи (например, не было SYN_ACK). TCP повторил бы попытку отправки SYN, но вы дали только 2 секунды. в Nginx, чтобы перейти на другой сервер, поэтому у него просто нет времени для повторной отправки SYN.

UPD. : Не может найти в документах, но tcpdump показывает, что есть 3 секунды. задержка между первой отправленной SYN и второй попыткой отправить SYN.