Высокая загрузка процессора на сайте Django / Apache / mod_wsgi


10

Нагрузочное тестирование конфигурации django 1.21 / Apache / mod_wsgi на небольшом экземпляре AWS (Ubuntu 10.04) с использованием Apache bench показывает чрезвычайно высокую загрузку ЦП (с использованием uptime и vmstat) при низких одновременных запросах:

ab -c 5 -n 1000 "my_url"

... вызывает вывод работоспособности:

18:04:54 up 9 days, 16:54,  3 users,  load average: 5.33, 2.45, 1.91

Процессор загружен на 100% даже при значении параллелизма Apache 2. Я использую Apache из другого экземпляра AWS в том же регионе / зоне. Идеи о том, в чем проблема, или как я должен продолжать отлаживать это?

Подробности:

  • В отчаянии я установил проект / приложение vanilla django с простым представлением «Hello World» (без вызовов БД и т. Д.). Те же результаты. Поэтому я сомневаюсь, что это код моего приложения.
  • Использование памяти выглядит хорошо во время нагрузочного теста.

Вот вывод vmstat до / во время / после нагрузочного теста:

procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----
r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa
0  0      0 1034484  94848 321320    0    0     0     0   13   29  0  0 100  0
6  0      0 1032916  94848 321328    0    0     0     0  262  720  4 32 12  0
6  0      0 1031684  94848 321336    0    0     0     0  312  796  7 33  0  0
8  0      0 1030892  94856 321344    0    0     0    12  302  763  4 36  0  0
...
6  0      0 1030268  94864 321376    0    0     0     0  302  843  3 39  0  0
0  0      0 1032452  94868 321380    0    0     0    12  183  516  3 22 34  0
1  0      0 1033988  94868 321388    0    0     0     0   24   38  1  2 92  0
0  0      0 1033996  94868 321388    0    0     0     0   17   28  0  0 100  0
  • Я использую предварительную версию apache2, так как я также использую WordPress, который использует PHP. (PHP не очень хорошо работает с рабочей версией Apache)

Вот мой файл виртуальных хостов:

WSGIPythonHome /home/xxx/webapps/ve/api
<VirtualHost *:80>
        ServerAdmin webmaster@localhost
        ServerName  app.xxx.mobi

        WSGIDaemonProcess snaplive user=www-data group=www-data processes=10 threads=1 maximum-requests=10000
        WSGIProcessGroup snaplive
        WSGIScriptAlias / /home/xxx/webapps/api/settings/apache/prod.wsgi
        DocumentRoot /home/xxx/webapps/api/static
        ErrorLog /var/log/apache2/django-live/error.log
        CustomLog /var/log/apache2/django-live/access.log combined
</VirtualHost>

Вот мой файл httpd.conf:

Alias /media /home/xxx/Django-1.2.1/django/contrib/admin/media
LoadModule headers_module /usr/lib/apache2/modules/mod_headers.so

StartServers 2
MinSpareServers 2
MaxSpareServers 5
MaxClients 50
MaxRequestsPerChild 3000
ServerLimit 8
Keepalive off
HostnameLookups Off

Вот мой файл wsgi:

import os
import sys
sys.stdout = sys.stderr

from django.core.handlers.wsgi import WSGIHandler
os.environ['DJANGO_SETTINGS_MODULE'] = 'settings'
application = WSGIHandler()

sys.path.append("/home/xxx/webapps/api")

Нажав на URL-адрес django из браузера во время нагрузочного теста, я качественно подтвердил, что высокая загрузка процессора влияет на производительность.

Я читал, что это может быть не важно, но я часто вижу это в своих журналах ошибок:

[Sun Sep 19 18:04:58 2010] [error] Exception KeyError: KeyError(-1218693376,) in <module 'threading' from '/usr/lib/python2.6/threading.pyc'> ignored

Вот мои результаты на Apache, если это будет полезно:

Server Software:        Apache/2.2.14
Server Hostname:        app.xxx.mobi
Server Port:            80

Document Path:          /plist_catalog/test_data
Document Length:        0 bytes

Concurrency Level:      5
Time taken for tests:   27.720 seconds
Complete requests:      1000
Failed requests:        0
Write errors:           0
Non-2xx responses:      1000
Total transferred:      269000 bytes
HTML transferred:       0 bytes
Requests per second:    36.08 [#/sec] (mean)
Time per request:       138.598 [ms] (mean)
Time per request:       27.720 [ms] (mean, across all concurrent requests)
Transfer rate:          9.48 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        1    2   8.5      1      88
Processing:     9  136 176.9     81    1182
Waiting:        9  135 176.6     81    1182
Total:         10  138 176.7     83    1183

Percentage of the requests served within a certain time (ms)
  50%     83
  66%     98
  75%    128
  80%    140
  90%    423
  95%    576
  98%    727
  99%    819
 100%   1183 (longest request)

Ответы:


2

Проблема заключалась в том, что я установил пакет apache2-mpm-itk вместо apache2-mpm-prefork. apache2-mpm-itk является производным от apache2-mpm-prefork, но по какой-то причине не работает должным образом при использовании с mod_wsgi.


При использовании ITK MPM и mod_wsgi рекомендуется использовать режим демона mod_wsgi и отключить использование интерпретатора Python во встроенных процессах. Если используется встроенный режим, то вы загружаете свое приложение при каждом запросе, как CGI.
Грэм Дамплтон
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.