Мне кажется, ваша проблема в том, что вы пытаетесь протестировать показатели производительности, которые плохо поддерживаются в базовом БД. Это очень затрудняет сравнение производительности в разных системах, поскольку базовые подходы очень разные. Я не думаю, что можно сравнивать яблоки с яблоками так же, как я не думаю, что можно сравнить яблоки с яблоками подходов типа ORDBMS к подходам типа RDBMS. Проблемы производительности просто слишком разные, и если Stonebraker прав, что оптимизация ORDBMS для тестов TPC-C упускает смысл, то для систем, которые находятся еще дальше друг от друга, это будет невозможно. (Я думаю, что он здесь, однако, только тогда, когда функциональность ORDBMS вступает в игру.)
Я думаю, что вам нужно быть честным, чтобы посмотреть, как вы будете использовать каждую систему, и создать инструмент для тестирования, основанный на подходе, который вы бы использовали для каждой из них. Тогда вы можете сказать, по крайней мере, для этого рабочего процесса, что тест показывает что-то конкретное. Я не понимаю, как вы можете обобщить, однако. Кроме того, вы можете запустить его в профилировщике, чтобы получить дополнительную информацию о том, сколько времени затрачивается на тестовый запуск на различных движках.
Однако сравнительный анализ БД очень сложно сделать осмысленным в лучших обстоятельствах, и когда вы сравниваете разнородные системы, становится невозможным обобщение.