У меня есть критически важное для производительности двоичное дерево решений, и я хотел бы сосредоточить этот вопрос на одной строке кода. Ниже приведен код итератора двоичного дерева с результатами анализа его производительности.
public ScTreeNode GetNodeForState(int rootIndex, float[] inputs)
{
0.2% ScTreeNode node = RootNodes[rootIndex].TreeNode;
24.6% while (node.BranchData != null)
{
0.2% BranchNodeData b = node.BranchData;
0.5% node = b.Child2;
12.8% if (inputs[b.SplitInputIndex] <= b.SplitValue)
0.8% node = b.Child1;
}
0.4% return node;
}BranchData - это поле, а не свойство. Я сделал это, чтобы предотвратить риск того, что он не будет встроен.
Класс BranchNodeData выглядит следующим образом:
public sealed class BranchNodeData
{
/// <summary>
/// The index of the data item in the input array on which we need to split
/// </summary>
internal int SplitInputIndex = 0;
/// <summary>
/// The value that we should split on
/// </summary>
internal float SplitValue = 0;
/// <summary>
/// The nodes children
/// </summary>
internal ScTreeNode Child1;
internal ScTreeNode Child2;
}Как видите, проверка цикла while / null сильно снижает производительность. Дерево массивное, поэтому я ожидал, что поиск листа займет некоторое время, но я хотел бы понять, какое непропорциональное количество времени потрачено на эту одну строку.
Я пробовал:
- Отделение проверки обнуления от времени - это проверка на обнуление.
- Добавление логического поля к объекту и проверка по нему не имело никакого значения. Неважно, что сравнивается, проблема в сравнении.
Это проблема с предсказанием ветвления? Если да, что я могу с этим поделать? Если что-нибудь?
Я не буду делать вид, что понимаю CIL , но я отправлю его всем, кто понимает , чтобы они могли попытаться извлечь из него некоторую информацию.
.method public hidebysig
instance class OptimalTreeSearch.ScTreeNode GetNodeForState (
int32 rootIndex,
float32[] inputs
) cil managed
{
// Method begins at RVA 0x2dc8
// Code size 67 (0x43)
.maxstack 2
.locals init (
[0] class OptimalTreeSearch.ScTreeNode node,
[1] class OptimalTreeSearch.BranchNodeData b
)
IL_0000: ldarg.0
IL_0001: ldfld class [mscorlib]System.Collections.Generic.List`1<class OptimalTreeSearch.ScRootNode> OptimalTreeSearch.ScSearchTree::RootNodes
IL_0006: ldarg.1
IL_0007: callvirt instance !0 class [mscorlib]System.Collections.Generic.List`1<class OptimalTreeSearch.ScRootNode>::get_Item(int32)
IL_000c: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.ScRootNode::TreeNode
IL_0011: stloc.0
IL_0012: br.s IL_0039
// loop start (head: IL_0039)
IL_0014: ldloc.0
IL_0015: ldfld class OptimalTreeSearch.BranchNodeData OptimalTreeSearch.ScTreeNode::BranchData
IL_001a: stloc.1
IL_001b: ldloc.1
IL_001c: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.BranchNodeData::Child2
IL_0021: stloc.0
IL_0022: ldarg.2
IL_0023: ldloc.1
IL_0024: ldfld int32 OptimalTreeSearch.BranchNodeData::SplitInputIndex
IL_0029: ldelem.r4
IL_002a: ldloc.1
IL_002b: ldfld float32 OptimalTreeSearch.BranchNodeData::SplitValue
IL_0030: bgt.un.s IL_0039
IL_0032: ldloc.1
IL_0033: ldfld class OptimalTreeSearch.ScTreeNode OptimalTreeSearch.BranchNodeData::Child1
IL_0038: stloc.0
IL_0039: ldloc.0
IL_003a: ldfld class OptimalTreeSearch.BranchNodeData OptimalTreeSearch.ScTreeNode::BranchData
IL_003f: brtrue.s IL_0014
// end loop
IL_0041: ldloc.0
IL_0042: ret
} // end of method ScSearchTree::GetNodeForStateИзменить: я решил сделать тест на предсказание ветвления, я добавил идентичный if в течение некоторого времени, поэтому у нас есть
while (node.BranchData != null)и
if (node.BranchData != null)внутри этого. Затем я провел анализ производительности для этого, и на выполнение первого сравнения ушло в шесть раз больше времени, чем на выполнение второго сравнения, которое всегда возвращало истину. Так что похоже, что это действительно проблема с предсказанием ветвления - и я думаю, что я ничего не могу с этим поделать ?!
Другое редактирование
Вышеупомянутый результат также имел бы место, если бы node.BranchData нужно было загрузить из ОЗУ для проверки while - тогда он был бы кеширован для оператора if.
Это мой третий вопрос по аналогичной теме. На этот раз я сосредоточусь на одной строчке кода. Мои другие вопросы по этому поводу:
while(true) { /* current body */ if(node.BranchData == null) return node; }. Это что-то меняет?
while(true) { BranchNodeData b = node.BranchData; if(ReferenceEquals(b, null)) return node; node = b.Child2; if (inputs[b.SplitInputIndex] <= b.SplitValue) node = b.Child1; }это будет извлекаться node. BranchDataтолько один раз.
BranchNodeсвойства. Пожалуйста, попробуйте заменитьnode.BranchData != nullReferenceEquals(node.BranchData, null). Какая разница?