Есть несколько работ по Markus Püschel на своем веб - сайте здесь что обсудить Кули-Тьюки типа (так я предполагаю , что «быстрый») алгоритмы для решетчатых преобразований, таких как ДПФ на треугольных и шестиугольных 2-D решеток. В треугольном случае он называет ДПФ дискретным треугольным преобразованием (DTT). У Маркуса есть код SPIRAL, который автоматически генерирует код для преобразований, но похоже, что эта работа DTT не является частью SPIRAL, и на его веб-сайте нет никакой реализации, которую я могу найти. Я начинаю думать, что @JM прав, и что вам, возможно, придется развернуть собственную реализацию.
Обращаем внимание на то, что для двумерных треугольных и гексагональных решеток преобразование не разделяется на одномерные компоненты, поэтому вы не сможете сократить задачу до двух одномерных преобразований.