Вопросы с тегом «numerical-limitations»

При применении классической формулы для угла между двумя векторами: α=arccosv1⋅v2∥v1∥∥v2∥α=arccos⁡v1⋅v2‖v1‖‖v2‖\alpha = \arccos \frac{\mathbf{v_1} \cdot \mathbf{v_2}}{\|\mathbf{v_1}\| \|\mathbf{v_2}\|} обнаруживается, что при очень малых / острых углах наблюдается потеря точности, и результат не является точным. Как объясняется в ответе на переполнение стека , одно из решений - использовать вместо этого арктангенс: α=arctan2(∥v1×v2∥,v1⋅v2)α=arctan⁡2(‖v1×v2‖,v1⋅v2)\alpha = …

14 algorithms  precision  numerical-limitations 

Я использовал SVD от Intel MKL ( dgesvdчерез SciPy) и заметил, что результаты значительно отличаются, когда я меняю точность между float32и float64когда моя матрица плохо обусловлена ​​/ не имеет полного ранга. Есть ли руководство по минимальному количеству регуляризации, которое я должен добавить, чтобы сделать результаты нечувствительными к float32-> float64изменениям? В …

10 numerical-analysis  stability  svd  intel-mkl  numerical-limitations 

Я пытаюсь вычислить моменты Zernike более высокого порядка (например m=0, n=46) для некоторого изображения. Тем не менее, я сталкиваюсь с проблемой, касающейся радиального полинома (см. Википедию ). Это полином, определенный на интервале [0 1]. Смотрите код MATLAB ниже function R = radial_polynomial(m,n,RHO) R = 0; for k = 0:((n-m)/2) R …

9 matlab  polynomials  numerical-limitations