Как эффективно вычислить ядро ​​Гаусса в numpy [закрыто]

У меня есть пустой массив с m столбцами и n строками, столбцы с размерами и точками данных строк.

Теперь мне нужно рассчитать значения ядра для каждой комбинации точек данных.

Для линейного ядра я могу просто сделать$K(\mathbf{x}_i,\mathbf{x}_j) = \langle \mathbf{x}_i,\mathbf{x}_j \rangle$dot(X,X.T)

Как эффективно рассчитать все значения для гауссова ядра с заданным s ?$K(\mathbf{x}_i,\mathbf{x}_j) = \exp{-\frac{\|\mathbf{x}_i-\mathbf{x}_j\|_2^2}{s^2}}$

Я думаю, что главная проблема состоит в том, чтобы получить попарные расстояния эффективно. Если у вас есть это, все остальное стихийно.

Для этого вы, вероятно, хотите использовать scipy. Функция scipy.spatial.distance.pdistделает то, что вам нужно, и scipy.spatial.distance.squareform, возможно, облегчит вашу жизнь.

Так что если вы хотите матрицу ядра, вы делаете

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_dists = squareform(pdist(X, 'euclidean'))
K = scip.exp(-pairwise_dists ** 2 / s ** 2)

Документацию можно найти здесь . 

В качестве небольшого дополнения к ответу Байержа, pdistфункция Сципи может напрямую вычислять квадратные евклидовы нормы, называя это как pdist(X, 'sqeuclidean'). Полный код может быть написан более эффективно, как

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_sq_dists = squareform(pdist(X, 'sqeuclidean'))
K = scip.exp(-pairwise_sq_dists / s**2)

Вы также можете написать квадратную форму вручную:

import numpy as np
def vectorized_RBF_kernel(X, sigma):
    # % This is equivalent to computing the kernel on every pair of examples
    X2 = np.sum(np.multiply(X, X), 1) # sum colums of the matrix
    K0 = X2 + X2.T - 2 * X * X.T
    K = np.power(np.exp(-1.0 / sigma**2), K0)
    return K

PS но это работает на 30% медленнее

def my_kernel(X,Y):
    K = np.zeros((X.shape[0],Y.shape[0]))
    for i,x in enumerate(X):
        for j,y in enumerate(Y):
            K[i,j] = np.exp(-1*np.linalg.norm(x-y)**2)
    return K

clf=SVR(kernel=my_kernel)

который равен

clf=SVR(kernel="rbf",gamma=1)

Вы можете эффективно рассчитать RBF из приведенного выше кода, отметив, что значение гаммы равно 1, поскольку оно является константой, которую вы запрашивали, также является той же константой.

Я думаю, что это поможет:

def GaussianKernel(v1, v2, sigma):
    return exp(-norm(v1-v2, 2)**2/(2.*sigma**2))