Самая длинная общая подстрока в линейном времени

Эта задача о написании кода для решения следующей проблемы.

Учитывая две строки A и B, ваш код должен вывести начальный и конечный индексы подстроки A со следующими свойствами.

• Подстрока A также должна соответствовать некоторой подстроке B.
• Больше не должно быть подстроки A, удовлетворяющей первому свойству.

Например:

A = xxxappleyyyyyyy

B = zapplezzz

Подстрока appleс индексами 4 8(индексирование от 1) будет правильным выводом.

функциональность

Вы можете предположить, что входные данные будут по стандарту в или в файле в локальном каталоге, по вашему выбору. Формат файла будет просто двумя строками, разделенными новой строкой. Ответ должен быть полной программой, а не просто функцией.

В конечном итоге я хотел бы проверить ваш код на двух подстроках, взятых из строк в http://hgdownload.cse.ucsc.edu/goldenPath/hg38/chromosomes/ .

Гол

Это код-гольф с изюминкой. Ваш код должен быть запущен O(n)вовремя, где nобщая длина ввода.

Языки и библиотеки

Вы можете использовать любой язык со свободно доступным компилятором / интерпретатором и т. Д. для Linux. Вы должны использовать только стандартные библиотеки с открытым исходным кодом, не предназначенные для решения этой задачи. В случае разногласий, я буду считать это любой библиотекой, которая входит в стандартную комплектацию вашего языка или библиотеку, которую вы можете установить на машине с Ubuntu по умолчанию из репозитория по умолчанию.

Полезная информация

Существует как минимум два способа решения этой проблемы за линейное время. Один - сначала вычислить дерево суффиксов, а второй - сначала вычислить массив суффиксов и массив LCP.

• Вот полное и (возможно, чрезмерно) подробное объяснение построения дерева линейных суффиксов времени (оказывается, что некоторые цифры, к сожалению, запутаны). Существует также очень хороший SO-ответ о построении линейного дерева суффиксов времени на https://stackoverflow.com/questions/9452701/ukkonens-suffix-tree-algorithm-in-plain-english . Он также содержит ссылку на исходный код. Еще одно подробное объяснение можно найти здесь , на этот раз давая полное решение на C.
• В разделе 2 http://www.cs.cmu.edu/~guyb/realworld/papersS04/KaSa03.pdf приведен алгоритм построения массива линейных суффиксов времени, а в Приложении A приведен исходный код C ++. Этот ответ расскажет вам, как затем вычислить самую длинную общую подстроку https://cs.stackexchange.com/questions/9555/computing-the-longest-common-substring-of-two-strings-using-suffix-arrays . Раздел 5 https://courses.csail.mit.edu/6.851/spring12/scribe/lec16.pdf, в котором также есть связанная видео-лекция https://courses.csail.mit.edu/6.851/spring12/lectures/L16. .html также объясняет тот же алгоритм, начиная с 1:16:00.

Python 2, 646 байт

G=range;w=raw_input;z=L,m,h=[0]*3
s=w();t=len(s);s+='!%s#'%w();u=len(s);I=z*u
def f(s,n):
 def r(o):
    b=[[]for _ in s];c=[]
    for x in B[:N]:b[s[x+o]]+=x,
    map(c.extend,b);B[:N]=c
 M=N=n--~n/3;t=n%3%2;B=G(n+t);del B[::3];r(2);u=m=p=r(1)>r(0);N-=n/3
 for x in B*1:v=s[x:x+3];m+=u<v;u=v;B[x/3+x%3/2*N]=m
 A=1/M*z or f(B+z,M)+z;B=[x*3for x in A if x<N];J=I[r(0):n];C=G(n)
 for k in C:b=A[t]/N;a=i,j=A[t]%N*3-~b,B[p];q=p<N<(s[i:i-~b],J[i/3+b+N-b*N])>(s[j+t/M:j-~b],J[j/3+b*N]);C[k]=x=a[q];I[x]=k;p+=q;t+=1-q
 return C
S=f(map(ord,s)+z*40,u)
for i in G(u):
 h-=h>0;j=S[I[i]-1]
 while s[i+h]==s[j+h]:h+=1
 if(i<t)==(t<j)<=h>m:m=h;L=min(i,j)
print-~L,L+m

При этом используется алгоритм асимметрии, описанный в Kärkkäinen and Sanders «Простое построение суффикса линейной работы». Реализация на С ++, включенная в эту статью, уже кажется немного «игрой в гольф», но все еще есть много возможностей сделать ее короче. Например, мы можем выполнять возврат до получения массива длины один, вместо короткого замыкания, как в документе, без нарушения O(n)требования.

Что касается LCP, я следовал «Расчет линейного времени с наибольшим общим префиксом в суффиксных массивах и его приложениях» Kusai et al.

Программа выводит, 1 0если самая длинная общая подстрока пуста.

Вот некоторый код разработки, который включает более раннюю версию программы, которая немного ближе следует реализации C ++, некоторые более медленные подходы для сравнения и простой генератор тестовых примеров:

from random import *

def brute(a,b):
    L=R=m=0

    for i in range(len(a)):
        for j in range(i+m+1,len(a)+1):
            if a[i:j] in b:
                m=j-i
                L,R=i,j

    return L+1,R

def suffix_array_slow(s):
    S=[]
    for i in range(len(s)):
        S+=[(s[i:],i)]
    S.sort()
    return [x[1] for x in S]

def slow1(a,b):
    # slow suffix array, slow lcp

    s=a+'!'+b
    S=suffix_array_slow(s)

    L=R=m=0

    for i in range(1,len(S)):
        x=S[i-1]
        y=S[i]
        p=s[x:]+'#'
        q=s[y:]+'$'
        h=0
        while p[h]==q[h]:
            h+=1
        if h>m and len(a)==sorted([x,y,len(a)])[1]:
            m=h
            L=min(x,y)
            R=L+h

    return L+1,R

def verify(a,b,L,R):
    if L<1 or R>len(a) or a[L-1:R] not in b:
        return 0
    LL,RR=brute(a,b)
    return R-L==RR-LL

def rand_string():
    if randint(0,1):
        n=randint(0,8)
    else:
        n=randint(0,24)
    a='zyxwvutsrq'[:randint(1,10)]
    s=''
    for _ in range(n):
        s+=choice(a)
    return s

def stress_test(f):
    numtrials=2000
    for trial in range(numtrials):
        a=rand_string()
        b=rand_string()
        L,R=f(a,b)
        if not verify(a,b,L,R):
            LL,RR=brute(a,b)
            print 'failed on',(a,b)
            print 'expected:',LL,RR
            print 'actual:',L,R
            return
    print 'ok'

def slow2(a,b):
    # slow suffix array, linear lcp

    s=a+'!'+b+'#'
    S=suffix_array_slow(s)

    I=S*1
    for i in range(len(S)):
        I[S[i]]=i

    L=R=m=h=0

    for i in range(len(S)):
        if I[i]:
            j=S[I[i]-1]
            while s[i+h]==s[j+h]:
                h+=1
            if h>m and len(a)==sorted([i,j,len(a)])[1]:
                m=h
                L=min(i,j)
                R=L+h
            h-=h>0

    return L+1,R

def suffix_array(s,K):
    # skew algorithm

    n=len(s)
    s+=[0]*3
    n0=(n+2)/3
    n1=(n+1)/3
    n2=n/3
    n02=n0+n2
    adj=n0-n1

    def radix_pass(a,o,n=n02):
        c=[0]*(K+3)
        for x in a[:n]:
            c[s[x+o]+1]+=1
        for i in range(K+3):
            c[i]+=c[i-1]
        for x in a[:n]:
            j=s[x+o]
            a[c[j]]=x
            c[j]+=1

    A=[x for x in range(n+adj) if x%3]+[0]*3

    radix_pass(A,2)
    radix_pass(A,1)
    radix_pass(A,0)

    B=[0]*n02
    t=m=0

    for x in A[:n02]:
        u=s[x:x+3]
        m+=t<u
        t=u
        B[x/3+x%3/2*n0]=m

    A[:n02]=1/n02*[0]or suffix_array(B,m)
    I=A*1
    for i in range(n02):
        I[A[i]]=i+1

    B=[3*x for x in A if x<n0]
    radix_pass(B,0,n0)

    R=[]

    p=0
    t=adj
    while t<n02:
        x=A[t]
        b=x>=n0
        i=(x-b*n0)*3-~b
        j=B[p]
        if p==n0 or ((s[i:i+2],I[A[t]-n0+1])<(s[j:j+2],I[j/3+n0]) if b else (s[i],I[A[t]+n0])<(s[j],I[j/3])):R+=i,;t+=1
        else:R+=j,;p+=1

    return R+B[p:n0]

def solve(a,b):
    # linear

    s=a+'!'+b+'#'
    S=suffix_array(map(ord,s),128)

    I=S*1
    for i in range(len(S)):
        I[S[i]]=i

    L=R=m=h=0

    for i in range(len(S)):
        if I[i]:
            j=S[I[i]-1]
            while s[i+h]==s[j+h]:
                h+=1
            if h>m and len(a)==sorted([i,j,len(a)])[1]:
                m=h
                L=min(i,j)
                R=L+h
            h-=h>0

    return L+1,R

stress_test(solve)