Как я могу преобразовать персидские цифры в UTF-8 в европейские цифры в ASCII?

В персидских цифрах ۰۱۲۳۴۵۶۷۸۹эквивалентно 0123456789европейским цифрам.

Как я могу конвертировать персидское число (в UTF-8) в ASCII?

Например, я хочу ۲۱стать 21.

Мы можем воспользоваться тем фактом, что кодовая точка UNICODE персидских цифр является последовательной и имеет порядок от 0 до 9 :

$ printf '%b' '\U06F'{0..9}
۰۱۲۳۴۵۶۷۸۹

Это означает, что последняя шестнадцатеричная цифра является десятичным значением:

$ echo $(( $(printf '%d' "'۲") & 0xF ))
2

Это делает этот простой цикл инструментом преобразования:

#!/bin/bash
(   ### Use a locale that use UTF-8 to make the script more reliable.
    ### Maybe something like LC_ALL=fa_IR.UTF-8 for you?.
    LC_ALL=en_US.UTF-8
    a="$1"
    while (( ${#a} > 0 )); do
        # extract the last hex digit from the UNICODE code point
        # of the first character in the string "$a":
        printf '%d' $(( $(printf '%d' "'$a") & 15 ))
        a=${a#?}    ## Remove one character from $a
    done
)
echo

Используя это как:

$ sefr.sh ۰۱۲۳۴۵۶۷۸۹
0123456789

$ sefr.sh ۲۰۱
201

$ sefr.sh ۲۱
21

Обратите внимание, что этот код может также преобразовывать арабские и латинские цифры (даже если они смешаны):

$ sefr.sh ۴4٤۵5٥۶6٦۷7٧۸8٨۹9٩
444555666777888999

$ sefr.sh ٤٧0٠٦7١٣3٥۶٦۷
4700671335667

Поскольку это фиксированный набор чисел, вы можете сделать это вручную:

$ echo ۲۱ | LC_ALL=en_US.UTF-8 sed -e 'y/۰۱۲۳۴۵۶۷۸۹/0123456789/'
21

(или используя tr, но еще не GNU )

Установка вашей локали en_US.utf8(или, что лучше, локали, которой принадлежит набор символов) необходима для sedраспознавания набора символов.

С perl:

$ echo "۲۱" |
  perl -CS -MUnicode::UCD=num -MUnicode::Normalize -lne 'print num(NFKD($_))'
21

Для Python есть unidecodeбиблиотека, которая обрабатывает такие преобразования в целом: https://pypi.python.org/pypi/Unidecode .

В Python 2:

>>> from unidecode import unidecode
>>> unidecode(u"۰۱۲۳۴۵۶۷۸۹")
'0123456789'

В Python 3:

>>> from unidecode import unidecode
>>> unidecode("۰۱۲۳۴۵۶۷۸۹")
'0123456789'

Поток SO на /programming//q/8087381/2261442 может быть связан.

/ edit: Как отметил Вандер Наута в комментариях и как уже упоминалось на странице Unidecode, есть также версия оболочки unidecode(в /usr/local/bin/случае установки поверх pip):

$ echo '۰۱۲۳۴۵۶۷۸۹' | unidecode
0123456789

Чистая версия Bash:

#!/bin/bash

number="$1"

number=${number//۱/1}
number=${number//۲/2}
number=${number//۳/3}
number=${number//۴/4}
number=${number//۵/5}
number=${number//۶/6}
number=${number//۷/7}
number=${number//۸/8}
number=${number//۹/9}
number=${number//۰/0}

echo "Result is $number"

Протестировал на моей машине Gentoo и все работает.

./convert ۱۳۲
Result is 132

Выполнено в виде цикла, учитывая список символов (от 0 до 9) для преобразования:

#!/bin/bash
conv() ( LC_ALL=en_US.UTF-8
         local n="$2"
         for ((i=0;i<${#1};i++)); do
              n=${n//"${1:i:1}"/"$i"}
         done
         printf '%s\n' "$n"
       )

conv "۰۱۲۳۴۵۶۷۸۹" "$1"

И используется как:

$ convert ۱۳۲
132

Другой (довольно излишний) способ использования grep:

#!/bin/bash

nums=$(echo "$1" | grep -o .)
result=()

for i in $nums
do
    case $i in
        ۱)
            result+=1
            ;;
        ۲)
            result+=2
            ;;
        ۳)
            result+=3
            ;;
        ۴)
            result+=4
            ;;
        ۵)
            result+=5
            ;;
        ۶)
            result+=6
            ;;
        ۷)
            result+=7
            ;;
        ۸)
            result+=8
            ;;
        ۹)
            result+=9
            ;;
        ۰)
            result+=0
            ;;
    esac
done
echo "Result is $result"

Так iconvкак кажется, что это невозможно, следующим портом захода будет использование trутилиты:

$ echo "۲۱" | tr '۰۱۲۳۴۵۶۷۸۹' '0123456789'
21

tr переводит один набор символов в другой, поэтому мы просто просим его перевести набор цифр фарси в набор латинских цифр.

РЕДАКТИРОВАТЬ : Как пользователь @cuonglm указывает. Для этого требуется не-GNU tr, например, trна Mac, а также для $LC_CTYPEнего установлено значение en_US.UTF-8.