¿Cómo puedo convertir números persas en UTF-8 a números europeos en ASCII?

En números persas, ۰۱۲۳۴۵۶۷۸۹es equivalente a 0123456789en dígitos europeos.

¿Cómo puedo convertir el número persa (in UTF-8) a ASCII?

Por ejemplo, quiero ۲۱ser 21.

Podemos aprovechar el hecho de que el punto de código UNICODE de los números persas es consecutivo y está ordenado de 0 a 9 :

$ printf '%b' '\U06F'{0..9}
۰۱۲۳۴۵۶۷۸۹

Eso significa que el último dígito hexadecimal ES el valor decimal:

$ echo $(( $(printf '%d' "'۲") & 0xF ))
2

Eso hace que este bucle simple sea una herramienta de conversión:

#!/bin/bash
(   ### Use a locale that use UTF-8 to make the script more reliable.
    ### Maybe something like LC_ALL=fa_IR.UTF-8 for you?.
    LC_ALL=en_US.UTF-8
    a="$1"
    while (( ${#a} > 0 )); do
        # extract the last hex digit from the UNICODE code point
        # of the first character in the string "$a":
        printf '%d' $(( $(printf '%d' "'$a") & 15 ))
        a=${a#?}    ## Remove one character from $a
    done
)
echo

Utilizándolo como:

$ sefr.sh ۰۱۲۳۴۵۶۷۸۹
0123456789

$ sefr.sh ۲۰۱
201

$ sefr.sh ۲۱
21

Tenga en cuenta que este código también podría convertir números arábigos y latinos (incluso si se mezclan):

$ sefr.sh ۴4٤۵5٥۶6٦۷7٧۸8٨۹9٩
444555666777888999

$ sefr.sh ٤٧0٠٦7١٣3٥۶٦۷
4700671335667

Como es un conjunto fijo de números, puedes hacerlo a mano:

$ echo ۲۱ | LC_ALL=en_US.UTF-8 sed -e 'y/۰۱۲۳۴۵۶۷۸۹/0123456789/'
21

(o usando tr, pero aún no GNU tr )

Es necesario establecer su configuración regional en en_US.utf8(o mejor configuración regional a la que pertenece el conjunto de caracteres) para sedreconocer su conjunto de caracteres.

Con perl:

$ echo "۲۱" |
  perl -CS -MUnicode::UCD=num -MUnicode::Normalize -lne 'print num(NFKD($_))'
21

Para Python existe la unidecodebiblioteca que maneja tales conversiones en general: https://pypi.python.org/pypi/Unidecode .

En Python 2:

>>> from unidecode import unidecode
>>> unidecode(u"۰۱۲۳۴۵۶۷۸۹")
'0123456789'

En Python 3:

>>> from unidecode import unidecode
>>> unidecode("۰۱۲۳۴۵۶۷۸۹")
'0123456789'

El hilo SO en /programming//q/8087381/2261442 podría estar relacionado.

/ edit: Como señaló Wander Nauta en los comentarios y como se menciona en la página de Unidecode, también hay una versión de shell unidecode(debajo de /usr/local/bin/si está instalada pip):

$ echo '۰۱۲۳۴۵۶۷۸۹' | unidecode
0123456789

Una versión pura bash:

#!/bin/bash

number="$1"

number=${number//۱/1}
number=${number//۲/2}
number=${number//۳/3}
number=${number//۴/4}
number=${number//۵/5}
number=${number//۶/6}
number=${number//۷/7}
number=${number//۸/8}
number=${number//۹/9}
number=${number//۰/0}

echo "Result is $number"

Lo he probado en mi máquina Gentoo y funciona.

./convert ۱۳۲
Result is 132

Hecho como un bucle, dada la lista de caracteres (de 0 a 9) para convertir:

#!/bin/bash
conv() ( LC_ALL=en_US.UTF-8
         local n="$2"
         for ((i=0;i<${#1};i++)); do
              n=${n//"${1:i:1}"/"$i"}
         done
         printf '%s\n' "$n"
       )

conv "۰۱۲۳۴۵۶۷۸۹" "$1"

Y usado como:

$ convert ۱۳۲
132

Otra forma (más bien exagerada) usando grep:

#!/bin/bash

nums=$(echo "$1" | grep -o .)
result=()

for i in $nums
do
    case $i in
        ۱)
            result+=1
            ;;
        ۲)
            result+=2
            ;;
        ۳)
            result+=3
            ;;
        ۴)
            result+=4
            ;;
        ۵)
            result+=5
            ;;
        ۶)
            result+=6
            ;;
        ۷)
            result+=7
            ;;
        ۸)
            result+=8
            ;;
        ۹)
            result+=9
            ;;
        ۰)
            result+=0
            ;;
    esac
done
echo "Result is $result"

Como iconvparece que no puede asimilar esto, el siguiente puerto de escala sería utilizar la trutilidad:

$ echo "۲۱" | tr '۰۱۲۳۴۵۶۷۸۹' '0123456789'
21

tr traduce un conjunto de caracteres a otro, por lo que simplemente le decimos que traduzca el conjunto de dígitos farsi al conjunto de dígitos latinos.

EDITAR : Como señala el usuario @cuonglm. Esto requiere que no sea GNU tr, por ejemplo, tren una Mac, y también requiere que $LC_CTYPEesté configurado en en_US.UTF-8.