Secuencial: for i in {1..1000}; do do_something $i; done
demasiado lento
Paralelo: for i in {1..1000}; do do_something $i& done
- demasiada carga
¿Cómo ejecutar comandos en paralelo, pero no más de, por ejemplo, 20 instancias por momento?
Ahora usualmente usa hack like for i in {1..1000}; do do_something $i& sleep 5; done
, pero no es una buena solución
Actualización 2 : convirtió la respuesta aceptada en un script: http://vi-server.org/vi/parallel
#!/bin/bash
NUM=$1; shift
if [ -z "$NUM" ]; then
echo "Usage: parallel <number_of_tasks> command"
echo " Sets environment variable i from 1 to number_of_tasks"
echo " Defaults to 20 processes at a time, use like \"MAKEOPTS='-j5' parallel ...\" to override."
echo "Example: parallel 100 'echo \$i; sleep \`echo \$RANDOM/6553 | bc -l\`'"
exit 1
fi
export CMD="$@";
true ${MAKEOPTS:="-j20"}
cat << EOF | make -f - -s $MAKEOPTS
PHONY=jobs
jobs=\$(shell echo {1..$NUM})
all: \${jobs}
\${jobs}:
i=\$@ sh -c "\$\$CMD"
EOF
Tenga en cuenta que debe reemplazar 8 espacios con 2 pestañas antes de "i =" para que funcione.