Veo información valiosa en las otras respuestas y los comentarios, pero también información errónea, así que trato de dar un resumen y agregar algunas cosas adicionales.
¿Tendré alguna ventaja si abro el algoritmo de código abierto bajo licencia copyleft (GPL, etc.)?
Al publicar el código fuente de una implementación de su algoritmo bajo GPL (supongo que eso es lo que quiso decir), obtiene la ventaja de demostrar que su algoritmo funciona según lo previsto, y todos pueden inspeccionar su código fuente para asegurarse de que no contenga nada "inusual" como errores graves o malware. Tal vez obtendrá algunos contribuyentes para mejoras adicionales. Y dado que usted es el titular de los derechos de autor, aún puede publicar o vender su implementación a otros bajo una licencia diferente.
Una pregunta diferente es si le ofrece alguna ventaja ser el primero en publicar ese algoritmo. Al ser el primero, podría intentar evitar que otra persona obtenga una patente sobre ese algoritmo, ya que su implementación servirá como una especie de prueba de que usted es el inventor. Pero como @Snowman ha señalado correctamente en un comentario, debido a la política de primero en presentar (en lugar de primero en inventar) de muchas regulaciones de patentes europeas, puede que en realidad no funcione.
Por lo que sé acerca de las licencias, esto debería impedir que las personas usen exactamente el mismo código que el código cerrado, pero ¿podrían "reescribir" el algoritmo como código cerrado?
Bloqueas a las personas para que no publiquen tu código fuente o modificaciones de este en código cerrado, no para usarlo dentro de una organización comercial. Impide que las personas lo publiquen como código abierto o cerrado con una licencia diferente a la GPL. Sin embargo, no impide que las personas publiquen una nueva implementación de "sala limpia" de su algoritmo bajo una licencia arbitraria, que es una implementación realizada solo a partir de su descripción del algoritmo, sin mirar realmente el código fuente.
Como soy de la Unión Europea, ¿debo buscar patentes de software si quiero copiarlo a la izquierda?
Aunque las leyes de muchos países europeos prohíben formalmente las patentes de algoritmos puros, muchas empresas han eludido esas leyes en el pasado al declarar algoritmos específicos como "invenciones implementadas en computadora". AFAIK, las oficinas de patentes europeas no aceptaron tantas patentes algorítmicas como las oficinas de patentes de EE. UU. En el pasado, sin embargo, han aceptado miles de patentes a lo largo de los años que pueden interpretarse como patentes de algoritmos. Si esas patentes realmente se mantendrían en los tribunales es una cuestión diferente, pero alguien que quiera averiguarlo generalmente tendrá que poner esto a prueba, con todos los riesgos relacionados. Dos de los grupos de ejemplos más populares se mencionaron en los comentarios, las patentes relacionadas con la compresión de imágenes GIF y las patentes relacionadas con la compresión / descompresión de MP3, ver aquí para mas ejemplos
Entonces, si desea reducir el riesgo de ser demandado, antes de publicar un software que contenga un algoritmo específico, probablemente debería ver si hay alguien que tenga una patente sobre él, incluso en la UE.