Esto no es exactamente lo que pediste, pero es demasiado largo para un comentario.
La referencia explícita más antigua que conozco a un algoritmo que no es factible se encuentra en Mévarire sur les condition of résolubilité des équations par radicaux , de Évariste Galois , escrito en 1830:
Si mainousnant vous me donnez une équation que vous aurez choisie à votre gré et que vous desirez connaître si elle est ou no soluble par radicaux, je n'aurais rien à y faire que de vous indicar le moyen de répondre à votre question, sans vouloir cargador ni moi ni personne de la faire. En un mot les calculs sont impracticables.
[Ahora, si me das una ecuación que hayas elegido a tu discreción y quieres saber si los radicales pueden resolverla o no, solo necesito indicarte el método necesario para responder a tu pregunta, sin querer hacerme o alguien más lo lleva a cabo. En una palabra, los cálculos no son prácticos .]
Aunque es cierto que el algoritmo de Galois no se ejecuta en tiempo polinómico, Galois claramente significaba algo mucho menos preciso. Esta es también la referencia más antigua que conozco que considera la mera existencia de un algoritmo significativo por derecho propio.
Como Niel de Beaudrap menciona en los comentarios, Gauss ya discutió la (in) eficiencia de los algoritmos para las pruebas de primalidad en sus 1801 Disquisitiones Arithmeticae , casi 30 años antes que Galois. Para completar, aquí está el pasaje relevante del artículo 329:
Nihilominus fateri oportet, omnes methodos hucusque prolata vel ad casus vlade speciales restrictas esse, vel tam operosas et prolixas , ut iam pro numeris talibus, qui tabularum a varis meritis constructarum limites non excedunt, es decir , pro quibus methodi artificial supervacuae sunt ejercitati fatigent, ad maiores autem plerumque vix aplicar. ... Ceterum in problematis natura fundatum est, ut methodi quaecunquecontinuo prolixiores evadant, quo maiores sunt numeri, ad quos solicitante; attamen pro methodis sequentibus difficultates perlente increscunt, numerique e septem, octos vel adeo adhuc pluribus figuris constantes praesertim per secundam felici sempre successu tractati fuerunt, omnique celeritate, quam pro tantis numeris exspectare aequum est, qui secthodoru memefutoumem, meme calculadora, notas intolerabilem, requirerent.
[Sin embargo, debemos confesar que todos los métodos que se han propuesto hasta ahora están restringidos a casos muy especiales o son tan laboriosos y prolíficos que incluso para números que no exceden los límites de las tablas construidas por hombres estimables, es decir , para números que no requieren métodos ingeniosos, prueban la paciencia incluso de la calculadora más practicada. Y estos métodos difícilmente pueden usarse para números más grandes. ... Es en la naturaleza del problema que cualquierEl método se volverá más prolijo a medida que los números a los que se aplica crezcan. Sin embargo, en los siguientes métodos las dificultades aumentan bastante lentamente, y los números con siete, ocho o incluso más dígitos se han manejado con éxito y velocidad más allá de lo esperado, especialmente por el segundo método. Las técnicas que se conocían anteriormente requerirían una mano de obra intolerable incluso para la calculadora más infatigable .]