En un nivel muy alto, con respecto a la teoría evolutiva de los juegos y los algoritmos genéticos, es absolutamente posible que la IA pueda desarrollar un estado análogo al sufrimiento, aunque, como usted señala astutamente, implicaría condiciones que a una computadora le importan. (Por ejemplo, podría desarrollar una sensación análoga a "estar agraviado" por la falta de optimización en el sentido algorítmico, o la "frustración" por las ecuaciones no cuadran, o la "insatisfacción" por las metas que no se han logrado).
Ciertamente, se puede decir que el robot atormentado por niños pequeños en el centro comercial está "sufriendo", ya que los niños bloquean el desempeño de la función del robot, pero el robot no está consciente y se podría decir que el sufrimiento requiere conciencia. Sin embargo, incluso sin conciencia, este robot muy simple puede aprender nuevos comportamientos a través de los cuales mitiga o evita el "sufrimiento" provocado por no poder cumplir su función.
Definitivamente desea analizar el concepto de sufrimiento en un contexto filosófico y Epicuro sería un lugar muy útil para comenzar.
Epicuro es directamente relevante en un sentido algorítmico porque usa el término " ataraxia " que significa calma, y se deriva del verbo " tarasso " que significa agitar o perturbar.
La ataraxia puede expresarse matemáticamente como un equilibrio. Tarasso puede expresarse matemáticamente como desequilibrio.
Esto se relaciona directamente con Game Theory en que se puede decir que el desequilibrio es el requisito principal de los juegos, y con AI en esa Game Theory se puede decir que es la raíz de toda IA.
La ataraxia también se entiende en el sentido de "libertad del miedo", que en el temporal en ese miedo es una función de la incertidumbre, ya que se relaciona con el futuro en un sentido predictivo, e implica la condición actual frente a posibles condiciones futuras menos óptimas.
Así, el miedo, que es una forma de sufrimiento, tiene sus raíces en la intratabilidad computacional, incluso cuando la "computadora" es un cerebro humano.
Los primeros filósofos como Demócrito son especialmente útiles porque exploraron conceptos críticos y fundamentales, muchos de los cuales ahora se pueden expresar con las matemáticas modernas.
A saber: no puedes llegar al sufrimiento hasta que primero definas "lo bueno" y "lo malo", que es una relación binaria en la que no se puede decir que ninguno de los términos tenga significado sin lo contrario. (Matemáticamente, se puede expresar en su forma más simple como un gráfico finito unidimensional). Esta comprensión es bastante antigua.
Vale la pena señalar que el valor continuo de los primeros filósofos es en parte un factor de sabiduría que no depende del volumen de conocimiento, demostrado por Sócrates en la idea de que la sabiduría puede ser tan simple como saber que no sabes algo.
Los antiguos sabios no tenían el beneficio de poderosas herramientas de medición, matemática avanzada o método científico, pero eran muy inteligentes, y aún más importante, sabios.