¿Cuál es el término para cuando un modelo actúa sobre la cosa que se está modelando y, por lo tanto, cambia el concepto?

8

Estoy tratando de ver si hay un término convencional para este concepto que me ayude en mi investigación y escritura literaria. Cuando un modelo de aprendizaje automático hace que se tome una acción en el mundo real que afecta a instancias futuras, ¿cómo se llama eso?

Estoy pensando en algo como un sistema de recomendación que recomienda un producto determinado y no recomienda otro producto dado. Luego, ha aumentado la probabilidad de que alguien vaya a comprar el primer producto y ha disminuido la probabilidad de que alguien vaya a comprar el segundo producto. Entonces, esos números de ventas eventualmente se convertirán en instancias de capacitación, creando una especie de circuito de retroalimentación.

¿Hay un término para esto?

machine-learning terminology

— jsmith54
fuente

Sí, el "ciclo de retroalimentación" es como siempre describiría esto.

— Sean Owen

Creo que el ciclo de retroalimentación es definitivamente útil, pero la literatura sobre performatividad y reflexividad parece abordar más de la compleja interacción que estaba tratando de discutir. Así que creo que es útil decir algo como: "Un modelo que puede actuar sobre el concepto para cambiar el concepto puede por lo tanto cambiarse a sí mismo en una especie de circuito de retroalimentación. Llamemos a esta propiedad (performatividad / reflexividad). Esto es distinto de la deriva del concepto , porque el modelo es la causa de la deriva ".

— jsmith54

6

Hay tres términos de las ciencias sociales que se aplican a su situación:

Reflexividad : se refiere a las relaciones circulares entre causa y efecto. En particular, podría usar la definición del término adoptado por George Soros para referirse al ciclo causal inverso entre los precios de las acciones (es decir, el valor presente de los fundamentos) y los fundamentos del negocio. En cierto modo, el precio de la acción es un "modelo" de los procesos comerciales fundamentales. Por lo general, las personas suponen que la causalidad es unidireccional, desde los fundamentos hasta el precio de las acciones.
Performatividad : tal como lo usa Donald MacKenzie (por ejemplo, aquí ), muchos modelos económicos no son "cámaras", que toman fotos de la realidad económica, sino que son "motores", una parte integral de la construcción de la realidad económica. Tiene un libro con ese título: un motor, no una cámara .
Profecía autocumplida : una predicción que, directa o indirectamente, se hace realidad, según los términos de la profecía misma, debido a la retroalimentación positiva entre creencia y comportamiento. Este es el término más amplio y menos específico para la situación que describe.

De los tres términos, sugiero que la "performatividad" de MacKenzie es la más adecuada para su situación. Afirma, entre otras cosas, que la validez de los modelos económicos (por ejemplo, la fijación de precios de opciones Black-Scholes) se ha mejorado por su uso por parte de los participantes del mercado y, por lo tanto, cómo se refleja en los precios de las opciones y los patrones comerciales.

— MrMeritology
fuente

Todos los términos útiles, pero creo que están de acuerdo en que la performatividad es la más aplicable, al menos en términos de tratar de expresar el concepto por escrito. Obviamente, hay bastante heterogeneidad de terminología en todos los campos. Por lo tanto, no estoy seguro de que ninguno de estos realmente me ayude con cualquier investigación bibliográfica. Pero ese es probablemente el término que voy a tratar de usar.

— jsmith54

3

Aunque no es específicamente un término, enfocado en el aprendizaje automático , me referiría a tal comportamiento de un modelo estadístico, usando un efecto secundario del término general (al agregar algunos adjetivos clarificadores , como esperado o inesperado, deseado o no deseado, y similares ) El resultado de modelado o el resultado del bucle de retroalimentación transitiva podrían ser algunos de los términos alternativos .

— Aleksandr Blekh
fuente

@ jsmith54: Un placer.

— Aleksandr Blekh

0

Creo que en la literatura el término general que se usa a menudo es aprendizaje activo Aprendizaje activo ... en particular Bandido contextual multimarte

— seanv507
fuente

Si bien el aprendizaje activo (AL) parece un concepto lo suficientemente cercano, creo que hay una diferencia significativa entre AL y la situación, descrita por el OP: el primero implica esfuerzos de supervisión intencionales , mientras que el segundo implica la falta de tales esfuerzos e, incluso intenciones Por lo tanto, mi preferencia es el efecto secundario o los términos del ciclo de retroalimentación .

— Aleksandr Blekh

Yo diría que el aprendizaje activo, aunque definitivamente está relacionado, tiende a referirse a una técnica bastante específica desplegada intencionalmente, en lugar de la consecuencia involuntaria de un tipo de modelo arbitrario que actúa sobre el concepto. Me parece similar al aprendizaje por refuerzo. Estas técnicas probablemente sean útiles, una vez que se haya dado cuenta de que tiene un circuito de retroalimentación en su sistema, pero estoy de acuerdo con Aleksandr en que expresan una intención de diseño que estaba implicando que no existe en mi ejemplo.

— jsmith54

0

"Ahora los declaro hombre y mujer", un ejemplo de enunciado mediante el cual el hablante realiza un acto particular, es una instancia de un acto performativo , que cambia la cosa que se está modelando y, por lo tanto, cambia el concepto. Reflexivo, iterativo, recursivo, retroactivo, autogenerado , son términos relacionados.

— Laurent Duval
fuente