Métricas morales: ¿Se están convirtiendo los algoritmos corporativos en nuestras nuevas autoridades morales?

Verifique su puntaje crediticio antes de solicitar un apartamento. Tu reloj de fitness te indica si dormiste lo suficientemente bien. Un panel de control en el lugar de trabajo mide su productividad. Los padres pueden comprar dispositivos que controlan la respiración y el ritmo cardíaco de su bebé mientras duerme.

Cada vez más, los números nos dicen cómo vamos.

Estos sistemas prometen algo atractivo: una respuesta clara sobre si nos estamos comportando bien. Parecen objetivos, neutrales y basados ​​en datos. Pero también señalan un cambio cultural más profundo, a medida que los algoritmos definen lo que se considera comportamiento virtuoso.

En otras palabras, vivimos en un mundo donde las métricas se convierten en juicios morales. Como investigador que ha estudiado durante mucho tiempo cómo los mercados y las tecnologías moldean la responsabilidad moral, he visto cómo estas métricas remodelan silenciosamente cómo las personas se entienden a sí mismas y cómo otras las juzgan.

Definiendo la buena vida

Las congregaciones religiosas han estructurado la vida diaria de muchas personas durante generaciones, ofreciendo modelos de identidad y de cómo debería ser una vida “digna”.

Sin embargo, a medida que las sociedades se vuelven más diversas y menos personas se asocian con grupos religiosos formales, la influencia moral de las religiones en la sociedad disminuye. Debido a que su autoridad ya no se da por sentada, algunos grupos religiosos se comercializan casi como marcas: una elección de estilo de vida que uno puede optar por seguir o ignorar.

La gente está empezando a crear su propio sentido de lo que está bien o mal a partir de una multitud de fuentes y, cada vez más, esto incluye resultados de ganancias, clasificaciones y paneles de control.

La puntuación es un claro ejemplo de cómo funciona esto. Un puntaje crediticio parece ser una medida objetiva del valor financiero.

Pero las acciones necesarias para optimizar los resultados definen cómo se ve el comportamiento financiero digno en la sociedad estadounidense actual. No se trata sólo de pagar sus cuentas a tiempo. Lograr un puntaje crediticio óptimo generalmente significa tener al menos una tarjeta de crédito; mantener una relación deuda-crédito baja, lo que puede incluir buscar un aumento del límite de crédito en lugar de pagar la deuda; no cancelar ninguna tarjeta de crédito para maximizar la duración promedio de la cuenta; y tener la combinación de crédito “adecuada”, que a menudo incluye un préstamo de consumo. Hoy en día, un consumidor sin tarjetas de crédito (algo que alguna vez podría haber parecido financieramente voluntario) no desarrolla el tipo de “expediente” que es fácilmente recompensado con una puntuación alta, y es posible que no pueda obtener un préstamo para comprar una casa o un automóvil.

En nuestro trabajo sobre la calificación crediticia del consumidor, el investigador de cultura del consumidor John Shuten y yo descubrimos que las personas a menudo incorporan sus calificaciones crediticias en su sentido de identidad y narrativa de sus vidas, interpretando las calificaciones como un reflejo de su carácter y moral. Una puntuación alta se siente como un signo de virtud. Una puntuación baja puede provocar sentimientos de vergüenza o fracaso y la determinación de hacerlo mejor.

Un consumidor descubrió su puntaje crediticio por primera vez para saber qué tipo de persona es realmente. Otro, que estaba trabajando para reconstruir su puntuación después de que la deuda médica provocara una cascada de impagos, dijo que lo visitaba todas las mañanas para ver si era alguien en quien la gente pudiera confiar nuevamente.

espejos morales

La puntuación es sólo un ejemplo. Las aplicaciones de salud convierten el ejercicio, el sueño y la frecuencia cardíaca en indicadores de rendimiento. Las plataformas de lugar de trabajo convierten las tareas cotidianas en paneles, clasificaciones y métricas. Los sistemas de reputación califican a los conductores, proveedores y autónomos, a menudo con un único número que representa la confiabilidad.

Incluso la crianza de los hijos, uno de los roles humanos más emocionales, se ve afectada por esta lógica. Los monitores portátiles para bebés convierten la respiración, los niveles de oxígeno y los patrones de sueño del bebé en gráficos, alertas y “conocimientos”. Estas tecnologías se comercializan como herramientas de tranquilidad, pero en el artículo de 2026, mis coautores y yo descubrimos que estas herramientas también alimentan las expectativas.

Los padres describen la sensación de que si hay un dispositivo que puede controlar la respiración de un bebé durante la noche, entonces debe ser utilizado por un cuidador verdaderamente responsable. “Todos los padres de nuestro grupo social tienen un tipo de monitor respiratorio u otro”, dijo un padre. “Mi jefe lo tiene. Si hubiera podido evitar algo horrible gastando un poco de dinero y mirando monitores, y no lo hice, ¿qué clase de padre sería?”

Las aplicaciones no sólo registran el comportamiento; le dan forma. Oscar Wong/Momento vía Getty Images

El peso emocional de ese cambio es asombroso. Una madre dijo que se sentía culpable las noches en que se olvidaba de cargar el dispositivo, no porque algo saliera mal, sino porque no estaba prestando atención a la forma en que el mercado define ahora la buena paternidad. Otro simplemente dijo: “Si algo sucediera y no lo tuviera conmigo, no sé cómo podría vivir conmigo mismo”. El monitor se ha convertido menos en una herramienta que en una prueba.

La medición puede resultar realmente útil. Cuando los resultados parecen precisos e impersonales, pueden parecer más sólidos que los juicios subjetivos y confusos que hacemos en la vida cotidiana. Pero como señala el historiador Jerry Miller en The Tyranny of Metrics, los sistemas de puntuación incorporan sutilmente suposiciones sobre cómo es el comportamiento responsable y luego nos reflejan esas suposiciones como si fueran simples hechos. Un puntaje crediticio alto comienza a parecer una prueba de valor moral. Un flujo constante de horas productivas en un panel de trabajo parece un testimonio de dedicación.

A medida que estas métricas se expanden, comienzan a reconstruir un nuevo sentido basado en datos de lo que significa ser una buena persona. Esto se ve en decisiones comunes: elegir un préstamo porque ayudará a su puntaje; llevar tu teléfono a correr para que “cuente” para tus objetivos de acondicionamiento físico; despertarse por la noche para controlar a su bebé solo porque la aplicación sugiere que debería hacerlo. La línea entre preocuparse por los demás y optimizar el número se vuelve fácilmente borrosa.

hacia el vacío

Durante siglos, las tradiciones religiosas, los filósofos y las comunidades morales han luchado con lo que significa vivir una vida buena y virtuosa. Los sistemas de calificación algorítmica no pretenden responder a esas preguntas, pero a medida que las formas tradicionales de autoridad moral se debilitan entre muchos estadounidenses, yo diría que los sistemas algorítmicos se están quedando en el vacío.

No pretenden responder preguntas sobre el alma, pero ofrecen algo que puede ser casi igual de tranquilizador: indicadores claros de si estás en el camino correcto. Una puntuación alta, una marca verde, una serie completa: son pequeñas garantías cotidianas que de alguna manera medimos.

La pregunta más profunda es qué tan cómoda se siente la sociedad al permitir que estos sistemas se conviertan en nuestros espejos para la autoevaluación moral. Al mirar instintivamente un número para determinar si a uno le está yendo bien como prestatario, trabajador, paciente o padre, se corre el riesgo de olvidar que los números pueden captar sólo una pequeña porción de lo que significa ser un buen ser humano.

Muchos de estos sistemas de puntuación son creados por empresas con fines de lucro con un interés creado en el resultado. No están diseñados sólo para medir el comportamiento; están diseñados para darle forma, alentando a los consumidores a mejorar continuamente sus resultados de manera que los hagan más valiosos, legibles y rentables para las empresas de medición. El objetivo no es necesariamente prosperar; su comportamiento debería beneficiar a las corporaciones.

La próxima vez que revises tu calificación o rango y sientas una pequeña oleada de orgullo o incomodidad, quizás valga la pena detenerte y preguntar: ¿de quién es la idea de “bien” que veo reflejada, y es realmente aquella con la que quiero vivir?