¿Qué perdemos cuando la inteligencia artificial hace la compra?

Los estadounidenses dedican una cantidad considerable de tiempo a comprar, más del que dedican a educación, voluntariado o incluso a hablar por teléfono. Pero la forma en que compran está cambiando drásticamente, a medida que las principales plataformas y especialistas en marketing se apresuran a automatizar la toma de decisiones comerciales.

Los agentes de IA ya pueden buscar productos, recomendar opciones e incluso realizar compras en nombre de los consumidores. Sin embargo, muchos clientes todavía están preocupados por la posibilidad de ceder el control. Aunque muchos consumidores afirman utilizar cierta ayuda de la inteligencia artificial, la mayoría actualmente dice que no querría que un agente de IA completara una transacción de compra de forma autónoma, según una encuesta reciente realizada por la consultora Bain & Company.

Como académicos que estudiamos la intersección del derecho y la tecnología, hemos visto cómo el comercio asistido por IA se expande rápidamente. Nuestra investigación revela que sin medidas legales actualizadas, este cambio hacia el comercio automatizado podría erosionar silenciosamente los beneficios económicos, psicológicos y sociales que las personas obtienen al comprar en sus propios términos.

Advertencia emptor

Parte de las dudas del comprador tiene que ver con la privacidad. Muchos se muestran reacios a compartir información personal o financiera confidencial con plataformas de inteligencia artificial. Pero aún más profundamente, la gente quiere sentir que tiene el control de sus decisiones de compra. Cuando los usuarios no pueden entender la razón detrás de las recomendaciones de productos basados ​​en IA, su confianza y satisfacción disminuyen.

Los clientes también se muestran reacios a renunciar a su autonomía. En un estudio en el que participaron personas que reservaban planes de viaje, los participantes eligieron deliberadamente opciones de viaje que no se alineaban con sus preferencias declaradas después de que se les dijo que sus elecciones podían predecirse, una forma de reafirmar la independencia.

Otros experimentos confirman que cuanto más perciben los clientes que les han quitado sus opciones de compra, más reacios se muestran a aceptar las compras asistidas por IA.

Si bien se espera que la tecnología mejore, ha habido algunos errores muy publicitados en los medios financieros y tecnológicos. El Wall Street Journal escribió sobre una máquina expendedora de alimentos impulsada por inteligencia artificial que perdió dinero y se abasteció de peces vivos. La publicación tecnológica Wired catalogó fallas de diseño, como que un agente de inteligencia artificial tardara 45 segundos completos en agregar huevos a un carrito de compras.

El caso empresarial para comprar inteligencia artificial

Los consumidores tienen buenas razones para ser cautelosos. Los agentes de IA no están diseñados sólo para ayudar; están diseñados para influir. Las investigaciones muestran que estos sistemas pueden moldear las preferencias, guiar las elecciones, aumentar el consumo e incluso reducir la probabilidad de que los consumidores devuelvan los productos.

Y las empresas están impulsando estas oportunidades. La plataforma empresarial Salesforce promociona agentes de IA que pueden “aumentar las ventas sin esfuerzo”, mientras que el gigante de los pagos Mastercard informa que su asistente de IA, Shopping Muse, genera tasas de conversión entre un 15% y un 20% más altas que la búsqueda tradicional; es decir, empuja a los compradores desde la navegación hasta completar una compra.

Para los minoristas, las herramientas de inteligencia artificial son una forma de convertir las búsquedas en compras reales. Rupiken en Unsplash., CC BI

Para las empresas, el atractivo es obvio. Desde la aplicación Rufus de Amazon y la atención al cliente de Walmart hasta los carritos de supermercado con tecnología de inteligencia artificial, las empresas están integrando rápidamente estas herramientas en la experiencia de compra.

Asistentes con nombres como Sparky y Ralph están siendo promocionados como el futuro del comercio minorista, mientras que los tecnólogos instan a las empresas a preparar sus marcas para la era de las compras con inteligencia artificial.

La verdadera preocupación no es que estos sistemas puedan fallar, sino que puedan tener éxito.

El lado humano de las compras

Los agentes de compras con IA ofrecen importantes beneficios.

Por ejemplo, pueden escanear numerosos productos en segundos, comparar precios entre vendedores, realizar un seguimiento de los descuentos a lo largo del tiempo, ver miles de reseñas de productos y adaptar recomendaciones a los deseos y necesidades del usuario. Incluso pueden leer los términos de servicio y las políticas de privacidad, lo que ayuda a los consumidores a detectar la letra pequeña desfavorable.

Pero hay más en juego que estas consideraciones.

Si bien los consumidores tienen motivos para centrarse en la privacidad y el control, los agentes de compras de IA conllevan algunos riesgos emocionales que se pasan por alto, como aplastar la alegría de la anticipación. Los psicólogos han demostrado que el período entre la elección de una compra y su recepción genera una felicidad significativa, a veces más que el producto o la experiencia en sí. Fantaseamos con las vacaciones que reservamos, la ropa que pedimos, la comida que planeamos. Las compras automatizadas amenazan con agotar esta satisfacción esperada.

Los consumidores todavía valoran la conexión social que fomentan las compras en la vida real. Vitaly Gariev sobre Unsplash, CC BI

Esta anticipación está conectada con otro valor: el sentimiento de autoría personal y ética. Incluso las decisiones de compra cotidianas permiten a las personas tomar decisiones y expresar sus opiniones. Muchos consumidores compran intencionalmente café de comercio justo, cosméticos libres de crueldad animal o productos ambientalmente responsables. Desde Patagonia y Harley-Davidson hasta la camiseta de la gira de Taylor Swift, las marcas y productos que elegimos ayudan a moldear quiénes somos.

Ir de compras, además, tiene una dimensión común. Exploramos tiendas con amigos, charlamos con vendedores y compramos para las personas que amamos. Estas interacciones diarias contribuyen significativamente a nuestro bienestar.

Lo mismo se aplica a los regalos. Elegir un regalo implica anticiparse a las preferencias de la otra persona, esforzarse en la búsqueda y reconocer que el gesto es tan importante como el objeto en sí. Cuando este proceso se deja en manos de un sistema autónomo, el riesgo es que el regalo se convierta en una entrega en lugar de un gesto significativo de atención y cuidado.

Mantener viva la agencia humana

Es probable que los agentes de compra de IA se conviertan en parte de la vida cotidiana, y la conversación sobre regulación está empezando a ponerse al día, aunque de manera desigual.

La transparencia surgió como una preocupación central. La experiencia previa con mecanismos de remisión muestra que los conflictos de intereses no revelados son un riesgo real. La Unión Europea ha propuesto un marco para la divulgación de datos sobre la toma de decisiones automatizada, aunque su implementación se ha retrasado recientemente. En el Congreso, los legisladores estadounidenses están considerando proyectos de ley que exigirían a las empresas revelar cómo se entrenan sus modelos de inteligencia artificial.

Hasta ahora, los consumidores parecen querer elegir su propio nivel de compromiso, una señal de que, para muchas personas, comprar es algo más que satisfacer preferencias de manera eficiente. Quizás la pregunta menos resuelta, pero la más importante, es si las herramientas de compra de IA se diseñarán y regularán para servir a los intereses de los usuarios y al florecimiento humano, o se optimizarán, como tantas herramientas digitales antes que ellas, principalmente para obtener ganancias corporativas.