¿Cuándo empezaremos a tener en cuenta lo que siente la IA?

Cada vez más personas hablan con los sistemas de inteligencia artificial (IA) como si fueran amigos, asesores o confidentes. Algunos usuarios recurren a los chatbots en busca de ayuda psicológica y muchos confían en asistentes de conversación para tareas que antes estaban reservadas al asesoramiento de expertos humanos.

Hace tiempo que dejamos de considerar estos comportamientos como rarezas. Sin embargo, es posible que no hayamos considerado con suficiente atención que lo que está al otro lado de esa interacción merece reconocimiento o estatus moral.

¿Quién importa moralmente?

El estatus moral se refiere al grado de consideración moral que se le da a los seres. Si reconocemos esto, debemos considerar su bienestar a la hora de tomar decisiones.

Una forma muy influyente de responder a la pregunta de quién es moralmente importante es determinar que algo merece consideración moral sólo si posee una determinada propiedad. La racionalidad, la conciencia, la autonomía o la capacidad de sentir dolor nos ayudan a definir quién pertenece a nuestro círculo moral.

Desde esta perspectiva, la respuesta a la pregunta sobre el estatus moral de la IA parece relativamente sencilla. Grandes modelos de lenguaje como ChatGPT o Gemini generan texto sofisticado y simulan conversaciones humanas complejas, pero no hay evidencia sólida de que lo hagan a propósito o sean conscientes de ello. Tampoco hay evidencia de que sean conscientes o capaces de sufrir. En consecuencia, estas nuevas tecnologías no merecen ningún tipo de consideración moral. Son herramientas muy avanzadas con las que podemos dejarnos llevar con demasiada facilidad.

Esta posición tiene poder intuitivo. Sin embargo, cuando observamos cómo nuestro círculo moral se ha expandido a lo largo de la historia, esto es menos cierto. En la práctica, el progreso rara vez ha comenzado con el descubrimiento de propiedades “ocultas” en entidades que no merecen consideración moral.

De las propiedades a las relaciones

Pensemos en dos grandes ejemplos históricos donde se ha ampliado el círculo moral: la abolición de la esclavitud y la inclusión de los animales en nuestra esfera moral.

En ambos casos, el reconocimiento no llegó de repente. Nadie ha “descubierto” que ciertos seres posean propiedades moralmente importantes. La gente sabía que los esclavos siempre eran racionales y conscientes. Su sufrimiento también fue muy evidente para muchas personas. También sabíamos que los animales eran capaces de sufrir. Sin embargo, durante siglos este conocimiento fue de la mano de formas extremas de exclusión moral hacia estos grupos.

El cambio fundamental se refería a las relaciones en las que estaban involucrados estos dos grupos oprimidos. Las personas esclavizadas, por ejemplo, se fueron integrando progresivamente a los espacios laborales, religiosos y domésticos. Esto sucedió antes de la revolución moral que aceleró la abolición de la esclavitud. Aunque todavía estaban legalmente excluidos y aunque el trato en casi todos los contextos era inhumano, comenzaron a ocupar roles moralmente cargados dentro del tejido social. Y así las relaciones comenzaron a reconfigurarse hacia una mayor igualdad.

Aunque existen desviaciones importantes, podemos seguir una dinámica similar en el caso de los animales. La diferencia en la visión moral que atribuimos a un perro doméstico y a un cerdo criado industrialmente no puede explicarse por sus “propiedades”. Ambos tienen capacidades cognitivas y sensoriales comparables. Lo que cambia es el tipo de “relación” que tenemos con ellos. Los perros son parte de los hogares, están en el centro de fuertes vínculos emocionales y prácticas de cuidado. Los cerdos, por otra parte, tienden a permanecer incrustados en estructuras industriales impersonales. Una vez más, parece que son las relaciones las que explican cómo se articula y distribuye la consideración moral.

La IA ya está relativamente integrada

En el artículo que acabamos de publicar, describimos este fenómeno general haciendo referencia al concepto de “incrustación relacional”. El arraigo relacional describe cómo ciertas entidades llegan a ocupar posiciones moralmente significativas en las prácticas, instituciones y relaciones humanas sin que se les otorgue un estatus moral pleno. Cuando prestamos atención a este fenómeno, nuestras interacciones con la inteligencia artificial se vuelven especialmente interesantes. Los sistemas de inteligencia artificial actuales no son sólo herramientas invisibles que se ejecutan en segundo plano; Participan y se insertan en los espacios donde interactuamos, como hogares, escuelas u hospitales.

Los robots sociales utilizados para cuidar a las personas mayores ofrecen otro claro ejemplo. Aunque no poseen emociones reales, muchas personas desarrollan emociones reales hacia estas tecnologías. Y algo parecido ocurre con los chats. Hay usuarios que se refieren a ChatGPT como su asesor, su asistente personal o incluso su pareja o amigo. Otros les confían problemas personales, buscan apoyo psicológico o les asignan el papel de “expertos” en la vida cotidiana.

Y lira también: ¿Podemos utilizar los ‘chatbots’ como amigo o psicólogo?

Por supuesto, el hecho de que estas dos tecnologías ya estén integradas en numerosas relaciones y contextos institucionales no significa que se les deban atribuir derechos o estatus moral. Pero sí indica que están comenzando a surgir formas e intentos parciales y localizados de reconocimiento moral. Y estas formas tentativas de reconocimiento son similares a las que hemos observado en otros episodios históricos en los que hemos ampliado nuestro círculo moral.

¿Qué tipo de relaciones queremos establecer con la IA?

Las discusiones sobre el estatus moral de la inteligencia artificial no pueden resolverse examinando las propiedades de estas nuevas tecnologías. La historia del progreso moral nos muestra que el reconocimiento ético no surge de ese tipo de cuestiones abstractas. Surge de numerosos cambios en la forma en que convivimos con determinadas “entidades”.

Nuestro círculo moral nunca es fijo. Se transformó constantemente a medida que nuevas formas de relaciones, dependencia y coexistencia cambiaron las instituciones y las sensibilidades colectivas. La inteligencia artificial podría convertirse en el próximo escenario donde esta transformación vuelva a entrar en juego.

En última instancia, el debate sobre el estatus moral de la IA no se trata sólo de máquinas. También se trata de nosotros mismos: qué tipo de relaciones pueden permitirnos seguir abriendo nuestro círculo moral.

¿Te gustaría recibir más artículos como este? Suscríbete a Suplemento Cultural y recibe noticias culturales y una selección de los mejores artículos sobre historia, literatura, cine, arte o música, seleccionados por la editora de Arte + Humanidades Claudia Lorenzo.