La narrativa de la IA está rota… y así es como podemos solucionarla

La inteligencia artificial (IA) se compone de datos, chips o códigos, pero también de las historias y metáforas que utilizamos para representarlos. Las historias son importantes. Las imágenes que rodean una tecnología determinan cómo la entiende el público y, por tanto, dirige su uso, su diseño y su impacto social.

Por tanto, resulta preocupante que, según la mayoría de los estudios, la representación dominante de la IA tenga poco que ver con su realidad. Las omnipresentes imágenes de robots humanoides y la narrativa antropomórfica de los chatbots como “ayudantes” y cerebros artificiales resultan atractivas a nivel comercial o periodístico, pero se basan en mitos que distorsionan la esencia, las capacidades y las limitaciones de los modelos actuales de IA.

Si la forma en que representamos la IA es incorrecta, ¿cómo entenderemos realmente esta tecnología? Y si no lo entendemos, ¿cómo podemos utilizarlo, regularlo o alinearlo con nuestros intereses?

El mito de la tecnología autónoma

La representación distorsionada de la inteligencia artificial es parte de una confusión generalizada que el teórico Langdon Wiener bautizó en 1977 como “tecnología autónoma”: la idea de que las máquinas han adquirido una especie de vida propia y actúan solas sobre la sociedad de manera determinista y a menudo destructiva.

La IA ofrece ahora la encarnación perfecta de esa visión, ya que coquetea con el mito de la creación de un ser inteligente y autónomo… y el castigo que conlleva asumir esa función divina. Un patrón narrativo antiguo que va desde Frankenstein hasta Terminator, desde Prometeo hasta Ex Machina.

El mito de la tecnología autónoma ya se intuye en el ambicioso nombre de “inteligencia artificial”, acuñado en 1955 por el informático John McCarthy. El término ha tenido éxito a pesar de que provoca numerosos malentendidos, o quizás a causa de ello.

Como señala Kate Crawford en su libro The AI ​​Atlas: “La IA no es ni artificial ni inteligente. Más bien, existe corporalmente como algo material, hecho de recursos naturales, combustible, mano de obra, infraestructura, logística, historias y clasificaciones”.

Gran parte del problema con la narrativa dominante sobre la IA puede atribuirse a esta tendencia a presentarla como una entidad independiente, casi extraña, incomprensible y fuera de nuestro control o decisión.

Metáforas que nos confunden

El lenguaje en el que muchos medios, instituciones e incluso expertos hablan de inteligencia artificial está lleno de antropomorfismo y animismo, imágenes de robots y cerebros, historias siempre falsas sobre máquinas que se rebelan o actúan de manera inexplicable y debates sobre su supuesta conciencia, por no hablar de un sentido de urgencia e inevitabilidad.

Esa visión culmina en la narrativa que ha impulsado el desarrollo de la IA desde sus inicios: la promesa de la IA general (GAI), una supuesta inteligencia de nivel humano o sobrehumano que cambiará el mundo o incluso las especies. Empresas como Microsoft u Open AI y líderes tecnológicos como Elon Musk prevén que IAG sea un punto de inflexión cada vez más inminente.

Sin embargo, lo cierto es que el camino hacia esta tecnología no está claro, y ni siquiera hay consenso sobre si algún día será posible desarrollarla.

Historia, poder y globo.

El problema no es sólo teórico. Una visión determinista y animista de la IA construyendo un futuro determinado. El mito de la tecnología autónoma sirve para inflar las expectativas sobre la inteligencia artificial y desviar la atención de los desafíos reales que plantea, obstaculizando así un debate público más informado y pluralista sobre la tecnología. Por ello, en un informe de referencia, el Instituto AI Nov se refiere a la promesa de IAG como el “argumento para acabar con todas las discusiones”, una forma de evitar cualquier cuestionamiento de la tecnología.

Además de la mezcla de expectativas y temores exagerados, estas narrativas también son responsables de inflar la posible burbuja económica de la IA sobre la que advierten varios informes y líderes tecnológicos. Si esa burbuja existe y finalmente estalla, será interesante recordar que fue alimentada no sólo por logros técnicos, sino también por representaciones que son tan impactantes como engañosas.

Cambio narrativo

Arreglar la narrativa rota de la inteligencia artificial requiere poner en primer plano sus dimensiones culturales, sociales y políticas. Es decir, dejar atrás el mito dualista de la tecnología autónoma y adoptar una perspectiva relacional que entienda la inteligencia artificial como resultado del encuentro entre tecnología y personas.

En la práctica, este cambio narrativo consiste en desplazar el foco de la representación de varias maneras: de la tecnología a las personas que la lideran, de un futuro tecno-utópico a un presente en construcción, de visiones apocalípticas a riesgos presentes, de una inteligencia artificial presentada como única e inevitable a un énfasis en la autonomía, la elección y la diversidad de las personas.

Diferentes estrategias pueden promover estos movimientos. En mi libro Tecnohumanismo. Para el diseño narrativo y estético de la IA, propongo una serie de recomendaciones estilísticas para evitar la narrativa de la IA autónoma. Por ejemplo, evita utilizarlo como sujeto de una oración, cuando desempeña el papel de herramienta, o no le atribuyas verbos antropomórficos.

Jugar con el término “IA” también ayuda a ver hasta qué punto las palabras pueden cambiar nuestra percepción de la tecnología. ¿Qué sucede cuando lo reemplazamos en una oración, por ejemplo, con “procesamiento de tareas complejas”, uno de los nombres menos ambiciosos pero más precisos que se cree que denotan la disciplina en sus orígenes?

Los debates clave sobre la inteligencia artificial, desde su regulación hasta su impacto en la educación o el empleo, seguirán inestables hasta que se corrija la forma en que la representamos. Diseñar un relato que visibilice la realidad sociotécnica de la IA es un desafío ético urgente que beneficiará tanto a la tecnología como a la sociedad.