El griego es el chatbot de inteligencia artificial generativa (Genai) del XAI que, según el almizcle, es “la IA más inteligente del mundo”. La última actualización de Grok es ANI, desactivada de anime por ocasional, se unió recientemente al niño que informó al anochecer y 50 Shades of Grey.
Este verano y el XAI y OpenAi han lanzado versiones actualizadas de sus chatbots. Cada uno anunció un rendimiento mejorado, pero, en particular, una nueva personalidad. El Kai presentó a Ani; Operai enrolló el BPT-5 más frío con cuatro personas que reemplazan su desmontado modelo Sicofantic GPT-4O.
Similar a Google Deepmind y Anthropias, ambas compañías insisten en que están construidas y que “toman un buen uso de toda la humanidad” y “mejoren la comprensión humana”. Reclamación antrópica, al menos resorter, que funciona de manera muy responsable. Pero su elección de diseño sugiere de manera diferente.
En lugar de cualquier persona con asistente de IA con AI, la investigación asociada con la inteligencia en el nivel del médico, algunos líderes de hoy han publicado antropomorfizados y sistemas que primero trabajan como amigos, amantes y terapeutas.
A Lire Aussi: más personas tienen en cuenta los amantes de los amantes y no debemos juzgar
Como investigadores y expertos en política e influencia de la IA, afirmamos que lo que se vende como una infraestructura científica recuerda cada vez más a la ciencia ficción que es una locura. Estos chatbots no están diseñados como una herramienta de detección, sino como compañeros diseñados para fomentar conexiones para-sociales y no recíprocas.
Humano / no hombre
El problema básico es el antropomorfismo: una proyección de los rasgos humanos en entidades no humanas. Como explicó el científico cognitivo Pascal Boyer, nuestras mentes interpretarán los signos mínimos en términos sociales. Lo que alguna vez ayudó a la supervivencia de nuestros antepasados ahora alienta y las empresas atrapan las mentes de sus usuarios.
Y las empresas afirman trabajar para equipar a cada persona con AI-Asistente. (Matheus bertelli / Pekels), CC
Cuando las máquinas hablan, gestos o simulan emoción, conducen los mismos instintos evolucionados para que, en lugar de reconocerlo como máquina, los usuarios lo ven como un hombre.
Sin embargo, y las empresas son empujadas, sistemas de construcción que explotan estos sesgos. La justificación es que esta interacción se siente perfecta e intuitiva. Sin embargo, las consecuencias de que los resultados pueden traer un diseño antropomórfico engañoso y deshonesto.
Consecuencias del diseño antropomórfico
En su forma leve, el diseño antropomórfico pide que responda como si hubiera otro hombre al otro lado del intercambio y podría ser simple “gracias”.
El papel crece más cuando el antropomorfismo hace que los usuarios crean que el sistema es consciente de: sentir dolor, afecto con el forzamiento o la comprensión de sus problemas. Aunque una nueva investigación revela que los criterios de conciencia se pueden cumplir en el futuro, las falsas atribuciones de conciencia y emociones han llevado a algunos resultados extremos, como los usuarios líderes para casarse con sus seguidores de IA.
Sin embargo, el diseño antropomórfico no siempre inspira el amor. Para otros, llevó a autolesiones o infligir a otros después de la formación de contribuciones poco saludables.
Algunos usuarios incluso se comportan como y podrían ser humillados o manipulados, y que son maltratados como si fuera un objetivo humano. Reconocerlo, Anthrope, la primera compañía en contratar a un profesional de protección, le dio su capacidad inusual de Claude para poner fin a tales conversaciones.
A través de este espectro, el diseño antropomórfico arrastra a los usuarios a usar las habilidades verdaderas de IA, obligándonos a enfrentar una pregunta de emergencia si el antropomorfismo representa una carpeta de diseño, o críticamente, una crisis.
AI destropomorfizante
La solución obvia parece despegar y los sistemas de su humanidad. El filósofo y científico cognitivo estadounidense Daniel Dennett afirmó que era la única esperanza que era la única esperanza de la humanidad. Pero tal solución está lejos de ser simple porque los antropomorfos de estos sistemas ya han llevado a formar vínculos emocionales profundos.
Cuando Operai reemplazó a GPT-4O con GPT-5 como predeterminado en ChatGGPT, algunos usuarios expresaron una verdadera angustia y lloraron sinceramente la pérdida de 4O. Sin embargo, lo que lloraron fue la pérdida de sus patrones de discurso anteriores y la forma en que usó el idioma.
Instalación pública en París por el artista de Rerer. (Mathias Reading / Nesplash), CC
Esto es lo que hace que el antropomorfismo sea un modelo de diseño tan problemático. Como resultado de las impresionantes habilidades lingüísticas de estos sistemas, los usuarios les atribuyen una mentalidad, y sus personajes proyectados se explotan aún más.
En lugar de ver una máquina para lo que es, impresionantemente competente, pero no humanos, los usuarios leen en sus formas de habla. Si bien el pionero de la IA Geoffrei Hinton advirtió que estos sistemas podrían ser peligrosamente competentes, algo mucho más delantero es el resultado del hecho de que estos sistemas están antropomorfilizados.
Leer y: El neurocientífico explica por qué es imposible que la IA “comprenda” el lenguaje
Deficiencia de diseño
Y las empresas pueden alojar cada vez más de acuerdo con los deseos de los amigos, ya sea la secuencia o el terapeuta.
El antropomorfismo es lo que hace que estos sistemas sean peligrosos hoy porque las personas los construyeron intencionalmente para imitar y explotar nuestros instintos. Si y la conciencia también es imposible, estas elecciones de diseño serán la causa del sufrimiento humano.
Pero en el mundo hipotético en el que AI llega a nuestra elección de obligarlo a la mente de la mente humana, por su propia practicidad y entretenimiento, se repite en los centros dados del mundo, puedo inventar un tipo y un alcance completamente nuevos de sufrimiento.
A Lire Aussi: todos los sistemas de IA más sofisticados pueden ejecutar empatía, pero su uso en la atención de salud mental pregunta problemas éticos
El verdadero peligro de la IA antropomórfica no es un futuro cercano o lejano donde las máquinas se hacen cargo. El peligro está aquí, y se esconde en la ilusión de que estos sistemas son como nosotros.
Este no es un modelo que se “beneficiará con toda la humanidad” (como promete OpenAi) o “nos ayude a comprender el universo” (el reclamo de Kaa de Elon Musk). En aras del bien social y científico, debemos resistir el diseño antropomórfico y comenzar el trabajo de la IA antropomorfizada.
Descubre más desde USA Today
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Spanish 