Manuel Carro: “Es poco probable que la inteligencia artificial comprenda el universo”

Conocimos a Carrarro durante unos días después de que Musca de Elon subiera al escenario para presentar el griego 3, la última versión de su sistema artificial generativo, con este lema: “Nuestra misión es comprender el universo”.

Presentación de video de grabación de Grok 3.

Dos café por la mañana, siempre al mismo tiempo. La oficina luminosa en el edificio modernista en las afueras de Madrid, rodeada de Holm Oak Forest. Manuel Carro reemplaza el software IMDEA, Instituto de Investigación dedicado a la informática básica. Alrededor de un centenar de investigadores se desarrollan en plantas superiores en función del software que funciona y progresa: “El software es una columna dorsal de la sociedad actual”, dice el automóvil. No hay matemáticas sin código, sin software, sin IA, sin máquinas móviles o bancarias o lavadoras. No hay software sin un elon almizcle.

En este punto en el interés científico, social y político intensivo en el desarrollo de la inteligencia y el cálculo artificial, Manuel Caro sirve una entrevista sin evitar el tema de Europa en términos de los Estados Unidos. Y China en carrera tecnológica o guerra cibernética para controlar la información.

Inteligencia artificial, que Elon’s Musk o el que viene, ¿descubre el secreto del universo?

Bueno, tendríamos que comenzar a hablar sobre Elon Musk. Creo que una persona es digna de estudios, porque es muy excepcional en muchos sentidos. Uno está de acuerdo o no con sus métodos, pocas personas son, que solo hay una persona) que remaban a Tesla, Spacek y la compañía de remojo, Flameterover y, principalmente, PayPal, etc. Pero si alguien comienza a pensar en qué y el compromiso de Elon con IA, obviamente emite un mensaje a Google.

¿Google?

El lema inicial de Google era clasificar la información sobre el mundo. Elon Musk dice: “¡Qué poco eres ambicioso, Google!” No es un mundo, sino un universo. No se debe clasificar información, sino para comprenderla.

¿Pero explicará el universo?

Si usted es un científico o tecnólogo avanzado, verá el anuncio de Elono Musk y sabe que es solo marketing. Un gran problema de promesa, que crea expectativas que llegan al público en general, no se cumplen como un efecto secundario, generan desconfianza en la ciencia.

Puedo darle un ejemplo en relación con modelos de aprendizaje automático. En 1958, se desarrolló la primera red neuronal, fue muy simple. El New York Times publicó una columna en la que podía hablar y escribe en poco tiempo. Han pasado casi 70 años de ChatGGPT y otros modelos de idiomas que aún no se han comunicado como humanos y no saber si será algún día.

“Es muy importante desmistificar la ciencia. No tenemos palos mágicos.

La compañía, como Elon Musk, tiene que hacer excelentes promesas, pero también aquellos que ciencia, nunca sucederán, y nunca sabremos que ni siquiera los conocemos para no conocerlos. Es muy importante desmistificar la ciencia. No tenemos palos mágicos.

Con los desarrollos más grandes en una inteligencia de inteligencia de inteligencia artificial con varias armas geopolíticas y, ¿vivimos una guerra tecnológica?

Los países vecinos siempre han estado en la guerra en algún momento. Considere la historia de Europa. Todos miramos a todos por algún interés. Ahora los límites geográficos están nublados. Si estamos hablando del comercio global, también necesitamos discutir la guerra global. El poder no solo conquista el campo geográfico, sino también en el espacio económico. Y luego es un espacio cibernético porque hoy la información también es poder. No me refiero solo al software, me refiero a la información de control.

¿Por qué es el interés del software?

Hoy, muchas decisiones tomadas, o no, toman el programa. Y a veces no deberían complacerlos, pero la verdad es hacerse cargo del software.

“El software, los modelos que se implementan y las decisiones tomadas son esenciales en la” guerra cibernética “.

El famoso algoritmo de la red social es una forma muy difícil de decir que hay un programa que decide qué video te muestra. Existe un método de ventas financieras, comercio de alta frecuencia (HFT), en el que algunos programas dirigen algunas decisiones financieras, fondos de inversión, con el impacto en la Bolsa de Valores Mundiales y todo a través del software. Los pronósticos económicos en cierto sentido son modelos matemáticos que luego se ejecutan y proban en el software, en simulaciones. No solo la información que gestionó, sino también en el software, los modelos que implementan y se toman decisiones son esenciales en ese “ciber var”.

Robar otro código de la empresa o ingresar a los sistemas informáticos otra organización para modificarlos, para cambiar cómo funcionan, es parte de la guerra.

¿Es B la cara del código, sus riesgos?

Es algo que tiene toda la tecnología. Creo que casi todas las herramientas pueden ser imaginarias, lo que inicialmente se beneficiará de la duda y asumirá que es bueno, pero que se puede usar para fines, por ejemplo, contrariamente a la sociedad o al mal. Es el ejemplo básico de un cuchillo, ¿es un cuchillo bueno o malo?

¿La inteligencia artificial nos hace más vulnerables que nunca?

No diría que la inteligencia artificial hace que los sistemas más seguros a priori. Es cierto crear ciertas brechas de seguridad asequibles. En el software IMDEA, realizamos muchos movimientos de aceleración cibernética, y en general, lo que se llama seguridad informática, y también criptografía.

“La IA puede ser útil para organizar ataques, pero también para protegernos”.

Podríamos tomar inteligencia artificial, modelo de lenguaje, como un motor de búsqueda de esteroides, HyperDevelopnop para encontrar información. Entonces facilitaría la búsqueda de una “receta” para penetrar el sistema. Pero él no inventa nada que aún no esté allí. Al mismo tiempo, lo que hacemos es desarrollar con métodos de detección cuando el sistema es atacado, porque hay formas reconocibles. Es decir, puede ser útil orquestar el ataque, pero también para protegernos.

“Bien” y “malvado” todavía están en equilibrio?

Entre la policía y los ladrones siempre dan un paso adelante, porque la ley y la policía no tienen que seguir, porque hay leyes. Los delincuentes siempre están progresando.

¿Cómo trabaja para que el consumo de energía de las máquinas no termine el planeta?

Funciona en materiales, enfriamiento, y estamos en el desarrollo del programa de manera tan eficiente. Hasta ahora, los desarrolladores han tenido en la cabeza de las mentes que fueron lo más rápido posible. Pero no todo necesita rápido. Diseño de programas de consumo, que son menos posibles o, al menos, saben cuánto consumir y asegurar que no vaya de cierto nivel, es bastante complicado, pero ya se considera.

Y, sobre todo, trabajamos en la creación de un código que sea preciso, confiable, es decir, hacer las cosas bien, que lo que hace es lo que desea hacer o que puede tratar muchos datos con recursos limitados.

Que el programa es correcto en su funcionalidad, ¿eso significa que debe ser ético?

No significa ético exactamente. Y no estoy diciendo que la ética no debe tenerse en cuenta. Esto es algo transversal, no solo un problema informático. Es un problema preocupante que solo la informática no puede dar una solución.

¿En qué lugar coloca en temor al desarrollo tecnológico y al ciberptimismo?

Soy optimista. No experimento miedo a la tecnología, aunque algunos están preocupados. Tal vez la desconfianza es razonable. Y es interesante decir sobre el desarrollo tecnológico, porque el desarrollo tecnológico y la ciencia van juntos, pero no son exactamente lo mismo.

Hoy en día, los movimientos tecnológicos en áreas que están más cerca de mí, y etc., no están en manos de la universidad. No puedo competir con empresas creadas para las primeras por eso. No puedo competir con Openay o Deep Deep. Por varias razones, pero entre ellas, porque el objetivo final de la universidad y la ciencia es más para proporcionar conocimiento, conocimiento, comprensión, no productos finales, que es lo que hacen estas empresas.

¿Puede Europa enfrentarse en común para ser tecnológicamente independiente de los Estados Unidos, grandes tecnológicas y China?

Europa ha puesto diferentes planes sobre la mesa para tratar de lograr la independencia. Pero creo que se necesitan cambios en las leyes para permitir ciertos pasos básicos en este punto. Se enumeran muchos planes porque la legislación no permite que se realicen con la agilidad y flexibilidad necesarias.

“La independencia tecnológica es más preocupante que demasiado”.

Todos los científicos que hablas y todos los tecnólogos avanzados te dirán que una cosa necesaria en España mayor financiación y mayor flexibilidad. También es esencial informar claramente a la sociedad en la que queremos ir. Puede que no sea necesario tener la supremacía tecnológica, sino la independencia tecnológica, que funciona más preocupante que la superioridad.

Y no posponía a la sociedad

Sin duda porque probablemente la sociedad busca más seguridad.

Necesitamos ser claros antes de comenzar lo que están permitidos, y no son por eso que no lo son. Y no estoy tratando de separar la tecnología de la legislación, algo que no debería suceder. Pero lo que no debemos asumir que los tecnólogos pueden crear legislación, así como no le pide al gobierno que escriba programas.

Las empresas tienen prisa por tener productos disponibles para todos antes de que puedan existir legislación. Estas son tensiones, dilema no resuelto y no sé si alguien sabe cómo resolverlo.

Pero, Manuel, ¿duermes tranquilamente?

Oh sí, duermo tranquilamente.