La energía de consumo de IA en los lugares de globo en la iluminación reflector en la eficiencia de los datos

La inteligencia artificial está creciendo rápidamente, por lo que el número de computadoras que es fuerza. Detrás de la escena, este rápido crecimiento ejerce una gran presión sobre los centros de datos que impulsan los modelos de IA. Estos objetos usan más energía que nunca.

Y los modelos se vuelven más grandes y más complejos. Los sistemas de vanguardia de hoy en día tienen miles de millones de parámetros, valores numéricos resultantes de datos de capacitación y cruzar miles de chips de computadora. Para continuar en progreso, las empresas respondieron agregando más hardware, más chips, más memoria y redes más potentes. Este enfoque para una fuerza aproximada ayudó a dar grandes saltos, pero también creó un nuevo desafío: los centros de datos se convierten en gigantes hambrientos de energía.

Algunas compañías técnicas reaccionan en busca de hacerse cargo de los centros de energía portátiles con combustibles fósiles e instalaciones nucleares. Y la demanda de energía también alentó los esfuerzos para hacer chips de computadora más efectivos.

Soy ingeniero informático y profesor de Georgia Tech especializado en cálculo de alto rendimiento. Veo la segunda vez para combatir el apetito energético de la IA: hacer que los datos de datos sean más conscientes y eficientes recursos.

Energía y calor

Modernia y los centros de datos pueden usar lo más posible como un pueblo pequeño. Y eso no es solo la calculación que come energía. La memoria y los sistemas de enfriamiento también son los principales asociados. Además de aumentar los modelos, necesitan más almacenamiento y acceso más rápido a los datos, lo que crea más calor. Además, a medida que las chips se vuelven más potentes, la eliminación de calor se convierte en un desafío central.

Los centros de datos albergan miles de computadoras interconectadas. Alberto Ortega / Europa Press a través de Getty Images

El enfriamiento no es solo un detalle técnico; Es la parte principal de la ley sobre energía. El enfriamiento tradicional se realiza con sistemas de aire acondicionado especializados que eliminan el calor de las rejillas de servidor. Nuevos métodos, como la ayuda de enfriamiento líquido, pero también requieren una planificación cuidadosa y gestión del agua. Sin soluciones más inteligentes, requisitos y costos de energía y puede volverse insostenible.

Incluso con este equipo avanzado, muchos centros de datos no funcionan de manera eficiente. Esto se debe a que diferentes partes del sistema no siempre se hablan entre sí. Por ejemplo, el software de programación puede no saber que el chip se está sobrecalentando o que la conexión de red está obstruida. Como resultado, algunos servidores se quedan inactivos mientras otros luchan por estar en progreso. Esta falta de coordinación puede conducir al consumo de energía y recursos insuficientes.

Un camino más inteligente a seguir

Abordar este desafío requiere una reconsideración sobre cómo diseñar y administrar sistemas que admitan IA. Esto significa que se está moviendo fuera de la escala del grupo y para infraestructuras especializadas más inteligentes.

Aquí hay tres ideas clave:

Variabilidad de la dirección de hardware. No todos los chips son iguales. Incluso dentro de la misma generación, los chips difieren en qué tan rápido actúan y cuánto calor puede tolerar, lo que lleva a la heterogeneidad en el rendimiento y la eficiencia energética. Los sistemas informáticos en los centros de datos deben reconocer las diferencias entre los chips en el rendimiento, la tolerancia al calor y el uso de energía y ajustarse en consecuencia.

Adaptarse a los cambios en las condiciones. Y la carga de trabajo son diferentes con el tiempo. Por ejemplo, los puntos térmicos en los chips pueden iniciar los chips para retener la red que los centros pueden dibujar, y las explosiones de datos pueden crear congestión en la red que los conecta. Los sistemas deben estar diseñados para reaccionar en cosas en tiempo real, como temperatura, disponibilidad de energía y tráfico de datos.

Cómo enfriar el centro de datos.

Rompe los silos. Los ingenieros que diseñan chips, software y centros de datos deben trabajar juntos. Cuando estos equipos colaboran, pueden encontrar nuevas formas de ahorrar energía y mejorar el rendimiento. Con ese fin, mis colegas, estudiantes y yo en Georgia Tech y Makerspace, datos del Centro de IA de alto rendimiento, exploran estos desafíos prácticamente. Trabajamos a través de la disciplina, desde hardware hasta software en sistemas de energía, para construcción y pruebas y sistemas que son efectivos, escalables y sostenibles.

Escala con inteligencia

La IA tiene el potencial de transformar la ciencia, la medicina, la educación y más, pero corre el riesgo de la limitación del rendimiento en el rendimiento, la energía y los costos. La IA futura depende no solo de mejores modelos, sino también de una mejor infraestructura.

Para estar creciendo en una forma de usar la empresa, creo que es importante cambiar con una fuerza de escala para escalar con inteligencia.