La IA se ve frenada por la escasez de chips potentes

La abrumadora demanda de IA también ha revelado los límites de la cadena de suministro global de chips potentes utilizados para desarrollar y poner en práctica modelos de IA.

La continua crisis de chips ha afectado a empresas grandes y pequeñas, incluidas algunas de las plataformas líderes de la industria de la inteligencia artificial, y es posible que no mejore significativamente durante al menos un año o más, según analistas de la industria.

La última señal de una escasez potencialmente prolongada de chips de IA apareció recientemente en el informe anual de Microsoft. El informe identifica, por primera vez, la disponibilidad de unidades de procesamiento gráfico (GPU) como un posible factor de riesgo para los inversores.

Las GPU son un tipo crítico de hardware que ayuda a ejecutar los innumerables cálculos involucrados en el entrenamiento y la implementación de algoritmos de inteligencia artificial.

"Continuamos identificando y evaluando oportunidades para expandir las ubicaciones de nuestros centros de datos y aumentar la capacidad de nuestros servidores para satisfacer las necesidades cambiantes de nuestros clientes, particularmente dada la creciente demanda de servicios de inteligencia artificial", escribió Microsoft. "Nuestros centros de datos dependen de la disponibilidad de terrenos permitidos y edificables, energía predecible, suministros de redes y servidores, incluidas unidades de procesamiento de gráficos ("GPU") y otros componentes".

El guiño de Microsoft a las GPU destaca cómo el acceso a la potencia informática constituye un cuello de botella crítico para la IA. El problema afecta directamente a las empresas que están creando herramientas y productos de inteligencia artificial, e indirectamente afecta a las empresas y a los usuarios finales que esperan aplicar la tecnología para sus propios fines.

El director ejecutivo de OpenAI, Sam Altman, al testificar ante el Senado de los EE. UU. en mayo, sugirió que la herramienta de chatbot de la compañía estaba luchando para mantenerse al día con la cantidad de solicitudes que le lanzaban los usuarios.

"Estamos tan escasos de GPU que cuantas menos personas utilicen la herramienta, mejor", afirmó Altman. Un portavoz de OpenAI le dijo más tarde a CNN que la compañía se compromete a garantizar suficiente capacidad para los usuarios.

El problema puede parecer una reminiscencia de la escasez de productos electrónicos de consumo populares durante la era de la pandemia, que hizo que los entusiastas de los juegos pagaran precios sustancialmente inflados por consolas de juegos y tarjetas gráficas para PC. En ese momento, los retrasos en la fabricación, la falta de mano de obra, las interrupciones en el transporte marítimo global y la persistente demanda competitiva de los mineros de criptomonedas contribuyeron a la escasa oferta de GPU, estimulando una industria artesanal de tecnología de seguimiento de acuerdos para ayudar a los consumidores comunes a encontrar lo que necesitaban.

Pero la escasez actual es muy diferente, dicen los expertos de la industria. En lugar de una interrupción del suministro de GPU centradas en el consumidor, la actual escasez refleja la repentina y explosiva demanda de GPU de gama ultraalta destinadas a trabajos avanzados como la capacitación y el uso de modelos de IA.

La producción de esas GPU está al máximo de su capacidad, pero la avalancha de demanda ha abrumado las pocas fuentes de suministro que existen.

Hay un "enorme sonido de succión" proveniente de empresas que representan la inigualable demanda de IA, dijo Raj Joshi, vicepresidente senior de Moody's Investors Service que sigue la industria de los chips.

"Nadie podría haber modelado qué tan rápido o cuánto aumentará esta demanda", dijo Joshi. "No creo que la industria estuviera preparada para este tipo de aumento de la demanda".

Una empresa en particular se beneficiará enormemente del auge de la IA: Nvidia, el fabricante de chips valorado en un billón de dólares que, según estimaciones de la industria, controla el 84% del mercado de GPU discretas. En una nota de investigación publicada en mayo, Joshi estimó que Nvidia experimentaría un crecimiento de ingresos "sin paralelo" en los próximos trimestres, y que los ingresos de su negocio de centros de datos superarían a los de sus rivales Intel y AMD combinados.

En su convocatoria de resultados de mayo, Nvidia dijo que había “adquirido una oferta sustancialmente mayor para la segunda mitad del año” para satisfacer la creciente demanda de chips de IA. La compañía declinó hacer comentarios el martes, citando su último período de tranquilidad previo a las ganancias.

Mientras tanto, AMD dijo el martes que espera revelar su respuesta a las GPU AI de Nvidia más cerca de fin de año.

"Existe un gran interés de los clientes en todas partes en nuestras soluciones de IA", dijo Lisa Su, directora ejecutiva de AMD, en la conferencia telefónica sobre resultados de la compañía. "Hay mucho más por hacer, pero yo diría que el progreso que hemos logrado ha sido significativo".

Para agravar el problema, los propios fabricantes de GPU no pueden obtener suficiente información clave de sus propios proveedores, dijo Sid Sheth, fundador y director ejecutivo de la startup de IA d-Matrix. La tecnología, conocida como intercalador de silicio, funciona combinando chips informáticos independientes con chips de memoria de gran ancho de banda y es necesaria para completar las GPU.

La administración Biden ha dado prioridad al aumento de la capacidad de fabricación de chips de EE. UU.; La aprobación de la Ley CHIPS el año pasado proporcionará miles de millones en financiación para la industria nacional de chips y para la investigación y el desarrollo de chips. Pero esas inversiones están dirigidas a una amplia gama de tecnologías de chips y no específicamente a impulsar la producción de GPU.

Se espera que la escasez de chips disminuya a medida que haya más fabricación en línea y los competidores de Nvidia también amplíen sus ofertas. Pero eso podría llevar entre dos y tres años, dicen algunos expertos de la industria.

Mientras tanto, la escasez podría obligar a las empresas a encontrar formas creativas de solucionar el problema. Las empresas que no pueden conseguir suficientes chips ahora tienen que ser más eficientes, afirmó Sheth.

"La necesidad es la madre de la invención, ¿verdad?" Dijo Sheth. "Así que ahora que la gente no tiene acceso a cantidades ilimitadas de potencia informática, están encontrando formas ingeniosas de utilizar todo lo que tienen de una manera mucho más inteligente".

Eso podría incluir, por ejemplo, el uso de modelos de IA más pequeños que pueden ser más fáciles y menos intensivos desde el punto de vista computacional de entrenar que un modelo masivo, o desarrollar nuevas formas de hacer cálculos que no dependan tanto de las CPU y GPU tradicionales, dijo Sheth.

"Net-net, esto va a ser una bendición disfrazada", añadió.