La verdad sobre la guerra de los chips de IA: el costo de la potencia computacional es la clave, ¿quién podrá reír al final?

Todo el mundo está observando la lucha por los chips GPU, pero los expertos de la industria saben que el verdadero cuello de botella no está en los chips, sino en el Potencia computacional.

La situación es clara: Las GPU de Nvidia son ahora las líderes, AMD y Broadcom están ayudando a las empresas a desarrollar sus propios chips. Pero a medida que la IA pasa de la fase de entrenamiento (costo único) a la fase de inferencia (costo continuo), quien pueda reducir el consumo de energía y los costos, ganará.

Las ventajas de Alphabet están aquí: más de diez años de investigación y desarrollo de TPU (procesador de tensor), ya en su séptima generación, optimizado específicamente para su marco TensorFlow y Google Cloud. La clave es: los TPU consumen mucha menos energía que los GPU. Con el crecimiento explosivo de la demanda de inferencia, esta diferencia de consumo de energía traerá una gran ventaja de costos.

Una jugada más dura: Alphabet no vende TPU, solo lo ofrece como un beneficio de Google Cloud. De esta manera, los usuarios que deseen utilizar TPU tendrán que subir a Google Cloud, y Alphabet ganará dinero de dos maneras: vendiendo Potencia computacional y utilizando su propio chip para reducir costos en su modelo Gemini.

Comparado con OpenAI y Perplexity que todavía están quemando dinero con GPU, la integración vertical de Alphabet (chip + plataforma en la nube + modelo grande + herramientas de IA + red de fibra óptica) ya es una supermuralla. Hasta Nvidia se ha apresurado: se dice que después de que OpenAI comenzó a probar TPU, Nvidia rápidamente invirtió en OpenAI para detener la hemorragia.

Línea de fondo: Esta no es una carrera de chips, es una carrera por ver quién tiene el sistema más económico. Desde esta perspectiva, la posición de Alphabet es bastante sólida.