En realidad, esto no es una noticia de última hora; he tenido la intención de escribir sobre ello durante semanas, desde que lo descubrí en el blog de NVIDIA. También se hace eco de lo que me dijo Danny Shapiro, vicepresidente de automoción de NVIDIA, en una entrevista de podcast en febrero. La historia corta es que las GPU de NVIDIA alimentan las supercomputadoras que Tesla está utilizando para entrenar sus redes neuronales para una conducción cada vez mejor autónoma.
En el Blog, Shapiro señaló que Andrej Karpathy, director senior de inteligencia artificial de Tesla, dio una presentación el 20 de junio sobre el trabajo de conducción autónoma de Tesla. Shapiro señala que, en la presentación, Karpathy “dio a conocer la supercomputadora interna que el fabricante de automóviles está utilizando para entrenar redes neuronales profundas para el piloto automático y las capacidades de conducción autónoma”. Karpathy dice que posiblemente sea la quinta supercomputadora más poderosa del mundo.
NVIDIA aprovechó la oportunidad para señalar que impulsa esa supercomputadora número 5 (y no me sorprendería si tuviera sus GPU dentro de algunas de las otras 4 supercomputadoras). “El clúster utiliza 720 nodos de 8x GPU NVIDIA A100 Tensor Core (5.760 GPU en total) para lograr un rendimiento de 1,8 exaflops líder en la industria “.
Imagen cortesía de Tesla
Si sigue de cerca a los probadores Tesla FSD Beta, puede ver que se ha logrado una enorme cantidad de progreso en el firmware FSD de Tesla, y el progreso proviene cada vez más de Tesla AI enseñándose a sí mismo; bueno, presumiblemente ese es el caso, pero escucharemos. más sobre esto más tarde hoy durante la presentación del Día de la IA de Tesla. Mientras tanto, aquí hay algunas palabras más de NVIDIA sobre por qué Tesla está usando su hardware en su superdojo:
“Las GPU NVIDIA A100 ofrecen aceleración en todas las escalas para impulsar los centros de datos de mayor rendimiento del mundo. Impulsada por la arquitectura NVIDIA Ampere, la GPU A100 proporciona un rendimiento hasta 20 veces mayor que la generación anterior y se puede dividir en siete instancias de GPU para ajustarse dinámicamente a las demandas cambiantes “.
Shapiro resume además cómo Tesla AI está trabajando para mejorar la conducción autónoma en los autos Tesla, y no creo que pueda hacer un mejor trabajo que él, así que aquí hay más sobre eso:
“El desarrollo cíclico de Tesla comienza en el automóvil. Una red neuronal profunda que funciona en ‘modo sombra’ percibe y hace predicciones silenciosamente mientras el automóvil está conduciendo sin controlarlo realmente.
“Estas predicciones se registran y se registra cualquier error o identificación errónea. Luego, los ingenieros de Tesla usan estas instancias para crear un conjunto de datos de entrenamiento de escenarios difíciles y diversos para refinar el DNN.
“El resultado es una colección de aproximadamente 1 millón de clips de 10 segundos grabados a 36 fotogramas por segundo, con un total de 1,5 petabytes de datos. Luego, el DNN se ejecuta a través de estos escenarios en el centro de datos una y otra vez hasta que funciona sin errores. Finalmente, se envía de regreso al vehículo y comienza el proceso nuevamente.
“Karpathy dijo que entrenar un DNN de esta manera y con una cantidad tan grande de datos requiere ‘una gran cantidad de cómputo’, lo que llevó a Tesla a construir e implementar la supercomputadora de la generación actual con GPU A100 de alto rendimiento.
Puede obtener más información de la presentación de Karpathy anterior, pero un punto culminante final es que unos 20 ingenieros trabajan juntos en cada equipo de red neuronal. Para obtener más información sobre el equipo del piloto automático de Tesla en general, según una conversación que tuve con Technoking Elon Musk el año pasado, consulte este artículo: “La innovación del piloto automático de Tesla proviene del equipo de ~ 300 ingenieros Jedi – Entrevista con Elon Musk”.
Y aquí está la charla que tuve con Danny Shapiro a principios de este año:
.
Y, sin más enrollarme, nos vemos en una nueva noticia. ¡Hasta la próxima!