Senior Applied Research Engineer

• Sólido conocimiento de las arquitecturas modernas de ML y de los pipelines de entrenamiento a gran escala

• Experiencia ejecutando trabajos de entrenamiento distribuido en sistemas multi-GPU

• Habilidades avanzadas de perfilado y depuración en CPU, GPU, uso de memoria, latencia y comunicación entre GPUs

• Sólidas habilidades de programación en Python

• Experiencia con estrategias de escalado y paralelización de modelos, incluyendo paralelismo de tensores y de pipeline

• Familiaridad con NCCL, MPI y primitivas de comunicación distribuida

• Conocimiento de los componentes internos de PyTorch y Triton

• Experiencia de programación con C++ y CUDA

• Compensación competitiva con salario y acciones (equity)

• Cobertura sanitaria integral para ti y tus dependientes

• Permiso parental retribuido para todos los nuevos padres, incluyendo procesos de adopción y gestación subrogada

• Apoyo para la reubicación de empleados que se trasladen para unirse al equipo en una de nuestras oficinas

• Una cultura con propósito y de bajo ego que valora la diversidad de pensamiento, la responsabilidad (ownership) y la orientación a la acción

Fundamental es un laboratorio de investigación de IA que lidera el futuro de la toma de decisiones empresariales. Nuestro modelo insignia, NEXUS, es el Large Tabular Model (LTM) más potente del mundo, diseñado específicamente para los registros estructurados que contienen billones de dólares en valor empresarial. Con 275 millones de dólares en financiación de inversores líderes y la confianza de empresas Fortune 100, Fundamental está otorgando a las empresas el "Power to Predict".

En Fundamental, trabajarás en desafíos técnicos sin precedentes en el desarrollo de modelos fundacionales y construirás tecnología que transforme la forma en que las empresas más grandes del mundo toman decisiones. Esta es tu oportunidad de formar parte de una empresa que define una categoría desde sus inicios. Únete al equipo que está definiendo el futuro de la IA empresarial.

• Realizar el perfilado de ejecuciones de entrenamiento distribuido de extremo a extremo para identificar cuellos de botella en el cómputo, la memoria de la GPU y la comunicación entre GPUs

• Contribuir a las decisiones arquitectónicas que mejoren la eficiencia y la fiabilidad de los trabajos de entrenamiento a gran escala, incluyendo el desarrollo de kernels Triton/CUDA cuando sea necesario

• Diseñar e implementar técnicas de escalado de modelos, paralelización y optimización de memoria para cargas de trabajo de entrenamiento con tamaños de contexto muy grandes

• Colaborar estrechamente con investigadores de ML para diagnosticar ineficiencias arquitectónicas, asegurar que las nuevas ideas de investigación escalen eficientemente en la práctica y difundir el conocimiento interno sobre la eficiencia y optimización de modelos

• Impulsar la producción y el despliegue de nuestros modelos desde el lado de la investigación, incluyendo la mejora de la eficiencia de la inferencia mediante técnicas como la cuantización