Personal de Investigación, LLMs

Deepgram busca actualmente un investigador experimentado que haya trabajado extensamente con Large Language Models (LLMs) y posea un profundo conocimiento de la arquitectura transformer para unirse a nuestro Research Staff. Como miembro del Research Staff, esta persona deberá tener una amplia experiencia trabajando en los aspectos técnicos complejos de los LLMs, tales como la curación de datos, el entrenamiento distribuido a gran escala, la optimización de la arquitectura transformer y el entrenamiento mediante Reinforcement Learning (RL).

• Le apasiona la IA y le entusiasma trabajar en investigación de LLM de vanguardia

• Tiene interés en producir y aplicar nueva ciencia para ayudarnos a desarrollar y desplegar modelos de lenguaje extensos

• Disfruta construyendo desde cero y le encanta crear sistemas nuevos.

• Tiene grandes habilidades comunicativas y es capaz de traducir conceptos complejos de forma clara

• Es altamente analítico y disfruta profundizando en análisis detallados cuando es necesario

• Realicen sesiones de brainstorming y colaboren con otros miembros del Research Staff para definir nuevas iniciativas de investigación en LLM

• Realicen un estudio exhaustivo de la literatura, evaluando, clasificando y destilando los métodos actuales

• Diseñen y lleven a cabo programas experimentales para LLMs

• Impulsen con éxito tareas de entrenamiento de transformers (LLM) en infraestructuras de computación distribuida y desplieguen nuevos modelos en producción

• Documenten y presenten resultados y conceptos técnicos complejos de forma clara para un público objetivo

• Se mantengan al día con los últimos avances en deep learning y LLMs, con especial atención a sus implicaciones y aplicaciones dentro de nuestros productos

• Le apasiona la IA y le entusiasma trabajar en investigación de LLM de vanguardia

• Tiene interés en producir y aplicar nueva ciencia para ayudarnos a desarrollar y desplegar modelos de lenguaje extensos

• Disfruta construyendo desde cero y le encanta crear sistemas nuevos.

• Tiene grandes habilidades comunicativas y es capaz de traducir conceptos complejos de forma clara

• Es altamente analítico y disfruta profundizando en análisis detallados cuando es necesario

La voz es la modalidad más natural para la interacción humana con las máquinas. Sin embargo, los paradigmas actuales de modelado de secuencias basados en el escalado conjunto de modelos y datos no pueden ofrecer una IA de voz capaz de una interacción humana universal. Los retos radican en problemas fundamentales de datos planteados por el audio: los datos de audio del mundo real son escasos y enormemente diversos, abarcando un vasto espacio de voces, estilos de habla y condiciones acústicas. Incluso si se tuvieran acceso a miles de millones de horas de audio, su alta dimensionalidad inherente crea costes computacionales y de almacenamiento que hacen que el entrenamiento y el despliegue sean prohibitivamente caros a escala mundial. Creemos que se necesitan paradigmas completamente nuevos para la IA de audio con el fin de superar estos retos y hacer que la interacción por voz sea accesible para todos.

Buscamos investigadores que:

• Vean los problemas "sin resolver" como oportunidades para ser pioneros en enfoques completamente nuevos

• Sean capaces de identificar el experimento crítico único que validará o descartará una idea en cuestión de días, no de meses

• Tengan la visión para escalar pruebas de concepto exitosas 100 veces

• Estén obsesionados con el uso de la IA para automatizar y amplificar su propio impacto

Si estas expectativas, en lugar de intimidarle, le motivan —si ya está pensando en cinco ideas para probar mientras lee esto—, podría ser el investigador que necesitamos. Este puesto exige obsesión por los problemas, creatividad en el enfoque y un impulso implacable hacia soluciones elegantes y escalables. Los retos técnicos son inmensos, pero el impacto potencial es transformador.

Buscamos investigadores que:

• Cuenta con más de 3 años de experiencia en investigación aplicada de deep learning, con una sólida comprensión de las aplicaciones e implicaciones de diferentes tipos de redes neuronales, arquitecturas y mecanismos de pérdida

• Tiene experiencia demostrada trabajando con large language models (LLMs), incluyendo experiencia en curación de datos, entrenamiento distribuido a gran escala, optimización de la arquitectura transformer y RL Learning

• Tiene una sólida experiencia programando en Python y trabajando con Pytorch

• Tiene experiencia con diversas arquitecturas transformer (auto-regresivas, sequence-to-sequence, etc.)

• Tiene experiencia con computación distribuida y procesamiento de datos a gran escala

• Tiene experiencia previa realizando programas experimentales y utilizando los resultados para optimizar modelos

• Posee un profundo conocimiento de los transformers, los causal LMs y su arquitectura subyacente

• Tiene conocimientos de esquemas de entrenamiento distribuido e inferencia distribuida para LLMs

• Está familiarizado con los pipelines de entrenamiento y etiquetado de RLHF

• Tiene conocimientos actualizados sobre las técnicas y desarrollos recientes de LLM

• Ha publicado artículos en investigación de Deep Learning, particularmente relacionados con LLMs y redes neuronales profundas

Aviso: Somos conscientes de que hay personas que se hacen pasar por reclutadores de Deepgram. Toda la comunicación legítima de contratación de Deepgram proviene de una dirección de correo electrónico @deepgram.com. Si ha recibido un mensaje que afirma ser de Deepgram, por favor, reenvíelo a careers@deepgram.com.