Investigador/Ingeniero de Seguridad de IA

• Experiencia demostrada trabajando en IA Segura (ataques de inyección de prompts y barreras de seguridad/guardrails)
• Sólida trayectoria de publicaciones en seguridad de IA, seguridad de ML o áreas estrechamente relacionadas
• Experiencia demostrada en el lanzamiento de productos y funciones en un entorno de ritmo rápido
• Sólidas habilidades de programación en Python y familiaridad con frameworks de ML como PyTorch o JAX
• Experiencia en el entrenamiento, ajuste fino y evaluación de modelos de lenguaje extensos (LLM)
• Profundo conocimiento de los modelos de lenguaje extensos y los agentes web, cómo funcionan y cómo se entrenan
• Experiencia aplicando principios de seguridad (por ejemplo, control de flujo de información, control de acceso/mínimo privilegio)
• Éxito demostrado aportando claridad y responsabilidad a problemas técnicos ambiguos
• Se prefiere altamente un doctorado (Ph.D.) en informática, pero podemos considerar algunas excepciones con experiencia en la industria

• Conocimiento de sistemas de IA (pipelines, evaluación de seguridad, etc.)
• Proyectos de código abierto sobre seguridad/privacidad
• Experiencia con computación confidencial y protocolos ZKP/SMPC
• Doctorado (Ph.D.) en informática de una institución de primer nivel
• Una sólida trayectoria de publicaciones en sistemas, rendimiento o ML de primer nivel
• La experiencia laboral en la industria es deseable

• Posibilidad de trabajar en una startup internacional emocionante y bien financiada con sede en San Francisco
• Tecnología de vanguardia, que te permitirá trabajar con herramientas y soluciones de software de última generación
• Compensación competitiva y mucho espacio para el crecimiento personal
• Gran exposición internacional y ambiente de equipo

Buscamos contratar en Londres, pero consideraríamos a un candidato excepcional en el resto de Europa.

Buscamos un investigador/ingeniero de investigación para ayudar a mitigar los riesgos de seguridad que conlleva la creación de sistemas de IA, especialmente agentes web y chatbots basados en LLM. En este puesto, diseñarás e implementarás arquitecturas seguras por diseño (secure-by-design), auditarás nuestro agente web basado en LLM (https://brave.com/blog/ai-browsing/) y nuestro chatbot, y ayudarás a definir el rumbo de Brave sobre cómo identificamos, medimos y reducimos el riesgo de seguridad en todos nuestros productos de IA.

• Diseñar y ejecutar evaluaciones adversarias para descubrir modos de fallo en agentes web y chatbots basados en LLM (por ejemplo, inyección de prompts, abuso de herramientas, exfiltración de datos)
• Analizar el comportamiento del modelo (incluyendo los pensamientos internos) para comprender y pronosticar riesgos de seguridad en modelos de vanguardia (frontier models)
• Desarrollar y prototipar técnicas de entrenamiento y ajuste fino (fine-tuning) centradas en la seguridad
• Aumentar los agentes web con principios de seguridad, incluyendo el control de flujo de información, el control de privilegios y la seguridad contextual
• Colaborar con ingenieros e investigadores (de privacidad, ML y criptografía) para traducir los hallazgos en cambios de producto, pruebas y mejoras de seguridad medibles
• Ayudar a definir una estrategia y política de seguridad con visión de futuro para la creación y el lanzamiento responsable de agentes web, abogando por la protección del usuario

Remoto o híbrido - preferiblemente en Londres, pero se acepta Norteamérica, UE o Reino Unido