Software Engineer, Systems ML - Frameworks / Compilers / Kernels | Ingénieur logiciel, Systèmes ML, cadres/Compilateurs/Noyaux

Software Engineer, Systems ML - Frameworks / Compilers / Kernels | Ingénieur logiciel, Systèmes ML, cadres/Compilateurs/Noyaux
Location pin icon
Toronto, ON
In this role, you will be a member of the MTIA (Meta Training & Inference Accelerator) Software team and part of the bigger industry-leading PyTorch AI framework organization. MTIA Software Team has been developing a comprehensive AI Compiler strategy that delivers a highly flexible platform to train & serve new DL/ML model architectures, combined with auto-tuned high performance for production environments across specialized hardware architectures. The compiler stack, DL graph optimizations, and kernel authoring for specific hardware, directly impacts performance and deployment velocity of both AI training and inference platforms at Meta. You will be working on one of the core areas such as PyTorch framework components, AI compiler and runtime, high-performance kernels and tooling to accelerate machine learning workloads on the current & next generation of MTIA AI hardware platforms. You will work closely with AI researchers to analyze deep learning models and lower them efficiently on MTIA hardware. You will also partner with hardware design teams to develop compiler optimizations for high performance. You will apply software development best practices to design features, optimization, and performance tuning techniques. You will gain valuable experience in developing machine learning compiler frameworks and will help in driving next generation hardware software codesign for AI domain specific problems. ------- Dans ce rôle, vous serez membre de l'équipe logicielle MTIA et ferez partie de la plus grande organisation du cadre d'IA PyTorch, à la pointe de l'industrie. L'équipe logicielle de MTIA a développé une stratégie complète de compilateur d'IA qui offre une plateforme très flexible pour former et fournir de nouvelles architectures de modèles DL/ML, combinée à des performances élevées autorégulées pour les environnements de production sur des architectures matérielles spécialisées. La pile de compilateurs, les optimisations de graphes DL et la création de noyaux pour un matériel spécifique ont un impact direct sur les performances et la vitesse de développement des plates-formes d'apprentissage et d'inférence d'IA chez Meta. Vous travaillerez sur l'un des domaines clés tels que les composants du cadre PyTorch, le compilateur et le moteur d'exécution de l'IA, les noyaux de haute performance et l'outillage pour améliorer les charges de travail d'apprentissage automatique sur les plates-formes matérielles d'IA actuelles et de la prochaine génération de MTIA. Vous travaillerez en étroite collaboration avec les chercheurs en IA pour analyser les modèles d'apprentissage profond et les réduire efficacement sur le matériel MTIA. Vous vous associerez également aux équipes de conception de matériel pour développer des optimisations de compilateurs pour obtenir des performances élevées. Vous appliquerez les meilleures pratiques de développement logiciel pour concevoir des fonctionnalités, des techniques d'optimisation et de réglage des performances. Vous bénéficierez d'une expérience précieuse dans le développement de compilateurs d'apprentissage automatique et contribuerez à la conception de logiciels matériels de nouvelle génération pour les problèmes spécifiques du domaine d'IA.
Software Engineer, Systems ML - Frameworks / Compilers / Kernels | Ingénieur logiciel, Systèmes ML, cadres/Compilateurs/Noyaux Responsibilities
  • Development of SW stack with one of the following core focus areas: AI frameworks, compiler stack, high performance kernel development and acceleration onto next generation of hardware architectures. | DĂ©veloppement d'une pile de logiciels dans l'un des domaines fondamentaux suivants : Cadre d'IA, pile de compilateurs, dĂ©veloppement de noyaux Ă  haute performance et intĂ©gration dans les architectures matĂ©rielles de la prochaine gĂ©nĂ©ration.
  • Contribute to the development of the industry-leading PyTorch AI framework core compilers to support new state of the art inference and training AI hardware accelerators and optimize their performance. | Contribuer au dĂ©veloppement des compilateurs de base du cadre d'IA PyTorch, leader sur le marchĂ©, afin de prendre en charge les nouveaux intĂ©grateurs matĂ©riels d'IA de pointe en matière d'infĂ©rence, d'entraĂ®nement et d'optimiser leurs performances.
  • Analyze deep learning networks, develop & implement compiler optimization algorithms. | Analyse des rĂ©seaux d'apprentissage profond, dĂ©veloppement et mise en Ĺ“uvre d'algorithmes d'optimisation des compilateurs.
  • Collaborating with AI research scientists to accelerate the next generation of deep learning models such as Recommendation systems, Generative AI, Computer vision, NLP etc. | Collaborer avec des chercheurs en IA pour amĂ©liorer la prochaine gĂ©nĂ©ration de modèles d'apprentissage profond tels que les systèmes de recommandation, l'IA gĂ©nĂ©rative, la vision par ordinateur, le traitement automatique des langues, etc.
  • Performance tuning and optimizations of deep learning framework & software components. | Optimisation des performances du cadre d'apprentissage profond et des composants logiciels.
Minimum Qualifications
  • Proven C/C++ programming skills | CompĂ©tences avĂ©rĂ©es en programmation C/C++
  • Experience in AI framework development or accelerating deep learning models on hardware architectures. | ExpĂ©rience dans le dĂ©veloppement des cadres d'IA ou dans l'amĂ©lioration des modèles d'apprentissage profond sur des architectures matĂ©rielles.
  • Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience. | Licence en informatique, en gĂ©nie informatique, dans un domaine technique pertinent, ou expĂ©rience pratique Ă©quivalente.
Preferred Qualifications
  • A Bachelor's degree in Computer Science, Computer Engineering, relevant technical field and 7+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a Master's degree in Computer Science, Computer Engineering, relevant technical field and 4+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a PhD in Computer Science Computer Engineering, or relevant technical field and 3+ years of experience in AI framework development or accelerating deep learning models on hardware architectures. | Un baccalaurĂ©at en informatique, en ingĂ©nierie informatique ou dans un domaine technique pertinent et plus de sept ans d'expĂ©rience dans le dĂ©veloppement de cadres d'IA ou l'amĂ©lioration des modèles d'apprentissage profond sur des architectures matĂ©rielles OU une maĂ®trise en informatique, en ingĂ©nierie informatique ou dans un domaine technique pertinent et plus de quatre ans d'expĂ©rience dans le dĂ©veloppement de cadres d'IA ou l'amĂ©lioration des modèles d'apprentissage profond sur des architectures matĂ©rielles OU un doctorat en informatique, en ingĂ©nierie informatique ou dans un domaine technique pertinent et plus de trois ans d'expĂ©rience dans le dĂ©veloppement de cadres d'IA ou l'amĂ©lioration des modèles d'apprentissage profond sur des architectures matĂ©rielles.
  • Knowledge of GPU, CPU, or AI hardware accelerator architectures. | Connaissance des architectures d'accĂ©lĂ©rateurs matĂ©riels de type processeur graphique, unitĂ© centrale ou IA.
  • Experience working with frameworks like PyTorch, Caffe2, TensorFlow, ONNX, TensorRT | ExpĂ©rience de travail avec des cadres comme PyTorch, Caffe2, TensorFlow, ONNX, TensorRT
  • OR AI high performance kernels: Experience with CUDA programming, OpenMP / OpenCL programming or AI hardware accelerator kernel programming. Experience in accelerating libraries on AI hardware, similar to cuBLAS, cuDNN, CUTLASS, HIP, ROCm etc. | Noyaux Ă  haute performance pour l'IA : ExpĂ©rience dans la programmation CUDA, OpenMP/OpenCL ou dans la programmation du noyau d'un accĂ©lĂ©rateur de matĂ©riel d'IA. ExpĂ©rience dans l'accĂ©lĂ©ration de bibliothèques sur du matĂ©riel d'IA, comme cuBLAS, cuDNN, CUTLASS, HIP, ROCm, etc.
  • OR AI Compiler: Experience with compiler optimizations such as loop optimizations, vectorization, parallelization, hardware specific optimizations such as SIMD. Experience with MLIR, LLVM, IREE, XLA, TVM, Halide is a plus. | OU compilateur d'IA : ExpĂ©rience dans l`optimisation des compilateurs tels que l`optimisation des boucles, la vectorisation, la parallĂ©lisation, l`optimisation spĂ©cifique du matĂ©riel tel que SIMD. L'expĂ©rience avec MLIR, LLVM, IREE, XLA, TVM, Halide est un plus.
  • OR AI frameworks: Experience in developing training and inference framework components. Experience in system performance optimizations such as runtime analysis of latency, memory bandwidth, I/O access, compute utilization analysis and associated tooling development. | OU cadres d'IA : ExpĂ©rience dans le dĂ©veloppement de composants de formation et du cadre d'infĂ©rence. ExpĂ©rience dans l'optimisation des performances systèmes, telle que l'analyse de la latence, de la largeur de bande de la mĂ©moire, de l'accès aux E/S, de l'analyse de l'utilisation du calcul et du dĂ©veloppement d'outils associĂ©s.
For those who live in or expect to work from California if hired for this position, please click here for additional information.
Locations
About Meta
Meta builds technologies that help people connect, find communities, and grow businesses. When Facebook launched in 2004, it changed the way people connect. Apps like Messenger, Instagram and WhatsApp further empowered billions around the world. Now, Meta is moving beyond 2D screens toward immersive experiences like augmented and virtual reality to help build the next evolution in social technology. People who choose to build their careers by building with us at Meta help shape a future that will take us beyond what digital connection makes possible today—beyond the constraints of screens, the limits of distance, and even the rules of physics.

Meta développe des technologies qui aident les gens à se connecter, à trouver des communautés et à développer des entreprises. Lorsque Facebook a été lancé en 2004, il a changé la façon dont les gens se connectent. Des applications comme Messenger, Instagram et WhatsApp ont permis à des milliards de personnes dans le monde de s'émanciper. Aujourd'hui, Meta dépasse les écrans 2D pour se tourner vers des expériences immersives comme la réalité augmentée et virtuelle, afin de contribuer à la prochaine évolution de la technologie sociale. Les personnes qui choisissent de bâtir leur carrière en œuvrant avec nous chez Meta contribuent à façonner un avenir qui nous mènera au-delà de ce que la connexion numérique rend possible aujourd'hui — au-delà des contraintes des écrans, des limites de la distance, et même des règles de la physique.

CA$133,000/year to CA$176,000/year + bonus + equity + benefits

Individual compensation is determined by skills, qualifications, experience, and location. Compensation details listed in this posting reflect the base hourly rate, monthly rate, or annual salary only, and do not include bonus, equity or sales incentives, if applicable. In addition to base compensation, Meta offers benefits. Learn more about benefits at Meta.


Equal Employment Opportunity and Affirmative Action
Meta is proud to be an Equal Employment Opportunity and Affirmative Action employer. We do not discriminate based upon race, religion, color, national origin, sex (including pregnancy, childbirth, reproductive health decisions, or related medical conditions), sexual orientation, gender identity, gender expression, age, status as a protected veteran, status as an individual with a disability, genetic information, political views or activity, or other applicable legally protected characteristics. You may view our Equal Employment Opportunity notice here.

Meta is committed to providing reasonable support (called accommodations) in our recruiting processes for candidates with disabilities, long term conditions, mental health conditions or sincerely held religious beliefs, or who are neurodivergent or require pregnancy-related support. If you need support, please reach out to accommodations-ext@fb.com.

Meta s'engage à fournir un soutien raisonnable (appelé accommodements) à travers nos processus de recrutement pour les candidats handicapés, souffrant de difficultés de longue durée, de problèmes de santé mentale ou neurodivergents et aux candidats ayant des croyances religieuses sincères ou nécessitant un soutien lié à la grossesse. Si vous avez besoin d'aide, veuillez contacter accommodations-ext@fb.com.
Meta is proud to be an Equal Employment Opportunity and Affirmative Action employer. We do not discriminate based upon race, religion, color, national origin, sex (including pregnancy, childbirth, reproductive health decisions, or related medical conditions), sexual orientation, gender identity, gender expression, age, status as a protected veteran, status as an individual with a disability, genetic information, political views or activity, or other applicable legally protected characteristics. You may view our Equal Employment Opportunity notice here. We also consider qualified applicants with criminal histories, consistent with applicable federal, state and local law. We may use your information to maintain the safety and security of Meta, its employees, and others as required or permitted by law. You may view Meta Pay Transparency Policy, Equal Employment Opportunity is the Law notice, and Notice to Applicants for Employment and Employees by clicking on their corresponding links. Additionally, Meta participates in the E-Verify program in certain locations, as required by law.

Meta is committed to providing reasonable accommodations for qualified individuals with disabilities and disabled veterans in our job application procedures. If you need assistance or an accommodation due to a disability, you may contact us at accommodations-ext@fb.com.
Let us know you're interested.
Share your resume or LinkedIn profile with our recruiting team and create personalized job alerts.