Draftloop

← All remote jobs

Ingénieur(e) IA en déploiement avancé// Forward Deployed Engineer, AI Trust and Reliability

Hopper

Open to people in Canada

“Montréal - Remote; Québec - Remote”

The location the employer gives for this job.

Checked an hour ago on Hopper’s own careers page. Not open to you after all? .

About the job

From Hopper’s job posting.

À propos du poste

Hopper propulse les voyages de certaines des plus grandes banques, compagnies aériennes et entreprises de voyage au monde. Nos agents d'IA agissent au nom de leurs clients : ils consultent les comptes, modifient et annulent des réservations, et traitent les paiements et les points de fidélité. En tant qu'ingénieur(e) déployé(e) en clientèle (Forward Deployed Engineer), Confiance et fiabilité de l'IA, vous veillez à ce que l'IA soit sûre, sécurisée et prête pour la production dans chaque déploiement chez un partenaire. Vous faites partie d'une petite équipe déployée auprès des partenaires et vous êtes la personne responsable des garde-fous, des tests adverses, de la préparation au lancement et des examens de sécurité avec les partenaires. Vous faites le pont entre les équipes de sécurité, de risque et de TI de nos partenaires et les équipes d'ingénierie et de sécurité de Hopper.

À quoi ressemblerait votre quotidien?

Adapter les garde-fous aux politiques, à la réglementation, à la tolérance au risque et aux langues de chaque partenaire, en définissant ce que l'IA peut faire, ce qu'elle doit refuser et à quel moment elle transfère la conversation à un humain

Concevoir des mesures de protection pour les données et les actions sensibles, notamment le masquage des données, la vérification de l'identité et le consentement du client avant toute modification d'une réservation ou d'un paiement

Calibrer les garde-fous de façon à bloquer les risques réels sans nuire aux clients légitimes

Soumettre chaque déploiement à des tests d'équipe rouge (red teaming) avant le lancement et après tout changement important, afin de détecter les contournements de sécurité (jailbreaks), les injections de requêtes (prompt injection), les fuites de données, les actions non autorisées et l'ingénierie sociale

Créer et maintenir des suites de tests adverses automatisés qui s'exécutent en continu, dans chacune des langues utilisées par un partenaire

Transformer les constats en correctifs avec l'équipe d'ingénierie, puis en tests de non-régression pour que les problèmes ne reviennent pas

Diriger les questionnaires de sécurité, les examens d'architecture et les examens des risques liés à l'IA ou aux modèles pour les partenaires, et répondre aux constats de leurs tests d'intrusion

Documenter la façon dont notre IA gère les données, les accès et les décisions, dans des termes acceptables pour un organisme de réglementation ou un auditeur

Assumer la responsabilité de la liste de vérification de mise en service de chaque déploiement, qui couvre les tests fonctionnels, de non-régression, de sécurité et de charge, les critères d'approbation et les plans de retour arrière

Étendre nos tests automatisés à l'ensemble des produits, afin que chaque changement de modèle, d'invite ou de configuration soit testé avant d'atteindre les clients

Coordonner les tests d'acceptation par les utilisateurs avec les partenaires et régler les problèmes avant le lancement

Diriger le volet sécurité et confidentialité de l'accès aux données des partenaires pour nos équipes déployées en clientèle, y compris les ententes de partage de données, les examens de sécurité des TI et l'accès sécurisé aux systèmes des partenaires, y compris ceux hébergés sur place

Définir la manière dont les données des partenaires sont traitées, stockées, isolées et supprimées dans l'ensemble des déploiements et de l'entraînement des modèles, et s'assurer que ces règles sont respectées

Surveiller la qualité, la fiabilité, les abus et les défaillances de sécurité des déploiements en production, et mettre en place des tableaux de bord et des alertes avec l'équipe d'ingénierie

Diriger l'intervention lorsqu'un incident de sécurité survient, en communiquant clairement avec le partenaire tout au long du processus

Collaborer étroitement avec les équipes de Recherche, de Produit et de sécurité, pour que les nouveaux modèles et les nouvelles fonctionnalités soient lancés avec la sécurité intégrée dès la conception

Transformer chaque déploiement en garde-fous, tests et documentation réutilisables, pour que le prochain partenaire avance plus rapidement

Le ou la candidat(e) idéal(e)

Possède au moins 5 ans d'expérience en ingénierie de la sécurité, en sécurité des applications, en sécurité de l'IA, en ingénierie de la qualité ou en fiabilité des sites (SRE), avec un travail concret visant à maintenir des systèmes de production sécurisés et fonctionnels

A de l'expérience pratique des tests d'équipe rouge sur des applications ou des agents reposant sur des grands modèles de langage (LLM), notamment les contournements de sécurité, l'injection de requêtes, l'exfiltration de données et l'abus d'outils et de permissions, et s'en est servi pour corriger de vraies lacunes

A conçu et calibré des garde-fous ou des mesures de sécurité pour un produit reposant sur un LLM, et peut démontrer comment ils ont arrêté un risque réel sans nuire à l'expérience client

A représenté un fournisseur lors d'examens de sécurité d'entreprise, notamment des questionnaires, des examens d'architecture et la correction de failles révélées par des tests d'intrusion, et a obtenu l'approbation des équipes de sécurité des partenaires

A pris en charge les tests et la qualité des versions d'un système de production, des suites de tests automatisés et des critères de validation des versions jusqu'aux tests de charge et au retour arrière, et a déjà retardé un lancement parce que le système n'était pas prêt

Maîtrise Python et sait créer des outils et des banques d'essais automatisés qui rendent les tests adverses et de non-régression continus

A de l'expérience en sécurisation ou en exploitation de systèmes pour des entreprises de voyage ou de services financiers, comme des compagnies aériennes, des hôtels, des agences de voyage en ligne, des banques ou des entreprises de paiement, et comprend les risques de fraude, de prise de contrôle de comptes et de paiement qui leur sont propres

Sait expliquer clairement les risques aux ingénieurs, aux équipes de sécurité des partenaires et aux dirigeants non techniques, et n'hésite pas à s'opposer lorsqu'un déploiement n'est pas prêt

Est disposé(e) à voyager pour les lancements et les examens

Atou t : travail en sécurité ou en gestion des risques dans des secteurs réglementés comme la banque, les paiements ou l'aviation, ou examens de gouvernance de l'IA et de risque de modèle dans une institution financière

Atout : connaissance des cadres de référence en matière de sécurité et de risques liés à l'IA, comme le Top 10 de l'OWASP pour les applications LLM, SOC 2, ISO 27001, PCI DSS et le NIST AI RMF

Atout : travail en protection des renseignements personnels et en gouvernance des données, comme les ententes de partage de données, l'accès sécurisé aux systèmes des clients, ou le RGPD et les régimes semblables (p. ex. la Loi 25 au Québec)

Atout : expérience en observabilité et en gestion des incidents, par exemple avec Datadog, la garde et les analyses post-incident

Atout : tests de sécurité multilingues, ou sécurité de l'IA vocale et conversationnelle

Atout : expérience en ingénierie de la sécurité déployée auprès des clients ou en contact direct avec eux

Avantages sociaux

Une entreprise en démarrage bien financée et éprouvée, avec de grandes ambitions, un salaire compétitif et les avantages d’un régime d’actions pré-IPO

Hopper couvre 100 % des primes du régime d’assurance collective

Hopper offre une couverture vie, invalidité de courte durée et invalidité de longue durée

Un compte de dépenses santé qui couvre les frais médicaux et dentaires admissibles

Tous les employés et leurs personnes à charge ont accès aux services de télémédecine de Dialogue, en tout temps, où que vous soyez

Tous les employés ont accès à un régime REER avec retenues automatiques avant impôt à chaque paie

Renseignez-vous sur notre congé parental très généreux, bien au-delà des normes de l’industrie

Vacances illimitées

Allocation de voyage Carrot Cash

Accès à un espace de cotravail sur demande via FlexDesk, et une allocation pour le télétravail

Une culture entrepreneuriale où repousser les limites et prendre des risques fait partie du quotidien

Communication ouverte avec la direction et les leaders de l’entreprise

Des équipes petites et dynamiques, un impact considérable

À propos d’Hopper

Chez Hopper, nous bâtissons la principale plateforme technologique de voyage au monde, et nous y parvenons en résolvant de vrais problèmes pour de vrais voyageurs partout sur la planète. Nos plateformes de réservation grand public Hopper et HTS (Hopper Technology Solutions), notre division B2B, travaillent ensemble pour offrir aux voyageurs ce que l’industrie n’a jamais proposé de façon fiable : transparence, flexibilité et économies réelles sur chaque voyage. Nous combinons d’énormes quantités de données et l’IA à des produits fintech exclusifs pour y arriver, non pas un simple moteur de réservation de plus, mais une façon fondamentalement meilleure de planifier et de vivre le voyage, pour nos clients comme pour nos partenaires. Nous sommes la preuve que ce qui est meilleur pour le client et ce qui est meilleur pour l’entreprise peuvent ne faire qu’un

Et nous continuons de croître rapidement! L’application Hopper a été téléchargée plus de 120 millions de fois, et 70 % de nos utilisateurs font partie de la génération Z et de la génération Y, les voyageurs de la prochaine génération. Aujourd’hui, notre plus grande occasion consiste à propulser la fintech du voyage, le commerce et la fidélisation pour certaines des plus grandes marques de l’industrie. Notre premier partenariat HTS, avec Capital One, a permis de lancer un portail de voyage dédié aux titulaires de cartes d’une grande marque financière, et nous avons depuis étendu notre présence auprès de certains des plus grands noms du voyage et du secteur bancaire, dont Air Canada, Uber, la Banque Royale du Canada (RBC) et Nubank, en propulsant aussi bien une simple intégration fintech qu’un portail de fidélisation voyage complet de bout en bout.

Voilà notre trajectoire : nous avons commencé comme une petite application perturbatrice dans l’univers du voyage, et nous sommes aujourd’hui le moteur qui propulse le fonctionnement des technologies de voyage.

Concrètement, voici ce que cela représente :

Des milliards de dollars de voyages et de produits fintech de voyage transitent par Hopper et HTS chaque année.

Nos produits fintech, dont Annulation pour tout motif et Assistance en cas de perturbation pour tout motif, affichent une satisfaction client exceptionnellement élevée, parce que les conditions sont claires et les résolutions instantanées, sans poser de questions.

Près de 30 % des clients de l’application ajoutent un produit fintech à leur réservation, et ces clients sont 1,6 fois plus susceptibles de réserver de nouveau avec nous.

HTS génère maintenant plus de 90 % des activités, preuve de la rapidité avec laquelle le B2B a pris de l’ampleur.

Grâce à HTS, tout fournisseur de services de voyage (compagnies aériennes, hôtels, banques, agences de voyages) peut intégrer les solutions fintech, de commerce et d’IA de l’entreprise à ses propres canaux, qu’il s’agisse d’une seule intégration ou d’un portail de voyage complet de bout en bout.

Prenez votre envol avec nous!

#LI-Remote

Bien que ce poste utilise des systèmes automatisés pour évaluer l’adéquation des candidatures, chaque décision déterminante est prise par un membre humain de notre équipe. Conformément à la réglementation locale, vous avez le droit de comprendre les principaux facteurs utilisés dans cette évaluation, de demander une correction de vos données, ou de demander une révision humaine de toute décision automatisée. Pour exercer ces droits, veuillez communiquer avec recruiting@hopper.com.

------------------------------------------------------------------------------------------------------

About the Role

Hopper powers travel for some of the world's largest banks, airlines and travel companies, and our AI agents act on their customers' behalf by looking up accounts, changing and cancelling bookings, and handling payments and loyalty points. As the Forward Deployed Engineer, AI Trust and Reliability, you make sure that AI is safe, secure and ready for production in every partner deployment.

That’s the first part of a longer posting. The rest is on Hopper’s own page, which Apply opens for you.

More from Hopper

  1. Forward Deployed Engineer, AI Trust and Reliability

    HopperMid-levelEngineeringUS$360,000 to US$425,000 a year

    Location: “Canada - Remote; Toronto - Remote” and 2 more places

    Open to people in Canada

    Posted 3 days ago

  2. Forward Deployed Engineer, AI Trust and Reliability

    HopperMid-levelEngineeringUS$360,000 to US$425,000 a year

    Location: “US - Remote; Miami - Remote” and 5 more places

    Open to people in United States

    Posted 3 days ago

  3. L'ingénieur(e) en déploiement avancé// Forward Deployed Enginee Applied ML and Data

    HopperMid-levelData and AICA$360,000 to CA$425,000 a year

    Location: “Montréal - Remote; Québec - Remote”

    Open to people in Canada

    Posted 3 days ago

  4. Forward Deployed Engineer, Applied ML and Data

    HopperMid-levelEngineeringUS$360,000 to US$425,000 a year

    Location: “Canada - Remote; Toronto - Remote” and 2 more places

    Open to people in Canada

    Posted 3 days ago

  5. Forward Deployed Engineer, Applied ML and Data

    HopperMid-levelEngineeringUS$360,000 to US$425,000 a year

    Location: “US - Remote; Miami - Remote” and 5 more places

    Open to people in United States

    Posted 3 days ago

What’s wrong with this job?