Le Cyber Startup Challenge a eu lieu pour la cinquième fois cette année. En mai 2024, le Cyber-Defence Campus a lancé un appel à solutions innovantes dans le domaine de la « sécurité de l’intelligence artificielle ». Les startups ont présenté leurs solutions à un jury composé d’expertes et d’experts du Département fédéral de la défense, de la protection de la population et des sports (DDPS). Cette année, c’est Patronus AI qui a convaincu.
En 2025, la startup aura l’occasion de faire la démonstration de sa solution au DDPS dans le cadre d’une étude de faisabilité en conditions réelles.

Sécurité de l’intelligence artificielle

Patronus AI est une société spécialisée dans l’évaluation automatisée de grands modèles de langage (Large Language Models, LLM) ainsi que dans les mesures de protection et les solutions de sécurité. Cette plateforme permet aux entreprises et aux autorités d’évaluer et de comparer les performances des LLM dans des scénarios réels. Elle offre des fonctionnalités complètes pour la génération de cas de test à grande échelle, la surveillance des hallucinations et la prévention d’autres comportements inattendus et dangereux.

L’utilisation de Patronus AI aide les clientes et clients à gagner du temps dans l’évaluation manuelle, à accélérer le développement et la confiance dans les applications d’IA générative du prototype à la production, et à limiter les risques négatifs d’hallucinations et d’injections de prompts. De plus, la plateforme fournit des analyses approfondies et des mécanismes de feedback précis basés sur les dernières recherches en intelligence artificielle (IA).

Le Cyber-Defence Campus d’armasuisse Sciences et technologies organisera l’année prochaine un nouveau Cyber Startup Challenge afin de continuer à promouvoir les technologies et les idées innovantes.