En Suisse, un Bug Bounty de l’IA promet 10’000 francs aux gagnants
La première édition de l’AI Safety Prize, concours présenté comme un Bug Bounty de l’IA, cherche des candidats. Jusqu'à 15’000 de prix seront remis à l’occasion des prochains Swiss Cyber Security Days.
Etudiants, chercheurs ou professionnels de l’IT et de la cybersécurité… Toutes et tous sont invités à participer à la première édition de l’AI Safety Prize, un Bug Bounty de l’IA mis en place par le think tank Pour Demain et les organisateurs des Swiss Cyber Security Days. Les candidatures sont possibles jusqu'à fin octobre.
«Inspiré des programmes Bug Bounty du secteur de la cybersécurité, le prix vise à récompenser les contributions qui identifient et signalent les failles de sécurité dans les systèmes d'IA», précisent les organisateurs. Les prix (jusqu'à 15’000 francs au total et 10’000 francs pour les gagnants) seront remis à l’occasion des Swiss Cyber Security Days, rendez-vous désormais planifié les 20 et 21 février 2024.
L’objectif déclaré de l’AI Safety Prize est d'attirer l'attention de l'économie, de la science et de la politique sur le thème de la sécurité de l'IA, de combler les lacunes concrètes en matière de sécurité et de créer le cadre réglementaire nécessaire à un déploiement sûr.
Les candidats peuvent concourir dans deux catégories: vulnérabilités en matière de sécurité dans les grands modèles de langage tels que ChatGPT; lacunes en matière de sécurité dans les modèles d'IA à source ouverte déjà déployés dans des infrastructures critiques en Suisse. Toutes les informations utiles sont publiées sur le site officiel du concours: AI Safety Prize.
