Dans le domaine de l’intelligence artificielle, nous avons aussi des failles de sécurité. Le contournement de la fonction de récompenses est l’une d’entre elle. Dans cet article, nous allons voir son fonctionnement et les répercutions qu’elle peut avoir.
Catégorie : Sécurité
Problème de sécurité avec l’intelligence artificielle – Éviter les effets secondaires négatifs
Lorsque nous parlons de problème dans le domaine de l’intelligence artificielle, nous pensons tout de suite à des scénarios apocalyptiques qui pourraient détruire notre monde. Nous sommes encore loin de tel scénario, mais cela n’est pas une raison suffisante pour négliger cette question et ne pas la traiter. Nous pensons qu’elle est fondamentale afin de […]