Un chercheur du centre d'excellence sur l'intelligence artificielle de F-Secure a réalisé différentes expériences pour voir comment des techniques de manipulations pouvaient affecter les moteurs de recommandations sur les réseaux sociaux.
Les moteurs de recommandations s'appuyant sur des éléments d'intelligence artificielle sont usités par de nombreux services en ligne : moteurs de recherche, sites d'achats en lignes, sites de streaming... Andy Patel, un chercheur chez F-Secure a réalisé différentes expériences pour connaître les limites de ces moteurs et s'il était possible de les manipuler.
Il a ainsi collecté des données sur Twitter et les a exploitées pour entraîner un modèle par des filtres collaboratifs, un modèle d'apprentissage machine utilisé pour coder les similarités entre les utilisateurs et le contenu à partir d'interactions antérieures. Ces modèles sont présents dans les systèmes de recommandations. Il a ensuite ré-entraîné le modèle avec des contenus additionnels comme les retweets sur des comptes sélectionnés pour voir comment les recommandations avaient changé.
Andy Patel a ainsi constaté qu'un faible nombre de retweets était suffisant pour manipuler le moteur de recommandation. Il en a déduit que ce type de moteur pouvait déjà être sensible à ce type de détournement et ainsi mettre en valeur des comptes par un faible nombre de retweets. Vous pouvez retrouver le détail de cette expérience ici ou plus d'informations là.
Andrew Patel, chercheur au centre d'excellence en intelligence artificielle de F-Secure.