Ces chercheurs en sécurité ont caché un malware dans le réseau neuronal d’une intelligence artificielle

Des chercheurs ont réussi à insérer du code malveillant dans un réseau neuronal convolutif tout en préservant l’efficacité de ce dernier.

C’est un bel exemple de stéganographie, c’est-à-dire l’art de cacher des choses de manière ouverte. Des chercheurs chinois ont montré que l’on pouvait insérer du code malveillant dans les nœuds d’un réseau neuronal sans que cela affecte de manière notable l’efficacité du système d’intelligence artificielle et, surtout, sans que cela soit détectable.

Moins de 1 % de perte

C’est ce qu’ils ont fait, à titre d’exemple, avec AlexNet, un réseau neuronal convolutif utilisé pour la reconnaissance d’images. Ils ont entraîné le réseau de manière classique, ajouté du code malveillant au niveau de certaines couches neuronales, puis testé son efficacité.
Ils ont ensuite adapté l’intégration du code pour minimiser la perte d’efficacité. Résultat : ils ont réussi à insérer 36 Mo de code malveillant dans un modèle qui fait 178 Mo tout en limitant le déclin de l’efficacité à 1 %. Ce qui est donc plutôt un bon ratio.

Lire la suite sur 01net