PARTAGER

Les scientifiques à l’origine des IA essayent de les rendre bienveillantes et attachées aux humains, afin d’éviter toute catastrophe. Cependant, lors d’un test, certains chercheurs du MIT ont créé Norman (en référence au film Psychose, d’Alfred Hitchcock), une IA psychopathe. L’objectif premier de cette expérience était de montrer l’importance cruciale des données utilisées pour entraîner un algorithme.

Une IA éduquée aux images violentes

Afin de voir l’impact d’une éducation aux images violentes, les chercheurs ont entraîné Norman devant ce genre de visuels. En effet, son réseau neuronal a été développé, dès sa création, avec des images de morts violentes ou horribles. Ces dernières provenaient de groupes divers, présents sur Reddit.

Source : OpenClipart-Vectors – Pixabay / Une des images recolorée du fameux test de la tache d’encre.

Les réactions de Norman ont ensuite été testées grâce au test de Rorschach (dit le test de la tache d’encre). Les résultats obtenus ont été comparés avec ceux d’autres IA qui avaient été éduquées avec des images plus neutres (animaux, personnes…).

De la violence dans les taches

Bilan des tests : Norman voit des choses beaucoup plus violentes dans les taches que les autres IA. Sur l’une d’elle, quand une IA neutre voit un bouquet de fleur, lui voit un homme en train d’être tué. Les chercheurs ont partagé une liste d’exemples et les résultats sont inquiétants pour Norman, qui détecte de la violence partout.

Source : Comfreak – Pixabay

Cet exercice avait pour but de démontrer l’importance de l’attention à apporter aux images utilisées pour entraîner un algorithme. Des réactions négatives et violentes peuvent en découler. À supposer que l’IA devienne plus intelligente et autonome que les humains dans les années à venir, en rendre une violente par inadvertance deviendrait très inquiétant.

Les internautes sont invités, via ce lien, à aider Norman à se réparer en partageant leurs observations via le test de Rorschach.