Les robots se mettent a mentir pour sauver leur peau

Sacrebleu! L’Age des Machines est pour bientôt: un groupe de scientifiques suisses a mis au point des robots capables d’apprendre à leurs congénères.

Bon, d’accord, ils ne jouent pas encore au poker, et communiquent entre eux par d’anodines lumières clignotantes, au lieu d’utiliser des lasers capables de détruire des êtres humains.

Mais le concept reste inquiétant, d’autant plus que les boites de conserve se sont mises à mentir de leur propre initiative:
En savoir plus …



L’équipe du Laboratoire des Systèmes Intelligents de l’Institut Fédéral de Technologie suisse a été la première surprise de constater les faits. Au départ, leur expérience consistait simplement à faire travailler des petites machines apprenantes en groupe pour chercher de la “nourriture” tout en évitant les “poisons”.

Imaginez la surprise des chercheurs lorsqu’une génération de robots a appris à mentir à propos du poison, envoyant leurs concurrents vers la nourriture empoisonnée.

Les petits robots à roulettes disposaient d’un système de 30 “gènes” pour déterminer leur comportement et leur adaptation à l’environnement. Les sources de nourriture rechargaient les batteries des robots, tandis que les poisons les déchargeaient. En répétant l’expérience sur 50 générations, les chercheurs espéraient identifier les meilleurs.

Trois colonies de robots de la cinquantième génération ont appris à signaler aux autres robots de leur groupe quand ils trouvaient de la nourriture ou du poison. Mais la quatrième colonie mentait, signalant comme nourriture le poison qu’ils avaient trouvé, pour mieux se diriger tranquillement vers la nourriture tandis que les autres agonisaient.

Ce roboticide de sang-froid fait froid dans le dos. Mais pour être tout à fait complet et sauver l’honneur des robots, il faut signaler aussi l’existence de “robots héros” qui ont signalé le danger pour mieux sauver les autres.

Est-ce que cette technologie sera un jour transposée à des robots domestiques? J’espère bien que non, car je ne me vois pas devoir discuter sans cesse avec un Roomba qui prétend avoir aspiré derrière le canapé alors qu’il reste encore un énorme tas de poussière. [Discover Magazine]

Le danger se précise: les robots savent désormais mentir | Gizmodo

Les robots se mettent a mentir pour sauver leur peau