C’est ainsi qu’ils ont réussi à tromper une Intelligence Artificielle militaire

Beaucoup de gens sont surpris que Google n’ait pas encore lancé sa propre Intelligence Artificielle qui concurrence ChatGPT ; Bien qu’il en existe déjà un en développement, baptisé Sparrow, ses créateurs ont justifié le retard par “précaution” nécessaire à ces projets.

[Intentan crear un videojuego con Inteligencia Artificial, y el resultado da que pensar]

Et c’est que, bien que l’Intelligence Artificielle puisse offrir des résultats incroyables, il n’en est pas moins vrai que lorsqu’elle échoue, elle est aussi incroyable mais dans un autre sens. Lorsque nous créons des images par IA, par exemple, il est facile de trouver des visages déformés ou des mains avec trop de doigts, des échecs qu’un auteur humain ne manquerait jamais.

Tromper une IA militaire

C’est quelque chose qui arrive avec toutes les IA. Fondamentalement, une Intelligence Artificielle sait imiter le comportement humain, mais elle ne sait pas pourquoi. Vous savez ce que vous devez faire, mais vous ne comprenez pas la motivation ou l’objectif final ; C’est pourquoi ils sont bons pour effectuer des tâches spécifiques, mais très mauvais lorsque les paramètres changent et qu’ils sont obligés de s’adapter.

Nous avons vu l’exemple le plus drôle de cette limitation cette semaine, grâce à Shashank Joshi de L’économistequi a publié Sur Twitter Une page du nouveau livre de l’expert militaire Paul Scharre détaillant un exercice militaire utilisant l’intelligence artificielle.

L’objectif des manœuvres était d’utiliser l’expérience d’un groupe de Marines américains pour améliorer la détection des intrus par un robot doté de caméras et d’Intelligence Artificielle. Au départ, c’était un exercice un peu ennuyeux, puisque les soldats n’avaient qu’à marcher près du robot pour qu’il « apprenne » ce qu’il devait détecter.

Lorsqu’ils eurent terminé, les caméras du robot furent capables de détecter la présence de soldats et satisfaits du résultat, les ingénieurs décidèrent de changer le « jeu » : maintenant les Marines devaient battre l’IA. Le défi était simple : si l’un des huit soldats pouvait s’approcher du robot et le toucher sans être détecté, il gagnerait.

Les créateurs de l’IA semblaient certains de leur victoire, mais leur défaite était embarrassante : aucun des huit soldats n’a été détectéet le mieux, c’est qu’ils ont vite compris quelle était la faiblesse du robot : qu’il cherchait des gens, et seulement des gens.

Les tactiques qu’ils ont utilisées pour approcher le robot semblent plus typique des dessins animés que les soldats professionnels. L’un a réussi à s’approcher du robot en faisant des culbutes sur la distance de 300 mètres qui les séparait. Un autre a pris les branches d’un arbre et les a attachées à son corps, et a pu s’approcher du robot comme s’il s’agissait d’un arbre qui marche.

Peut-être le plus ridicule était le cas de deux Marines qui mettaient simplement des cartons l’un sur l’autre ; bien qu’ils aient ri tout le long du trajet, le robot ne les a pas détectés. C’est exactement la même tactique que Solid Snake a utilisée dans le jeu Metal Gear Solid, et qui sait si c’était l’inspiration que les soldats ont eue.

De cette façon, les professionnels ont révélé le grand problème de l’IA : qu’elle cherchait des figures humaines. N’importe quel garde humain les aurait attrapés instantanément, car il comprend que ce sont toujours des intrus, même s’ils se comportent étrangement; mais une IA ne comprenait pas cela, et comme cela ne collait pas avec l’idée qu’il avait apprise d’« intrus », il les laissa passer.

Cela peut vous intéresser

Suivez les sujets qui vous intéressent