Au Canada, un garçon a confié à un chatbot la recherche de l’itinéraire pour gravir une montagne et s’est retrouvé bloqué sur un parcours d’alpinistes. Ce n’est pas un cas isolé : après d’autres épisodes aux États-Unis, les secours demandent de ne pas planifier les randonnées avec l’intelligence artificielle
Samedi 3 octobre une équipe de secours a récupéré par l’hélicoptère un randonneur de 16 ans, bloqué sur une portion de paroi du Crown Mountain, en Colombie-Britannique, Canada.
Le jeune homme avait planifié l’ascension avec Claude, un modèle d’intelligence artificielle, et avait suivi l’itinéraire suggéré.
Mais l’itinéraire dépassait largement ses capacités.
Du sentier normal à un canal d’escalade
Pour reconstituer les faits, Paul Markey, responsable des recherches de North Shore Rescue (NSR), l’équipe qui a mené le sauvetage, explique ce qui s’est passé.
Sur le Crown Mountain, il existe une voie d’ascension pour les randonneurs qui ne requiert pas de technique d’alpinisme.
Cependant, l’intelligence artificielle a indiqué au jeune homme une autre route : le Crown Gully, un canal classé Class 4 dans l’échelle américaine, c’est-à-dire un parcours quasi alpin et destiné à des randonneurs très expérimentés.
Au lieu d’atteindre le sommet, le jeune randonneur s’est retrouvé bloqué à la base de la paroi finale de la Widowmaker, une voie d’escalade de grade 5.9 qui mène au sommet de la montagne.
Un terrain d’escalade, non pas de randonnée. À ce moment-là, il a appelé les secours.
« Les choses auraient pu tourner au pire très rapidement »
Lorsque les sauveteurs l’ont atteint, le jeune homme était très effrayé et craignait pour sa vie, ont raconté les sauveteurs à la presse locale.
« Cela l’a mis dans une situation qui dépassait ses capacités, donc les choses auraient pu mal tourner très rapidement », a expliqué le responsable de l’équipe de secours.
Il y a aussi eu un élément de chance.
Peu avant l’appel, l’équipe venait de terminer sur le Crown Mountain un exercice sur les procédures de débarquement et d’embarquement d’hélicoptère en vol stationnaire.
Le sauvetage: des techniciens débarqués au-dessus de la paroi
Pour récupérer le randonneur, North Shore Rescue a envoyé sur place un hélicoptère équipé d’une équipe de secours, mais celui-ci a rencontré quelques difficultés.
Comme l’indiquent les sauveteurs dans un communiqué : « Le garçon se trouvait trop près de la paroi verticale et il était impossible pour l’hélicoptère de s’approcher. Les techniciens ont donc été déposés à quelques mètres de la position du garçon ».
« Une fois sur le terrain, l’équipage a sécurisé le jeune et l’a déplacé vers un endroit adapté au sauvetage ».
Le précédent du Mount Shasta
L’épisode canadien survient quelques semaines après un autre sauvetage lié aux informations trompeuses fournies par l’intelligence artificielle aux randonneurs.
En septembre, sur le Mount Shasta, en Californie, trois randonneurs avaient utilisé Gemini de Google pour planifier un itinéraire vers le sommet.
Le groupe a atteint la cime mais, puis, suivant les indications de l’IA, s’est égaré et a atteint une crête connue pour sa dangerosité.
Ils ont été secourus et ramenés sains et saufs le lendemain matin.
Ce n’était pas le premier souci de ce type dans la région. Nick Meyers, chef des rangers chargés d’alpinisme sur le Mount Shasta, a confié à Business Insider que les gardes avaient trouvé une femme campant illégalement à côté des panneaux qui interdisaient le camping.
Lorsqu’on le lui a signalé, la femme a répondu que c’était ChatGPT qui lui avait dit qu’elle pouvait planter la tente là.
Dans un autre cas, un homme avait utilisé l’intelligence artificielle pour générer la carte d’une randonnée qu’il prévoyait de faire.
En l’examinant, les gardes ont découvert que plusieurs éléments géographiques étaient placés au mauvais endroit. Meyers l’a qualifiée de « terrible, totalement erronée ».
Cosa raccomandano i soccorritori
Dopo il recupero di sabato, Markey ha invitato gli escursionisti a non usare l’intelligenza artificiale pour planifier les parcours. Le conseil est de s’en remettre à des outils cartographiques fiables.
L’un des plus fiables et riches en itinéraires est Wikiloc, qui permet de planifier et de suivre les parcours en sécurité.
Celui qui obtient néanmoins un itinéraire via un outil d’intelligence artificielle, a ajouté le responsable du NSR, devrait le revoir attentivement pour s’assurer qu’il est réellement praticable.
Le fil qui relie ces épisodes est le même : une indication générée par un logiciel acceptée comme valable sans être recoupée avec d’autres sources.
Et c’est précisément sur cette étape, la vérification, que insistent les sauveteurs.
