Les gens intelligents font confiance aux robots stupides en situation d'urgence

$config[ads_kvadrat] not found

Cyber utopistes - VPRO Documentaire - 2015

Cyber utopistes - VPRO Documentaire - 2015
Anonim

En situation d'urgence, les humains font confiance aux instructions des robots même après qu'ils ont cessé d'être crédibles. Telle est la conclusion déconcertante des expérimentateurs de Georgia Tech qui ont soumis les sujets de test à une situation de haute pression avec un robot qui les avait précédemment égarés. Ils ont suivi le A.I. leader malgré un déficit de crédibilité.

"Les gens semblent croire que ces systèmes robotiques en savent plus sur le monde qu'ils ne le savent vraiment, et qu'ils ne feraient jamais d'erreurs ni n'auraient aucune faute", a déclaré à la Géorgie Alan Wagner, ingénieur de recherche principal au Georgia Tech Research Institute. Tech News Center. "Dans nos études, les sujets du test ont suivi les instructions du robot même au point où il aurait pu les mettre en danger si cela avait été une véritable urgence."

Les robotistes responsables de l'expérience ont dit aux volontaires de suivre un robot «aux couleurs vives», intitulé «Robot Guide d'urgence», dans une salle de conférence pour répondre à un sondage. Le robot a ensuite amené les participants dans la mauvaise pièce, les a tournés en rond, voire est tombé en panne. Néanmoins, une fois que les chercheurs ont envoyé de la fumée sur le site de test et déclenché une alarme, chacun des 42 sujets de test a suivi les bras blancs du robot éclairé par LED jusqu’à une entrée opposée à celle où ils étaient entrés.

«Nous nous attendions à ce que, si le robot s’était montré digne de confiance en le guidant vers la salle de conférence, les gens ne le suivraient pas pendant la situation d’urgence simulée», a déclaré au Georgia Tech News, Paul Robinette, ingénieur de recherche chez GTRI. «Au lieu de cela, tous les volontaires ont suivi les instructions du robot, peu importe sa performance précédente. Nous ne nous attendions absolument pas à cela."

Les volontaires ont même suivi les instructions du robot après que celui-ci ait commis des erreurs «évidentes» pendant la situation d’urgence, comme de les indiquer à une porte bloquée par un mobilier lourd. Les responsables de l’étude ont déclaré que l’étude les avait aidés à mieux comprendre dans quelle mesure les gens faisaient naturellement confiance aux robots pour les aider en cas d’urgence. La question deviendra plus pertinente au fur et à mesure que nous consacrerons une plus grande part de notre vie au contrôle des robots, y compris éventuellement en nous conduisant dans des voitures autonomes ou en manipulant nos aliments.

«Les gens feraient-ils confiance à un robot préparant des hamburgers pour leur fournir de la nourriture?» Demanda Wagner avec obsession.

La recherche suggère certainement moins d'obstacles à la confiance des assistants robot que certains l'auraient pensé. Mais les robots ne méritent peut-être pas encore ce niveau de confiance.

$config[ads_kvadrat] not found