La DARPA a décidé de bien comprendre A.I.

Le Pentagone veut savoir ce qui motive l'intelligence artificielle. L’Agence de projets de recherche avancée pour la défense (DARPA) a annoncé jeudi qu’elle était extrêmement intéressée par l’explication d’AI explicable. projets, connus sous le nom de XAI. La nouvelle est un départ brutal pour une agence qui avait précédemment donné la priorité à A.I. l’efficacité, au lieu de comprendre réellement comment les systèmes arrivent à prendre des décisions.

La DARPA cherche à soutenir A.I. projets qui expliquent clairement à l'utilisateur final pourquoi quelque chose s'est passé. Par exemple, la DARPA veut que les analystes du renseignement comprennent les raisons pour lesquelles les recommandations sont leurs A.I. les envoie ont été choisis. Si un analyste humain examine A.I. données choisies, ils doivent comprendre pourquoi l’ordinateur les met devant eux et pas autre chose. Un A.I. comme ceux du Cyber ​​Grand Challenge financé par l’agence, devraient être conçus de manière plus transparente, mais l’annonce de la DARPA indiquait qu’elle envisagerait diverses interfaces utilisateur (elle ne laisse pas trop de détails sur la façon dont le projet XAI devrait s'expliquer.)

Les résumés des projets potentiels doivent être envoyés au plus tard le 1 er septembre et la DARPA envisage de remettre plusieurs prix à des chercheurs. Ceux-ci comprennent des contrats d'approvisionnement et des accords de coopération, mais l'agence ne distribuera pas de subventions. L’agence recherche également des équipes capables de mener des recherches sur Comment A.I. devrait s'expliquer; en d'autres termes, les chercheurs doivent étudier un I.A. De la même manière, les psychologues étudient comment l'esprit humain traite l'information dans diverses circonstances.