Pourquoi avons-nous toujours confiance en Amazon? Comment les géants de la technologie ne parviennent pas à protéger la société

Amazon s’attendait peut-être à retenir l’attention du public lors de l’annonce du lieu où il établirait son nouveau siège social - mais comme de nombreuses entreprises de technologie récemment, il n’a probablement pas anticipé l’impact négatif de cette réponse. Dans les territoires choisis par Amazon, à savoir New York et la Virginie, les politiciens locaux ont hésité face aux incitations financées par les contribuables promises à la société. Des journalistes de tous les horizons politiques ont signé les accords - et les médias sociaux se sont remplis de voix de New-Yorkais et de Virginiens promettant leur résistance.

De même, les révélations selon lesquelles Facebook aurait exploité les théories du complot antisémite pour saper la légitimité de ses détracteurs indiquent qu’au lieu de changer, Facebook préférerait passer à l’offensive. Même si Amazon et Apple ont vu leurs valeurs boursières dépasser brièvement les 1 000 milliards de dollars, les responsables de la technologie ont été traînés devant le Congrès, ont eu du mal à prendre position de manière cohérente sur le discours de haine, se sont fait prendre en flagrant délit de mauvaise conduite sexuelle et ont vu leurs propres employés protester contre des accords commerciaux.

Dans certains milieux, cela est perçu comme une perte de confiance du public dans les entreprises technologiques qui ont promis de refaire le monde - socialement, écologiquement et politiquement - ou du moins comme une frustration face à la façon dont ces entreprises ont changé le monde. Mais les entreprises technologiques doivent faire beaucoup plus que regagner la confiance du public. ils doivent prouver qu’ils le méritaient d’abord - ce qu’ils n’ont pas fait dans le contexte de l’histoire de la critique technologique et du scepticisme.

Regardant loin des problèmes

Les grandes entreprises technologiques avaient l'habitude d'encadrer leurs projets dans un jargon vaguement utopique, à l'allure positive, qui obscurcissait la politique et les politiques publiques, transcendait la partisanerie et évitait, de manière commode, toute surveillance. Google avait l'habitude de rappeler à ses travailleurs: «Ne soyez pas méchant.» Facebook s'est efforcé de «rendre le monde plus ouvert et plus connecté». Qui pouvait s'opposer à ces idéaux?

Les spécialistes ont mis en garde contre les dangers de telles plates-formes, bien avant la naissance de nombre de leurs fondateurs. En 1970, Lewis Mumford, critique social et historien de la technologie, prédit que l'objectif de ce qu'il a appelé le "domaine informatique" serait "de fournir et de traiter une quantité infinie de données, afin d'élargir le rôle et d'assurer la domination du système de pouvoir. La même année, un essai fondamental de la penseuse féministe Jo Freeman a mis en garde sur les déséquilibres de pouvoir inhérents qui subsistent dans les systèmes qui semblent rendre tout le monde égal.

De même, en 1976, l'informaticien Joseph Weizenbaum avait prédit que, dans les décennies à venir, les gens se retrouveraient dans un état de détresse alors qu'ils dépendaient de plus en plus de systèmes techniques opaques. De nombreuses mises en garde similaires ont été lancées depuis, y compris d'importantes études récentes, telles que l'explication de la chercheuse en informations Safiya Noble sur la façon dont les recherches Google reproduisent les préjugés fondés sur le sexe et le racisme, et la déclaration de la chercheuse en médias Siva Vaidhyanthan selon laquelle «le problème de Facebook est Facebook».

Les entreprises de technologie sont puissantes et riches, mais leur journée d’éviter les examens minutieux risque de s’achever. Le public américain semble commencer à soupçonner que les géants de la technologie n'étaient ni préparés ni désireux d'assumer la responsabilité des outils qu'ils ont mis à la disposition du monde.

À la suite de l'élection présidentielle américaine de 2016, l'inquiétude demeure que les gouvernements russes et d'autres gouvernements utilisent toutes les plateformes de médias sociaux disponibles pour semer la discorde et le mécontentement dans les sociétés du monde entier.

Facebook n'a toujours pas résolu les problèmes de confidentialité et de confidentialité des données à l'origine du scandale Cambridge Analytica. Twitter est le mégaphone préféré du président Donald Trump et le foyer de quantités inquiétantes de discours de haine violents. L’avenir des sièges sociaux d’Amazon est en train de se transformer en une bagarre à multiples facettes entre les élus et les personnes qu’ils représentent soi-disant.

Est-ce l'ignorance ou la naivete?

Compte tenu de la situation actuelle et de l’histoire des critiques de la technologie, il est difficile de ne pas conclure que les entreprises technologiques méritent les crises auxquelles elles sont confrontées. Ces sociétés demandent aux personnes de leur confier leurs courriels, leurs données personnelles, leurs historiques de recherche en ligne et leurs informations financières, au point que beaucoup de ces sociétés vantent fièrement qu'elles connaissent des personnes mieux qu'elles ne se connaissent elles-mêmes. Ils font la promotion de leurs systèmes les plus récents, y compris les «haut-parleurs intelligents» et les «caméras intelligentes», en veillant à ce que les utilisateurs puissent surveiller chaque moment de veille et de sommeil, en introduisant davantage de données dans leurs algorithmes générateurs d'argent.

Mais apparemment, inévitablement, ces entreprises démontrent à quel point elles sont indignes de confiance, divulguent des données, partagent des informations personnelles et ne parviennent pas à empêcher le piratage informatique, car elles emplissent lentement le monde d'une techno-paranoïa inquiétante digne d'un épisode de «Black Mirror».."

Les réactions des entreprises technologiques à chaque nouvelle révélation correspondent à un schéma standard: après l’éclatement d’un scandale, l’entreprise concernée exprime l’alarme que tout se passe mal, s’engage à enquêter et promet de faire mieux à l’avenir. Quelques jours, quelques semaines voire plusieurs mois plus tard, la société révèle que le scandale était une conséquence directe de la conception du système et envoie un responsable consterné pour exprimer son indignation devant les utilisations destructrices que des personnes maléfiques ont trouvées pour leur système, sans admettre que le problème est le système lui-même.

Zuckerberg lui-même a déclaré au Sénat américain en avril 2018 que le scandale de Cambridge Analytica lui avait appris «qu'il est de notre responsabilité de ne pas simplement donner aux gens des outils, mais de veiller à ce qu'ils soient utilisés pour de bon.» Voilà une leçon fondamentale à avoir manqué tout en créant une entreprise de plusieurs milliards de dollars.

Reconstruire à partir de ce qui reste

L'utilisation de toute technologie, du couteau à l'ordinateur, comporte des risques, mais à mesure que les systèmes technologiques prennent de l'ampleur et de la complexité, leur ampleur tend également à augmenter. Une technologie n’est utile que si les utilisateurs peuvent l’utiliser en toute sécurité, de manière à ce que les avantages l'emportent sur les dangers, et s’ils peuvent avoir la certitude de comprendre et d’accepter les risques potentiels. Il y a quelques années, Facebook, Twitter et Google ont peut-être semblé à la plupart des gens comme des méthodes de communication bénignes qui ont apporté plus à la société qu'ils n'en ont emporté. Cependant, à chaque nouveau scandale et à la réaction bâclée, de plus en plus de gens s'aperçoivent que ces entreprises représentent un grave danger pour la société.

Aussi tentant que d’être le bouton «off», il n’ya pas de solution facile. Les géants de la technologie se sont intégrés dans le quotidien de centaines de millions de personnes. Il est simple de suggérer que les personnes qui viennent d’arrêter de fumer n’ignore pas à quel point beaucoup de personnes dépendent de ces plateformes - et combien elles peuvent se sentir piégées dans une situation de plus en plus intolérable.

En conséquence, les gens achètent des livres sur Amazon, en les commandant sur Amazon. Ils effectuent des recherches dans Google pour trouver des articles sur la quantité d'informations dont dispose Google sur chaque utilisateur. Ils tweetent combien ils détestent Twitter et publient sur Facebook des articles sur le dernier scandale de Facebook.

Les entreprises de technologie peuvent se retrouver face à une base d’utilisateurs de plus en plus aggravée, du fait que leurs plates-formes propagent le mécontentement plus loin et plus loin que possible dans le passé. Ils peuvent aussi choisir de se changer radicalement, de se séparer, de confier certains contrôles aux décisions démocratiques de leurs utilisateurs et d'assumer la responsabilité des dommages causés par leurs plates-formes et leurs produits au monde. Cependant, jusqu’à présent, il semble que l’industrie n’ait pas fait plus que présenter des excuses à moitié cuites tout en continuant à fonctionner comme si de rien n'était. Espérons que cela va changer. Mais si le passé est un guide, il ne le sera probablement pas.

Cet article a été publié à l'origine sur The Conversation par Zachary Loeb. Lisez l'article original ici.