Au milieu des inquiétudes concernant les ventes de Big Tech de technologie d'IA au Pentagone, Google a fourni au ministère de la Défense des logiciels cloud et des outils d'intelligence artificielle pour aider l'agence à faire face à la pandémie de Covid-19, selon un contrat non divulgué auparavant.
L'accord de 2,5 millions de dollars, dont les détails ont été obtenus via une demande FOIA, montre que le partenaire de Google à Reston, en Virginie, Carahsoft, a fourni les outils cloud et d'IA du géant de la technologie au United States Northern Command (USNORTHCOM), qui agit comme une unité de commande et de contrôle centralisée pour les efforts de sécurité intérieure du ministère de la Défense (DOD). Les travaux devaient débuter en mai 2020 et durer un an et sont maintenant terminés.
Plus précisément, le contrat décrit comment le logiciel Google devait être utilisé pour aider à regrouper les données du ministère de la Défense "à l'appui de la pandémie du DOD COVID-19 ou d'autres réponses émergentes". Il « intégrerait, fusionnerait, analyserait et diffuserait des informations critiques à l'appui de la réponse à la pandémie du DOD Covid-19 et d'autres missions émergentes ». En plus de travailler avec des alliés, ainsi qu'avec les autorités civiles locales et étatiques, l'une des missions principales de l'USNORTHCOM est d'aider le DOD à coordonner les secours en cas de catastrophe.
Le contrat demandait également "une solution d'optimisation des ressources basée sur l'IA dans le contexte des perturbations liées à Covid". Cette technologie a été mise en place pour aider l'agence de défense à allouer les ressources plus efficacement, qu'il s'agisse de personnel militaire possédant les compétences pertinentes ou d'équipement médical. Ce travail a été effectué en collaboration avec le MIT Lincoln Laboratory « pour accéder aux ensembles de données et aux algorithmes existants et appliquer leurs capacités d'IA pour créer et tester des algorithmes améliorés ». La technologie aurait pu être étendue pour aider le DOD à "prédire les futurs déficits de la chaîne d'approvisionnement".
Parmi les données que la technologie de Google a été invitée à ingérer et à analyser figuraient des informations «géospatiales», indiquant que les outils aideraient à analyser les images aériennes ou spatiales. Auparavant, Forbes avait révélé que des startups financées par GV (anciennement Google Ventures, une société de capital-risque sous l'égide de la société mère de Google Alphabet) effectuaient toutes sortes de travaux de surveillance géospatiale pour le Pentagone, appliquant leur intelligence artificielle à l'imagerie.
Le contrat a également permis une utilisation généralisée des outils de Google, en s'intégrant "avec d'autres agences et organisations du DOD, fédérales, étatiques, locales, privées et internationales". (Google a refusé de commenter la nature de son travail car il n'est pas autorisé à discuter de contrats sans l'approbation du client.)
Rien n'indique que la technologie de Google a été utilisée pour autre chose que la réponse Covid-19 de l'agence de défense. Jack Poulson, un ancien data scientist de Google qui a démissionné pour des raisons éthiques, craignait toujours que sans aucune ligne rouge dans le contrat, il aurait pu être appliqué à d'autres moyens. Il a souligné les cas d'utilisation possibles de la Force opérationnelle interarmées Nord (FOI-Nord), une division de l'USNORTHCOM qui a précédemment aidé à soutenir la protection des frontières américaines, la guerre contre la drogue et la lutte contre le terrorisme.
"À moins qu'il n'y ait une ligne rouge contractuelle claire - ce que je n'ai pas vu dans ce cas ou pour le travail de Google Cloud avec Customs & Border Protection - la rentabilité dicte de maximiser la portée de la technologie achetée. Dans ce cas, incorporer la surveillance des frontières nord de la JTF et la guerre contre les flux de surveillance des drogues seraient des cas évidents de préoccupation », a ajouté Poulson, qui dirige maintenant la grande enquête technique à but non lucratif sur l'éthique technologique.
Non pas que toute surveillance soit contraire aux principes de l'IA de Google, publiés en 2018, qui promettaient que le géant de la technologie ne créerait pas « des technologies qui collectent ou utilisent des informations pour la surveillance en violation des normes internationalement acceptées ».
Ces principes ont été créés après que des milliers d'employés de Google se soient rebellés contre un contrat controversé du DOD appelé Project Maven, qui consistait à appliquer l'IA de Google aux images de drones pour détecter des objets tels que des voitures et des bâtiments. Après que les membres du personnel aient écrit une lettre ouverte appelant à ce que Google ne vende jamais de "technologie de guerre", il a cessé de travailler sur Maven.
Google continue d'être fier du travail qu'il accomplit pour le gouvernement, en particulier dans son activité de réponse au Covid-19. Comme Forbes l'a signalé l'année dernière, la société fait appel à divers sous-traitants dans la région de Washington, DC, pour ses ventes gouvernementales, comme un contrat de 2 millions de dollars avec les douanes et les frontières pour un système de surveillance des personnes et des marchandises connu sous le nom de système de ciblage automatisé.
