Meer dan 4.000 werknemers bij Google hebben een brief ondertekend waarin ze de technologiegigant oproepen om te stoppen met deelname aan het vlaggenschip van het Pentagon, het kunstmatige intelligentie-initiatief - Project Maven - dat is gericht op het helpen van het leger om potentiële vijandige doelen te identificeren uit beelden die zijn vastgelegd door drones.
Project Maven, formeel bekend als het Algorithmic Warfare Cross-Functional Team, werd opgericht als een manier om aan te tonen hoe geavanceerde technologieën zoals kunstmatige intelligentie en machine learning het Amerikaanse leger kunnen helpen bij zijn operaties. In een verklaring aan WIRED verklaarde voormalig plaatsvervangend secretaris van defensie Bob Work, die Project Maven in april 2017 oprichtte, dat de eerste missie van het initiatief was om een effectievere manier te vinden om beelden van drone-video te verwerken.
Volgens Work bleken de analysetools van het Pentagon niet effectief vanwege de enorme hoeveelheid hoge resolutie afbeeldingen van de drones. Het plan was om machine learning te gebruiken dat Google en andere internetbedrijven gebruiken om de drones te helpen bij het onderscheiden van interessante objecten zoals mensen, gebouwen en voertuigen. Volgens Work was de doelstelling voor de uitrol van de videoverwerkingstool december 2017 - een tijdlijn die gemakkelijk werd gehaald en die sindsdien indruk op de technologie heeft gemaakt.
In december verklaarde het ministerie van Defensie dat algoritmen van aannemers hielpen bij de strijd tegen ISIS. Eerder deze maand merkte kolonel Garry Floyd op dat de technologie die is ontwikkeld voor Project Maven momenteel wordt gebruikt bij de operaties van het leger in het Midden-Oosten en Afrika. William Carter, adjunct-directeur van het Centre for Strategic and International Studies, verklaarde zelfs dat volgens DoD-normen de efficiëntie van op AI gebaseerde militaire oplossingen "letterlijk een magisch werk" was.
Het op AI gebaseerde beeldverwerkingssysteem dat is ontwikkeld voor Project Maven, kan objecten zoals vrachtwagens, gebouwen en boten automatisch annoteren op digitale kaarten. De algoritmen kunnen ook worden omgeschoold door analisten als het systeem een fout maakt tijdens de bewerkingen.
Noch Google noch het Pentagon heeft de exacte rol verklaard die de tech-gigant heeft gespeeld bij de ontwikkeling van de technologieën van Project Maven. Google gaf echter wel toe dat het het initiatief hielp door het Pentagon toe te staan zijn TensorFlow machine learning-software te gebruiken om algoritmen te trainen op analyse van drone-beelden. Google merkte echter op dat de geboden technologie beperkt was tot niet-aanstootgevend gebruik. In een verklaring aan WIRED beschreef de AI-directeur van Google het werk dat met het Pentagon werd gedaan als 'alledaags'. Ondanks dit leidde de deelname van het bedrijf aan Project Maven nog steeds tot protesten van enkele duizenden Google-werknemers.