Pe 4 martie, în centrul Manhattan-ului, directorul general al Google pentru Israel, Barak Regev, se adresa unei conferințe care promova industria tehnologică israeliană, când un membru al audienței s-a ridicat în picioare în semn de protest, scrie Time.
„Sunt un inginer de software Google Cloud și refuz să construiesc tehnologie care alimentează genocidul, apartheidul sau supravegherea”, a strigat protestatarul, care purta un tricou portocaliu pe care era inscripționat un logo Google alb. „Nu există tehnologie pentru apartheid!”
Lucrătorul de la Google, un inginer de software în vârstă de 23 de ani, pe nume Eddie Hatfield, a fost huiduit de public și scos rapid din sală, se arată într-o înregistrare video a evenimentului.
După o pauză, Regev a abordat actul de protest. „Unul dintre privilegiile de a lucra într-o companie care reprezintă valorile democratice este acela de a oferi spațiu pentru opinii diferite”, a spus el mulțimii.
Trei zile mai târziu, Google l-a concediat pe Hatfield.
„No Tech for Apartheid”
Hatfield face parte dintr-o mișcare tot mai mare din interiorul Google care cere companiei să renunțe la Proiectul Nimbus, un contract de 1,2 miliarde de dolari cu Israelul, deținut împreună cu Amazon.
Grupul de protest, numit „No Tech for Apartheid”, are acum peste 200 de angajați ai Google implicați îndeaproape în organizare, potrivit membrilor, care spun că există alte sute de lucrători care simpatizează cu obiectivele lor.
„Time” a vorbit cu cinci actuali și cinci foști lucrători Google pentru acest articol, mulți dintre ei descriind un sentiment de furie tot mai mare față de posibilitatea ca Google să ajute Israelul în războiul său din Gaza.
Doi dintre foștii lucrători Google au declarat că au demisionat de la Google în ultima lună în semn de protest față de Proiectul Nimbus. Aceste demisii, precum și identitatea lui Hatfield, nu au fost menționate anterior.
Protestul „No Tech for Apartheid” se referă atât la ceea ce publicul nu știe despre Proiectul Nimbus, cât și la ceea ce știe.
Contractul este pentru ca Google și Amazon să furnizeze servicii de inteligență artificială și de cloud computing guvernului și armatei israeliene, potrivit Ministerului israelian de Finanțe, care a anunțat acordul în 2021.
Se pare că Nimbus implică stabilirea de către Google a unei instanțe securizate de Google Cloud pe teritoriul israelian, ceea ce ar permite guvernului israelian să efectueze analize de date la scară largă, instruire AI, găzduire de baze de date și alte forme de calcul puternic folosind tehnologia Google, cu o supraveghere redusă din partea companiei.
Documentele Google, raportate pentru prima dată de The Intercept în 2022, sugerează că serviciile Google oferite Israelului prin intermediul Cloud-ului său au capacități precum detectarea facială cu ajutorul Inteligenței Artificiale, clasificarea automată a imaginilor și urmărirea obiectelor.
Detalii suplimentare ale contractului sunt puține sau inexistente, iar o mare parte din frustrarea lucrătorilor constă în ceea ce ei spun că este lipsa de transparență a Google cu privire la ce mai presupune Proiectul Nimbus și la întreaga natură a relației companiei cu Israelul.
Nici Google, nici Amazon, nici Israelul nu au descris capacitățile specifice oferite Israelului în cadrul contractului.
Într-o declarație, un purtător de cuvânt al Google a declarat: „Am fost foarte clari în legătură cu faptul că contractul Nimbus este pentru sarcini de lucru care rulează pe platforma noastră comercială de către ministerele guvernamentale israeliene, cum ar fi finanțele, sănătatea, transporturile și educația.
Activitatea noastră nu vizează sarcini de lucru militare foarte sensibile sau clasificate relevante pentru serviciile de armament sau de informații”.
Toți clienții Google Cloud, a precizat purtătorul de cuvânt, trebuie să respecte termenii de serviciu și politica de utilizare acceptabilă a companiei.
Această politică interzice utilizarea serviciilor Google pentru a încălca drepturile legale ale altora sau pentru a se implica în „violențe care pot provoca moartea, vătămări grave sau răniri”.
Un purtător de cuvânt al Amazon a declarat că societatea „se concentrează pe punerea la dispoziția tuturor clienților noștri, oriunde s-ar afla, a beneficiilor tehnologiei noastre cloud de top la nivel mondial”, adăugând că sprijină angajații afectați de război și colaborează cu agențiile umanitare. Guvernul israelian nu a răspuns imediat la solicitările de a comenta.
Nu există nicio dovadă că tehnologia Google sau Amazon a fost folosită în uciderea civililor.
Angajații Google spun că își bazează protestele pe trei surse principale de îngrijorare: declarația explicită din 2021 a Ministerului israelian de Finanțe că Nimbus va fi folosit de Ministerul Apărării; natura serviciilor probabil disponibile pentru guvernul israelian în cadrul cloud-ului Google; și aparenta incapacitate a Google de a monitoriza ceea ce ar putea face Israelul cu tehnologia sa.
Temeri
Lucrătorii se tem că instrumentele puternice de Inteligență Artificială și de cloud computing ale Google ar putea fi folosite pentru supraveghere, țintire militară sau alte forme de înarmare.
Conform termenilor contractului, se pare că Google și Amazon nu pot împiedica anumite arme ale guvernului, inclusiv armata israeliană, să le folosească serviciile și nu pot anula contractul din cauza presiunii publice.
Rapoarte recente din presa israeliană indică faptul că atacurile aeriene sunt efectuate cu sprijinul unui sistem de țintire cu inteligență artificială; nu se știe ce furnizor de cloud, dacă există, furnizează infrastructura de calcul probabil necesară pentru funcționarea unui astfel de sistem.
Angajații Google menționează că, din motive de securitate, companiile de tehnologie au adesea o perspectivă foarte limitată, dacă există, asupra a ceea ce se întâmplă pe serverele cloud suverane ale clienților lor guvernamentali.
„Nu avem prea multă supraveghere asupra a ceea ce fac clienții cloud, din motive de confidențialitate ușor de înțeles”, spune Jackie Kay, inginer de cercetare în cadrul laboratorului de inteligență artificială DeepMind al Google. „Dar atunci ce asigurare avem că clienții nu abuzează de această tehnologie în scopuri militare?”.
În contextul în care noi dezvăluiri continuă să apară cu privire la rolul AI în campania de bombardamente a Israelului în Gaza, la recenta ucidere de către armata israeliană a unor lucrători umanitari străini și la faptul că până și președintele Biden îndeamnă acum Israelul să înceapă o încetare imediată a focului, membrii organizației No Tech for Apartheid spun că această campanie devine din ce în ce mai puternică.
Precedent
Un episod anterior de organizare a lucrătorilor în interiorul Google a reușit să preseze cu succes compania să renunțe la un contract separat cu Pentagonul în 2018.
Acum, într-un climat mai larg de indignare internațională tot mai mare față de daunele colaterale ale războiului Israelului din Gaza, mulți lucrători văd concedierea lui Hatfield de către Google ca pe o încercare de a reduce la tăcere o amenințare tot mai mare la adresa afacerii sale.
„Cred că Google m-a concediat pentru că a văzut cât de multă tracțiune capătă această mișcare în cadrul Google”, spune Hatfield, care a acceptat să vorbească pentru prima dată în mod oficial pentru acest articol. „Cred că au vrut să provoace un fel de efect de răcire prin concedierea mea, să mă dea drept exemplu”.
Complicități
Angajații susțin că relația dintre Google și Israel contravine „principiilor AI” ale companiei, care prevăd că aceasta nu va urmări aplicații ale AI care ar putea provoca „daune generale”, nu va contribui la „arme sau alte tehnologii” al căror scop este de a provoca daune sau nu va construi tehnologii „al căror scop contravine principiilor larg acceptate ale dreptului internațional și ale drepturilor omului”.
„Dacă furnizezi tehnologie cloud AI unui guvern despre care știi că comite un genocid și despre care știi că folosește în mod abuziv această tehnologie pentru a face rău civililor nevinovați, atunci ești departe de a fi neutru”, spune Khalek. „Dacă este ceva, acum ești complice”.
Doi lucrători de la Google DeepMind, divizia de inteligență artificială a companiei, și-au exprimat temerile că abilitatea laboratorului de a împiedica utilizarea instrumentelor sale de inteligență artificială în scopuri militare a fost erodată, în urma unei restructurări de anul trecut.
Atunci când a fost achiziționat de Google în 2014, DeepMind ar fi semnat un acord care prevedea că tehnologia sa nu va fi niciodată folosită în scopuri militare sau de supraveghere.
Dar o serie de schimbări de guvernanță au dus la faptul că DeepMind a ajuns să fie obligată să respecte aceleași principii de inteligență artificială care se aplică la Google în general.
Aceste principii nu au împiedicat Google să semneze contracte militare profitabile cu Pentagonul și Israelul.
„În timp ce DeepMind poate că a fost nefericită să lucreze în trecut la contracte militare de inteligență artificială sau de apărare, cred că aceasta nu mai este cu adevărat decizia noastră”, a declarat un angajat al DeepMind care a cerut să nu fie nominalizat pentru că nu era autorizat să vorbească public.
Google DeepMind produce modele de inteligență artificială de frontieră care sunt implementate prin intermediul [platformei Vertex AI de la Google Cloud], care pot fi apoi vândute către clienți din sectorul public și alți clienți. Unul dintre acești clienți este Israelul.
„Pentru ca eu să mă simt confortabil să contribui la un model de inteligență artificială care este lansat pe [Google] Cloud, aș vrea să existe o anumită responsabilitate prin care utilizarea să poată fi revocată dacă, de exemplu, este folosit în scopuri de supraveghere sau militare care contravin normelor internaționale”, spune Kay, angajatul DeepMind.
„Aceste principii se aplică aplica aplicațiilor pe care DeepMind le dezvoltă, dar este ambiguu dacă se aplică clienților Google Cloud”.
Un purtător de cuvânt al Google nu a răspuns la întrebări specifice despre DeepMind pentru acest articol.
Alți lucrători de la Google indică ceea ce știu despre Google Cloud ca fiind o sursă de îngrijorare cu privire la proiectul Nimbus.
Recunoaștere facială
Tehnologia cloud pe care compania o oferă în mod obișnuit clienților săi include un instrument numit AutoML care permite unui utilizator să antreneze rapid un model de învățare automată folosind un set de date personalizat.
Trei lucrători intervievați de TIME au declarat că, teoretic, guvernul israelian ar putea folosi AutoML pentru a construi un instrument de supraveghere sau de direcționare.
Nu există nicio dovadă că Israelul a folosit Google Cloud pentru a construi un astfel de instrument, deși New York Times a relatat recent că soldații israelieni foloseau funcția de recunoaștere facială disponibilă gratuit din Google Photos, împreună cu alte tehnologii care nu sunt de la Google, pentru a identifica suspecți la punctele de control.
„Furnizarea unei tehnologii puternice unei instituții care a demonstrat dorința de a abuza și de a transforma IA în armă pentru toate părțile războiului este o decizie lipsită de etică”, spune Gabriel Schubiner, fost cercetător la Google. „Este o trădare a tuturor inginerilor care depun muncă în Google Cloud”.
Un purtător de cuvânt al Google nu a răspuns la întrebarea dacă AutoML a fost furnizat Israelului în cadrul proiectului Nimbus.
Membrii organizației No Tech for Apartheid susțin că ar fi naiv să ne imaginăm că Israelul nu folosește hardware-ul și software-ul Google în scopuri violente.
„Dacă nu avem nicio supraveghere a modului în care este folosită această tehnologie”, spune Rachel Westrick, inginer de software la Google, „atunci Armata israeliană o va folosi în scopuri violente”.
„Construcția unei infrastructuri cloud locale masive în interiorul granițelor Israelului, a declarat [guvernul israelian], este practic pentru a păstra informațiile din Israel sub stricta lor securitate”, spune Mohammad Khatami, inginer de software la Google.
„Dar, în esență, știm că asta înseamnă că le dăm mână liberă să folosească tehnologia noastră pentru orice doresc și dincolo de orice orientări pe care le stabilim.”
