Google-direktør sa opp i protest mot Pentagons KI-avtale

Kontrakten inneholder to bemerkelsesverdige forbehold:

• Autonome våpen: Gemini kan ikke brukes i autonome våpensystemer uten et menneske i kontrollsløyfen .
• Innenriks masseovervåkning: Avtalen forbyr bruk til innenriks masseovervåkning uten menneskelig tilsyn .

Disse forbeholdene er imidlertid rådgivende, ikke juridisk bindende – Google kan «anbefale» mot visse bruksområder, men har ingen kontraktsfestet rett til å nedlegge veto mot regjeringens operative beslutninger . Kritikere påpeker at dette gjør sikkerhetsmekanismene til forslag snarere enn forpliktende begrensninger .

Google reverserer sine KI-prinsipper fra 2018

Den 4. februar 2025 fjernet Google stille kjerneforpliktelsen fra sine KI-prinsipper fra 2018, som forbød utvikling av KI for våpen eller overvåkning . Prinsippene fra 2018 ble vedtatt etter den interne Project Maven-revolten, da tusenvis av Google-ansatte tvang ledelsen til å droppe en kontrakt med Pentagon om KI-analyse av dronevideoer . Ved å fjerne disse forpliktelsene ryddet Google den juridiske og etiske veien for april 2026-avtalen .

Ansattorganisering og motstandens begrensninger

• 27. april 2026 – Timer før Pentagon-avtalen ble signert, undertegnet over 600 Google-ansatte – inkludert forskere fra DeepMind og andre seniorforskere – et åpent brev som krevde at administrerende direktør Sundar Pichai avviste kontrakten . DeepMind-forskere beskrev seg selv som «utrolig skamfulle» .
• Ledelsens respons: Google-ledelsen avfeide protestene og uttalte at selskapet er «stolt» over å samarbeide med Pentagon, og gikk videre med den klassifiserte integrasjonen .
• Begrenset innflytelse: I motsetning til i 2018, da ansattpress stoppet Project Maven, har de ansattes påvirkningskraft blitt betydelig svekket. Googles ledelse sto fast, og avtalen ble gjennomført som planlagt .

Episoden markerer en definitiv slutt på Googles «Don't Be Evil»-æra innen KI-etikk – der en direktør, hundrevis av ansatte og flere oppsigelser ikke var i stand til å stanse selskapets militære kuvending.