OpenAI, Anthropic og Google DeepMind skal ha samtaler om KI-sikkerhet

OpenAI, Anthropic og Alphabet-eide Google DeepMind skal ha vært i samtaler om å prioritere arbeid med KI-sikkerhet. Men det er foreløpig ikke kjent om samtalene munner ut i en konkret avtale, felles standard eller et bindende program. Reuters opplyste at nyhetsbyrået ikke kunne verifisere Bloombergs rapport uavhengig, og at OpenAI, Alphabet og Anthropic ikke umiddelbart svarte på forespørsler om kommentar. 4

Samtaler mellom harde konkurrenter

Ifølge Reuters, som omtalte Bloomberg News' rapport, sa OpenAIs globale policy-sjef Chris Lehane at selskapene hadde snakket sammen i flere uker. Hans syn var at de bør forsøke å samarbeide for å prioritere sikkerhet. 4

Det sentrale forbeholdet er derfor at dette dreier seg om rapporterte samtaler, ikke en offentlig bekreftet samarbeidsordning. Det er heller ikke lagt fram detaljer om hvilke sikkerhetstester, terskler eller kontrollmekanismer et mulig samarbeid skulle omfatte. 4

Hvorfor risikoen står høyere på agendaen

Samtalene kommer etter at ledere for ledende amerikanske KI-laboratorier samlet tok til orde for en pause i videre KI-utvikling. Det har bidratt til å løfte bekymringen for såkalt eksistensiell risiko – altså svært alvorlige, potensielt samfunnstruende konsekvenser av stadig kraftigere KI-systemer. 4

Også i amerikansk politikk har temaet fått større tyngde. Reuters meldte at flere folkevalgte ønsker nye regler etter advarsler fra Anthropic-forskere om at rask framgang innen KI kan innebære risiko på utryddelsesnivå. 3

Anthropic har dessuten oppfordret store KI-laboratorier til å vurdere en koordinert og etterprøvbar utviklingspause dersom risikoen øker. Selskapet har begrunnet dette med at KI-systemer på sikt kan bli i stand til å forbedre seg selv raskere enn samfunnet kan håndtere følgene. 15

Dette er vurderinger av mulige framtidige kapasiteter og farer, ikke bevis for at slike utfall er uunngåelige. Likevel forklarer de hvorfor frivillige sikkerhetstiltak, felles standarder og juridisk håndhevbar kontroll nå diskuteres parallelt.

Konkurranselovgivningen blir en nøkkeltest

Når direkte konkurrenter samarbeider, oppstår raskt spørsmål om konkurranselovgivning. Felles arbeid med sikkerhetstesting eller risikostyring kan ses som skadeforebygging. En avtale som i praksis begrenser tempoet i utviklingen eller konkurransen mellom selskapene, vil derimot reise vanskeligere juridiske og politiske spørsmål.

Lehane sa at han ikke mente OpenAI, Anthropic og Google DeepMind trengte et unntak fra konkurranselovgivningen for å koordinere arbeid med sikkerhet. 4 Dette synet inngår i en bredere amerikansk debatt: Leder Andrew Ferguson i Federal Trade Commission (FTC), USAs konkurransemyndighet, sa at folk bør være «dypt skeptiske» til KI-selskaper som ber om konkurranseunntak. Samtidig sa eksperter til Reuters at eksisterende konkurranselovgivning allerede kan tillate koordinering for å avverge katastroferisiko. 2

Åpner for ny føderal lovgivning

Lehane sa også at OpenAI vil støtte tverrpolitisk amerikansk lovgivning for å redusere katastroferisiko fra KI. 4

I Senatet har forhandlere diskutert en mulig «aktsomhetsplikt» for KI-utviklere. Den kan innebære krav om at selskapene dokumenterer at de har tatt rimelige forholdsregler for å forebygge skade. USAs handelsdepartement kan da få mulighet til å be om dokumentasjon og sende revisorer eller kontrollører for å teste produktene. 8

OpenAI har også tatt til orde for obligatoriske nasjonale sikkerhetskrav i USA, og mener standardene bør rekke utover landets grenser. 6

Det viktigste å følge med på

Det avgjørende er om de rapporterte samtalene utvikler seg til en offentlig og konkret forpliktelse – med tydelige sikkerhetstiltak, uavhengig evaluering og ansvarliggjøring.

Foreløpig er konklusjonen smalere: OpenAI, Anthropic og Google DeepMind skal ha diskutert KI-sikkerhet i en periode der bekymringen for avanserte KI-systemer øker, og presset for felles standarder og føderale regler tiltar. 4

Et eventuelt samarbeid vil bli vurdert etter to kriterier samtidig: Om det gir reell bedre sikkerhet, og om det kan gjennomføres uten at sikkerhet blir et dekke for å dempe konkurransen mellom rivalene.