Mistral-chefens fråga: Skyddar AI-varningarna oss – eller marknadsledarna?

”AI är mjukvara. Den går att kontrollera.” Så uttryckte sig Arthur Mensch, vd för franska Mistral AI, i en intervju med Le Monde den 24 september. Han menar att amerikanska AI-jättar utnyttjar rädslan för tekniken till sin fördel. Det är en anklagelse värd att granska – men den avgör inte om varningarna är befogade. En risk kan vara verklig även om den som varnar också har något att vinna.29

Vem får sätta villkoren?

Mensch ifrågasätter vem som ska bestämma vad en ansvarsfull utvecklingstakt innebär. Om de största utvecklarna får stort inflytande över säkerhetskrav som de själva lättast kan uppfylla, kan mindre konkurrenter missgynnas. Det är ett konkurrensproblem att undersöka, inte ett bevis för att riskerna är påhittade.29

Mistral avfärdar inte heller riskerna med okontrollerad användning. Företaget har varnat för att AI-modeller blir mäktiga aktörer när de får handlingsutrymme och tillgång till verktyg. Menschs påstående om kontroll bör därför läsas som ett argument för att risker går att hantera – inte som ett belägg för att varje framtida system kommer att kunna kontrolleras.72

Varningar är inte fastställda prognoser

Jacob Coxon, tidigare forskare vid Anthropic och dessförinnan vid OpenAI, varnade i början av september för att AI ”skulle kunna döda oss alla före årtiondets slut”. Den 12 september uppmanade Anthropics vd Dario Amodei branschen att frivilligt bromsa utvecklingen av de mest avancerade modellerna. Enligt Le Monde fick uppmaningen stöd av ledande amerikanska konkurrenter.18

Det är allvarliga varningar och förslag, men inte fastställda prognoser. Coxons formulering beskriver en möjlighet, inte en bevisad tidsgräns. Och stöd för en inbromsning visar inte i sig att den skulle minska riskerna mer effektivt än riktade skyddsåtgärder.18

Oenigheten går heller inte enkelt mellan Europa och USA. Geoffrey Hinton har uppmanat till snabbare säkerhetsåtgärder, medan Andrew Ng har ifrågasatt beläggen bakom domedagspräglade budskap och invänt mot generella krav på paus. Den användbara frågan är: Vilka risker kan visas, och vilka åtgärder träffar dem?

En stämning är inte ett bevis

Prenumeranter på AI-tjänster har i en amerikansk konkurrensrättslig stämning hävdat att Anthropic, OpenAI, SpaceXAI och Google kom överens om att begränsa konkurrerande utvecklingsarbete efter uppmaningen den 12 september. Det är ett påstående i en rättsprocess, inte ett fastslaget olagligt avtal. Att företagsledare uttrycker liknande oro är inte i sig bevis för samordning.

Menschs kritik och stämningen gäller alltså två skilda frågor: Kan säkerhetsargument gynna etablerade företag? Och har konkurrenter faktiskt avtalat om att bromsa utvecklingen? Båda kräver egna belägg.

En rimlig prövning är att granska varje föreslagen säkerhetsåtgärd mot oberoende kontrollerbara belägg och samtidigt fråga vem som får bära kostnaden. Samma granskning måste gälla Mistrals argument för fortsatt utveckling. Ett företags affärsintresse är skäl att pröva dess påståenden noga – inte att automatiskt avfärda dem.789