Sicurezza dell’IA o difesa del mercato? La sfida di Arthur Mensch

Nell’intervista rilasciata a Le Monde il 24 settembre, Arthur Mensch, amministratore delegato della francese Mistral AI, ha accusato i giganti statunitensi del settore di sfruttare i timori sull’intelligenza artificiale. La sua risposta agli scenari di perdita del controllo è netta: «L’IA è software. Si può controllare». È una presa di posizione nel dibattito sulla sicurezza, non la prova che ogni sistema futuro sarà controllabile.29

La posta in gioco: chi stabilisce le regole

La domanda sollevata da Mensch non è soltanto quanto velocemente sviluppare nuovi modelli, ma chi decide che cosa significa svilupparli in modo responsabile. Se i requisiti di sicurezza fossero calibrati sulle risorse dei laboratori più grandi, potrebbero risultare molto più onerosi per i concorrenti più piccoli. È un problema di concorrenza da esaminare, non una dimostrazione che i rischi siano inventati.29

Mistral, del resto, non sostiene che distribuire modelli di IA sia privo di pericoli. L’azienda ha avvertito che i modelli possono diventare attori potenti quando ricevono autonomia e accesso a strumenti, e che impiegarli in sicurezza richiede attenzione. Dire che l’IA può essere controllata significa quindi proporre di gestirne i rischi, non aver già risolto ogni problema di controllo.72

Allarmi seri, ma non previsioni certe

A inizio settembre Jacob Coxon, ex ricercatore di Anthropic passato in precedenza da OpenAI, ha avvertito che l’IA «potrebbe ucciderci tutti entro la fine del decennio». Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha chiesto un rallentamento volontario nello sviluppo dei modelli più avanzati; secondo Le Monde, i principali concorrenti statunitensi hanno sostenuto l’appello.18

Sono avvertimenti e proposte da prendere sul serio, ma la possibilità evocata da Coxon non equivale a una scadenza dimostrata. Né il sostegno a un rallentamento prova, da solo, che fermare la corsa sarebbe più efficace di misure di sicurezza mirate.18 Il dissenso, inoltre, non segue semplicemente il confine tra Europa e Stati Uniti: Geoffrey Hinton ha sollecitato interventi più rapidi, mentre Andrew Ng ha contestato le basi delle narrazioni catastrofiche e le richieste indiscriminate di fermarsi.

E l’accusa di intesa anticoncorrenziale?

Una causa promossa da abbonati a servizi di IA sostiene che Anthropic, OpenAI, SpaceXAI e Google si siano accordate per frenare lo sviluppo dei rispettivi sistemi dopo l’appello del 12 settembre. È un’accusa, non un accertamento giudiziario. Il fatto che dirigenti di aziende concorrenti esprimano preoccupazioni simili non dimostra, di per sé, che abbiano stretto un’intesa.

La critica di Mensch e la causa pongono dunque domande collegate ma distinte: gli argomenti sulla sicurezza possono favorire chi è già dominante? E c’è stato davvero un accordo tra concorrenti? Per rispondere, occorre valutare le prove a sostegno di ciascuna misura proposta e verificare se i suoi costi gravino in modo sproporzionato sui potenziali rivali. Lo stesso rigore va applicato sia agli appelli a rallentare sia alla posizione di Mistral, che ha interesse a continuare a sviluppare i propri modelli. Un interesse commerciale impone di vagliare un argomento, non di respingerlo automaticamente.789