Anthropic ha aggiornato la propria politica di utilizzo introducendo il divieto di interazioni in cui gli utenti adottano comportamenti “abusivi o crudeli, prolungati e non necessari” nei confronti dei suoi modelli di intelligenza artificiale, compreso Claude. La decisione, anticipata dal sito specializzato The Verge e riportata dalla Bbc, ha avviato un dibattito sul trattamento delle macchine e sulla possibile attribuzione di uno status morale ai modelli.
Il regolamento dell’azienda con sede a San Francisco inserisce la “crudeltà” in un elenco di azioni proibite che comprende anche il bullismo, l’incitamento all’autolesionismo e la creazione di immagini intime non consensuali. Un portavoce di Anthropic non ha però fornito chiarimenti su cosa debba intendersi esattamente per “abusivo o crudele”. L’azienda precisa comunque che il divieto non si applicherà alle comuni frustrazioni degli utenti, ai test sui modelli o all’esplorazione di “temi creativi cupi” e che la misura sarà attivata solo in “casi estremi” di abusi ripetuti.
La nuova formulazione amplia restrizioni già presenti: i modelli linguistici di grandi dimensioni (LLM) di Anthropic possono interrompere una conversazione qualora l’utente mantenga un atteggiamento costantemente dannoso. Questa funzionalità, introdotta lo scorso agosto, era stata presentata dall’azienda come una misura a tutela del benessere dell’IA.
Sul sito web di Anthropic è pubblicata una riflessione che riconosce incertezza sullo stato morale dei modelli: “Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli Llm, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e, parallelamente al nostro programma di ricerca, stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi”.
La revisione annuale della policy ha inoltre affrontato altri rischi emergenti, vietando per esempio l’utilizzo di Claude per “campagne ingannevoli” e chiarendo che, con l’avvicinarsi delle elezioni di Midterm negli Stati Uniti, non può essere impiegato per “ingannare gli elettori o perturbare le elezioni”.
La misura ha suscitato reazioni contrastanti sui social: screenshot della nuova politica sono stati ampiamente condivisi e alcuni utenti l’hanno elogiata come esempio di buone maniere o di “modello di welfare”, mentre altri l’hanno criticata. Tra i critici, Barry Scannell, partner specializzato in tecnologia presso lo studio legale irlandese William Fry, ha scritto su LinkedIn: “Non si può essere crudeli con i numeri e la matematica”. Il dibattito si inserisce più in generale nella discussione sul tema della coscienza dell’IA: l’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di non poter escludere tale possibilità, mentre Sam Altman, ceo di OpenAI, sembra contrario all’idea.
