Anthropic ha aggiornato la propria politica di utilizzo introducendo un divieto delle interazioni in cui gli utenti adottano comportamenti “abusivi o crudeli, prolungati e non necessari” nei confronti dei suoi modelli di intelligenza artificiale, ha annunciato l’azienda produttrice di Claude. La novità, riportata anche dalla Bbc, inserisce la “crudeltà” in un elenco di azioni proibite che comprende altresì il bullismo, l’incitamento all’autolesionismo e la creazione di immagini intime non consensuali.
Un portavoce di Anthropic non ha però chiarito cosa possa essere considerato “abusivo o crudele”. Nel regolamento d’uso pubblicato online l’azienda specifica che il divieto non si applicherà alle comuni frustrazioni degli utenti, ai test sui modelli o all’esplorazione di “temi creativi cupi”, e che la restrizione scatta solo in “casi estremi” di abusi ripetuti.
La nuova misura non nasce dal nulla: la politica di utilizzo di Anthropic conteneva già restrizioni contro i comportamenti abusivi e i modelli linguistici di grande dimensione (Llm) dell’azienda hanno la capacità di interrompere una conversazione qualora l’utente mantenga un atteggiamento costantemente dannoso. Quando quella funzionalità è stata introdotta lo scorso agosto, era stata spiegata come una tutela del “benessere dell’IA”.
Sul sito web dell’azienda si legge inoltre una riflessione sulle incertezze morali riguardo allo status dei modelli: “Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli Llm, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e, parallelamente al nostro programma di ricerca, stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi”.
Le modifiche, segnalate per la prima volta dal sito specializzato The Verge, sono il frutto della revisione annuale della policy e hanno affrontato anche altri rischi emergenti: tra le altre cose è stato vietato l’utilizzo di Claude per “campagne ingannevoli” e specificato che, in vista delle elezioni di Midterm negli Usa, non può essere impiegato per “ingannare gli elettori o perturbare le elezioni”.
La novità ha suscitato un dibattito sui social: screenshot della nuova politica sono stati ampiamente condivisi e commentati, con alcuni utenti che hanno elogiato la misura come un esempio di buone maniere o un “modello di welfare”, mentre altri l’hanno criticata. Su LinkedIn Barry Scannell, partner specializzato in tecnologia presso lo studio legale irlandese William Fry, ha scritto: “Non si può essere crudeli con i numeri e la matematica”.
Al centro della discussione resta il tema della possibile “coscienza” dell’intelligenza artificiale: l’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di non poter escludere tale possibilità, mentre Sam Altman, ceo della rivale OpenAI, sembra essere contrario all’idea.
