OpenAI, l'azienda statunitense che sviluppa ChatGPT, ha annunciato lunedì che nelle prossime settimane aggiungerà watermark invisibili ai testi generati da ChatGPT e Codex nell'Unione europea, come richiesto dall'AI Act, che impone di rendere riconoscibile in formato leggibile dalle macchine il testo prodotto da sistemi di IA generativa.
La tecnologia, chiamata textGrain, inserisce un segnale statistico invisibile nelle parole scelte dai modelli; un rilevatore può cercarlo per stabilire se un testo contiene il watermark di OpenAI. L'azienda avverte che i testi brevi sono più difficili da rilevare e che modifiche, parafrasi o traduzioni possono indebolire il segnale.
Rilevare il watermark non prova che un testo sia interamente generato dall'IA, né la sua assenza prova che sia stato scritto da una persona. OpenAI ha aperto le candidature per il rilevatore, inizialmente riservato a ricercatori approvati e organizzazioni esperte.
Commenti
I commenti continuano sull'edizione del giorno: leggi l'ultima edizione e commenta le sue voci →.
Accedi con Telegram per commentare.
Commenti e responsabilità. Questo spazio è per discutere, non per convincere: le opinioni sono di chi le scrive, e qui si può contestare anche quello che abbiamo scritto. Passiamo a leggere tutti i commenti prima di pubblicarli, quindi il tuo può metterci un po' a comparire — è il tempo che ci serve per tenere la conversazione civile. Diamo per scontato un atteggiamento corretto; se qualcosa sfugge, lo togliamo. Quanto sopra vale come esclusione di responsabilità per i contenuti degli utenti ai sensi della normativa applicabile.