OpenAI, l'azienda statunitense che sviluppa ChatGPT, ha annunciato lunedì che nelle prossime settimane aggiungerà watermark invisibili ai testi generati da ChatGPT e Codex nell'Unione europea, come richiesto dall'AI Act, che impone di rendere riconoscibile in formato leggibile dalle macchine il testo prodotto da sistemi di IA generativa.
La tecnologia, chiamata textGrain, inserisce un segnale statistico invisibile nelle parole scelte dai modelli; un rilevatore può cercarlo per stabilire se un testo contiene il watermark di OpenAI. L'azienda avverte che i testi brevi sono più difficili da rilevare e che modifiche, parafrasi o traduzioni possono indebolire il segnale.
Rilevare il watermark non prova che un testo sia interamente generato dall'IA, né la sua assenza prova che sia stato scritto da una persona. OpenAI ha aperto le candidature per il rilevatore, inizialmente riservato a ricercatori approvati e organizzazioni esperte.
Commenti
Accedi con Telegram per commentare.
Commenti e responsabilità. I commenti pubblicati sono di esclusiva responsabilità dei loro autori. AnotherWorld.network non risponde dei contenuti generati dagli utenti e si riserva il diritto di rimuovere senza preavviso qualsiasi commento che violi le norme di buona condotta, la legislazione vigente o le policies della pubblicazione. Chi pubblica contenuti offensivi, diffamatori, illegali o spam viene rimosso permanentemente dal canale.