Mentre Google inizia a rendere disponibili i suoi ultimi strumenti di generazione video, l’azienda dice che ha un piano per garantire trasparenza sulle origini delle sue clip sempre più realistiche generate dall’intelligenza artificiale. Tutti i video realizzati dal nuovo modello Veo dell’azienda nell’app VideoFX avranno filigrane digitali grazie al sistema SynthID di Google. Inoltre, SynthID sarà in grado di filigranare il testo generato dall’intelligenza artificiale proveniente da Gemini.
Il sistema SynthID
SynthID è un sistema di filigrana digitale di Google che ha iniziato a essere distribuito su immagini generate dall’intelligenza artificiale l’anno scorso. La tecnologia incorpora filigrane impercettibili nei contenuti creati dall’intelligenza artificiale in modo che gli strumenti di rilevamento dell’intelligenza artificiale possano riconoscere che il contenuto è stato generato dall’AI. Considerando che Veo, l’ultimo modello di generazione video dell’azienda presentato in anteprima sul palco dell’I/O, può creare clip più lunghe e ad alta risoluzione rispetto a quanto era possibile in precedenza, tracciare la fonte di tali contenuti sarà sempre più importante.
Con l’avanzare dei modelli di intelligenza artificiale generativa, sempre più aziende si sono rivolte al watermarking nel timore che l’intelligenza artificiale possa alimentare una nuova ondata di disinformazione. I sistemi di watermarking fornirebbero a piattaforme come Google un quadro per rilevare i contenuti generati dall’intelligenza artificiale che altrimenti potrebbero essere impossibili da distinguere. Tic toc e Meta hanno anche recentemente annunciato piani per supportare strumenti di rilevamento simili sulle loro piattaforme ed etichettare più contenuti AI nelle loro app.
Naturalmente ci si chiede se le filigrane digitali offrono da sole una protezione sufficiente contro i contenuti ingannevoli dell’intelligenza artificiale. I ricercatori hanno dimostrato che le filigrane possono essere facilmente evase. Ma rendere rilevabili in qualche modo i contenuti realizzati con l’intelligenza artificiale è un primo passo importante verso la trasparenza.
