L’azienda di Mountain View ha annunciato l’arrivo di nuove funzionalità su YouTube, due delle quali sono state sviluppate per ridurre al minimo la pubblicazione di commenti offensivi. Agli utenti verrà mostrato un avviso, se il commento viene considerato inappropriato dal sistema automatico di YouTube, mentre i proprietari dei canali potranno utilizzare uno specifico filtro.
Quando un utente scrive un commento al video nella sezione dedicata, YouTube visualizza un avviso se il contenuto potrebbe essere ritenuto offensivo per gli altri. Ciò avviene prima della pubblicazione, quindi l’utente ha il tempo di riflettere ed eventualmente modificare il commento. Nell’avviso è presente anche un link alle linee guida e un pulsante per l’editing.
Il sistema automatico non è perfetto, in quanto viene “addestrato” dalle segnalazioni degli stessi utenti, quindi è possibile comunicare che si tratta di un errore e pubblicare ugualmente il commento considerato offensivo. Ovviamente il commento può essere eliminato in seguito dal proprietario del canale o da YouTube, se non rispetta le linee guida. La funzionalità sarà inizialmente disponibile solo su Android e in inglese. Non è noto quando verrà esteso ad altre piattaforme e lingue.
La seconda novità riguarda i creatori dei video. L’azienda di Mountain View ha avviato i test per un filtro in YouTube Studio che rimuove automaticamente i commenti inappropriati tra quelli in attesa di revisione. È comunque possibile esaminarli in modo da migliorare la tecnologia di rilevamento automatico.
YouTube afferma che i sistemi attuali hanno permesso di identificare e rimuovere un numero maggiore di commenti inappropriati. Nell’ultimo trimestre sono stati rimossi oltre 1,8 milioni di canali per violazione delle linee guida.