Addio al cyberbullismo online grazie a un'app basata sull'IA: come funziona
Un finanziamento di 230mila euro è stato assegnato al progetto "Net Guardian", una applicazione sviluppata dall'Università di Padova insieme a Fondazione Carolina Onlus, con risorse di Fondazione Tim tramite il bando Call for Ideas-Ricerca e Istruzione. Il progetto, avviato a febbraio e che si concluderà a giugno 2025, punta a sviluppare una app a disposizione di studenti, servizi scolastici e associazioni, basata su un modello di Intelligenza Artificiale in grado di misurare l'esposizione al rischio di violenze on line nelle conversazioni digitali.
Prevede l'individuazione e la classificazione dei rischi su tutte le piattaforme di messaggistica, per attivare interventi mirati in base alla gravità dell'aggressione verbale rilevata, valutando il linguaggio utilizzato su una scala da 1 a 10, dal minimo al massimo rischio. L'algoritmo di Machine Learning per l'analisi automatizzata del testo utilizza il modello di Deep Learning "Bert" di Google.
"Se il valore - spiega Gian Piero Turchi, coordinatore del progetto - oscilla tra 1 e 3 (basso rischio) verrà chiesto allo user di continuare ad inserire nell'App le successive conversazioni; se il valore è tra 4 e 7 (medio rischio) si consiglia allo user di prendere contatti con i servizi del territorio; se il valore è superiore a 7 si avvisa lo user che verrà contattato da una task force di cyberbullismo". Partner chiave del progetto è Fondazione Carolina, dedicata a Carolina Picchio, prima vittima riconosciuta in Italia di cyberbullimso, impegnata dal 2018 per il benessere digitale delle nuove generazioni.
