I ricercatori dell’Università del Maryland hanno sviluppato una nuova variante di attacco che forzerebbe il rallentamento dei sistemi di apprendimento automatico, con conseguenti errori critici di server e applicazioni. Questo attacco è stato presentato in un recente evento sulla sicurezza informatica e si basa sull’interruzione delle tecniche di ottimizzazione presenti nelle reti neurali.
Come molti sapranno, una rete neurale è un tipo di algoritmo di apprendimento automatico che richiede un’enorme quantità di memoria e processori molto potenti per funzionare correttamente, quindi non sono implementazioni comunemente utilizzate. Molti di questi sistemi devono inviare le informazioni elaborate a un server cloud per il corretto funzionamento, implementando varie tecniche e tecnologie per ridurre al massimo la richiesta di risorse.
Uno di questi metodi di ottimizzazione è noto come architettura multiuscita o early output, che fa sì che le reti neurali interrompano l’elaborazione delle informazioni non appena raggiungono un livello minimo accettabile. Questo è un modo di lavorare creato di recente, sebbene sia già ben accettato, dicono gli esperti.
Tudor Dumitras, responsabile di questa indagine, è riuscito a sviluppare un attacco che punta direttamente contro questo processo di ottimizzazione. Identificato come DeepSloth, questo attacco comporta modifiche impercettibili ai dati di input, impedendo alle reti neurali di eseguire il processo di uscita anticipata e forzando l’applicazione di un calcolo completo di queste informazioni.
Il ricercatore afferma che questo attacco elimina l’ottimizzazione delle reti neurali: “Questo tipo di architettura può raggiungere la metà del suo consumo regolare di risorse; utilizzando DeepSloth, è possibile ridurre l’efficacia dell’approccio di uscita anticipata di quasi il 100% in modo simile a quanto accadrebbe in un attacco Denial of Service (DoS)“.
D’altra parte, negli scenari in cui una rete multiuscita è divisa tra dispositivi locali e distribuzioni cloud, un attacco può costringere il dispositivo a inviare tutti i suoi dati a un singolo server, il che può causare tutti i tipi di errori nel finale risultati attesi dagli amministratori di reti neurali.
Dumitras ha concluso la sua presentazione chiedendo agli sviluppatori di adottare nuovi approcci alla sicurezza per proteggere questi sistemi: “Questo è solo il primo di molti attacchi alle reti neurali, quindi la comunità dovrà adottare un approccio preventivo prima che sia troppo tardi”.
Source: https://www.securitynewspaper.com/2021/05/24/new-dos-attack-variant-targeting-machine-learning-networks-is-revealed/
