5 minacce informatiche che i criminali possono generare con l'aiuto di ChatGPT
Pubblicato da Angelo Domeneghini in Intelligenza Artificiale - AI · 12 Giugno 2023
Tags: #AI, #IA, #ChatGPT
Tags: #AI, #IA, #ChatGPT
5 minacce informatiche che i criminali possono generare con l'aiuto di ChatGPT
ChatGPT, l'intelligenza artificiale generativa pubblica, annunciata alla fine di novembre 2022, ha sollevato legittime preoccupazioni sul suo potenziale di amplificare la gravità e la complessità delle minacce informatiche.
In effetti, non appena OpenAI ne ha annunciato il rilascio, molti esperti di sicurezza hanno previsto che sarebbe stata solo una questione di tempo perché gli attaccanti iniziassero a utilizzare questo chatbot AI per creare malware o incrementare gli attacchi di phishing.
E non ci è voluto molto perché i loro sospetti fossero confermati, poiché è stato scoperto che i criminali informatici hanno già iniziato a utilizzare questo strumento basato sul modello di linguaggio GPT-3 AI per ricreare ceppi di malware e perpetrare diversi tipi di attacchi. Ai criminali informatici basta semplicemente disporre di un account OpenAI, che possono creare gratuitamente dal sito Web, e quindi effettuare una query.
Cosa possono fare i criminali informatici con ChatGPT?
Gli attaccanti possono sfruttare l'intelligenza artificiale generativa di ChatGPT per creare attività malevole, tra cui:
Phishing:
Gli attori delle minacce possono utilizzare il modello LLM (Large Language Model) del sistema ChatGPT per discostarsi dai copioni universali e automatizzare la creazione di e-mail di phishing o spoofing uniche, scritte con una grammatica perfetta e schemi vocali naturali su misura per ogni target. Ciò significa che gli attacchi e-mail realizzati con l'aiuto di questa tecnologia sembrano molto più convincenti, e questo rende più difficile per i destinatari rilevarli ed evitare di fare clic su collegamenti malevoli che potrebbero contenere malware.
Furto d'identità:
Oltre al phishing, i malintenzionati possono utilizzare ChatGPT anche per impersonare un'istituzione di fiducia, grazie alla capacità dell’AI di replicare il tono e i discorsi aziendali di una banca o di un'organizzazione, e quindi sfruttare questi messaggi sui social media, con SMS o via e-mail per ottenere informazioni private e finanziarie dalle persone. Sfruttando questa capacità, i malintenzionati possono anche scrivere post sui social media fingendosi celebrità.
Altri attacchi di social engineering:
Possono essere sferrati attacchi di social engineering in cui gli attori utilizzano il modello per creare falsi profili sui social media, facendoli sembrare molto realistici, e quindi indurre le persone a fare clic su collegamenti malevoli o persuaderli a fornire informazioni personali.
Creazione di bot malevoli:
ChatGPT può essere utilizzato per creare chatbot, in quanto dispone di un'API che può alimentare altre chat. La sua interfaccia semplice da utilizzare, progettata per scopi benefici, può essere utilizzata per ingannare le persone e attuare truffe persuasive, nonché per diffondere spam o sferrare attacchi di phishing.
Malware
ChatGPT può essere d’aiuto per svolgere attività che generalmente richiedono competenze di alto livello, come creare codice in vari linguaggi di programmazione. Il modello consente ad autori delle minacce con limitate capacità tecniche o che non sanno scrivere codice di sviluppare malware. ChatGPT lo scrive semplicemente sapendo di quali funzionalità dovrebbe disporre il malware.
I criminali informatici più sofisticati potrebbero invece utilizzare questa tecnologia anche per rendere le loro minacce più efficaci o per colmare lacune esistenti. In un caso condiviso da un criminale su un forum,
ChatGPT è stato sfruttato per creare malware utilizzando codice basato su Python in grado di cercare, copiare ed esfiltrare 12 tipi di file comuni, come documenti di Office, PDF e immagini da un sistema infetto. In altre parole, se trova un file di interesse, il malware lo copia in una directory temporanea, lo comprime e lo invia sul web.
Lo stesso autore di malware ha anche mostrato come aveva usato ChatGPT per scrivere codice Java per scaricare il client SSH e telnet PuTTY ed eseguirlo segretamente su un sistema tramite PowerShell.
Le minacce avanzate richiedono soluzioni avanzate
Le minacce informatiche avanzate devono essere affrontate con soluzioni all'altezza del compito. WatchGuard EPDR racchiude in un’unica soluzione funzionalità EPP per la protezione degli endpoint e funzionalità EDR di rilevamento e risposta. Grazie ai suoi nuovi ed emergenti modelli di intelligenza artificiale (AI) per machine learning e deep learning, WatchGuard EPDR protegge da minacce avanzate, minacce persistenti avanzate (APT), malware zero-day, ransomware, phishing, rootkit, vulnerabilità della memoria e attacchi privi di malware, oltre a fornire visibilità completa sugli endpoint e i server, nonché monitoraggio e rilevamento di attività malevole in grado di eludere la maggior parte delle soluzioni antivirus tradizionali.
Inoltre, monitora continuamente tutte le applicazioni e rileva comportamenti dannosi, anche se provengono da applicazioni legittime. In aggiunta, è in grado di orchestrare una risposta automatica e, a sua volta, fornire le informazioni forensi necessarie per indagare a fondo su ogni tentativo di attacco attraverso indicatori avanzati (IoA).
In breve, l'innovazione di uno strumento come ChatGPT può essere positiva per il mondo e cambiare i paradigmi attuali, ma può anche causare gravi danni se cade nelle mani sbagliate. Con la giusta soluzione di sicurezza informatica si può impedire che il lato negativo di strumenti promettenti come questo raggiunga la tua organizzazione attraverso l'uso improprio che i malintenzionati possono farne.