To, że po ten bot sięgną również hakerzy, było tylko kwestią czasu. Są już pierwsze informacje o tym, że zaczyna on być używany do pisania szkodliwego oprogramowania, które atakuje systemy IT. I chociaż twórcy botów AI przewidzieli taką możliwość (tworząc regulamin zabraniający pisania szkodliwych programów typu ransomware, keylogger, wirusów czy innych narzędzi mających na celu atakowania systemów IT), to nic to nie dało.

Nawet pobieżna obserwacja kilku głównych for hakerskich pokazuje, że cyberprzestępcy włączyli już do swojego arsenału ChatGPT, wykorzystując go do pisania złośliwego oprogramowania. Jest to najczęściej malware napisany w języku Python, który kradnie z komputerów dane, Wyszukuje najpierw popularne pliki (takie jak Microsoft Office czy PDF), kopiuje je, a następnie przesyła na stworzony przez hakera serwer. Analiza stworzonych przez ChatGPT złośliwych skryptów pokazuje, że mogą one też szyfrować pliki i działać jak typowy ransomware, żądając od ofiary zapłacenia okupu za odkodowanie plików.

Zobacz również:

• Palo Alto wzywa pilnie użytkowników jej zapór sieciowych, aby jak najszybciej zaktualizowali zarządzające nimi oprogramowanie
• Ta technika rozwiązuje problem ograniczonej wielkości okien kontekstowych obsługujących modele językowe LLM
• Blaski i cienie AI

Są też przykłady wykorzystania bota ChatGPT do stworzenia złośliwego oprogramowania opartego na Javie, które potrafi zdalnie zagnieżdżać na zaatakowanym systemie malware i w tym samym trybie uruchamiać go. Co gorsze, cyberprzestępcy próbują już wykorzystać ChatGPT nie tylko w celu tworzenia złośliwego oprogramowania, ale bardziej zawansowanych skryptów, potrafiących obsługiwać funkcjonujące automatycznie środowiska darknet, które handlują skradzionymi danymi.