Новият чатбот ChatGPT на OpenAI, задвижван от AI, се използва от киберпрестъпници за писане на зловреден софтуер и подобряване на операциите.
Нов базиран на AI ChatBot се използва за писане на зловреден софтуер
Експерти по киберсигурност от Check Point Research откриха хакери, използващи чатбота ChatGPT, за да пишат злонамерен код и да подобряват операциите за киберпрестъпления.
На 30 ноември 2022 г. OpenAI стартира свой собствен чатбот, известен като ChatGPT. Този чатбот може да участва в разговори с потребители, но не след дълго след датата на стартиране киберпрестъпниците започнаха да злоупотребяват с този бот.
В Изследователска публикация на Check Point, беше написано, че изследователите са открили тема, наречена „ChatGPT – Предимства на зловреден софтуер“ във форум за хакерство. Авторът изглежда „експериментира с ChatGPT, за да пресъздаде щамове и техники на зловреден софтуер описан в изследователски публикации и статии за често срещан зловреден софтуер“, и сподели пример за тяхната работа; крадец, базиран на Python, който "търси често срещани типове файлове, копира ги в произволна папка в папката Temp, архивира ги в ZIP и ги качва на твърдо кодиран FTP сървър."
Check Point Research предупреди обществеността в Twitter, заявявайки, че „злоупотребата с #ChatGPT вече не е теоретична“.
Check Point Research потвърди твърденията на автора
След оценка на примера за скрипт за злонамерен софтуер, предоставен в публикацията във форума за хакерство, Check Point Research установи, че той е легитимен.
Беше установено, че този специфичен вид злонамерен софтуер може да търси дванадесет често срещани типа файлове, включително PDF файлове, документи на Microsoft Office и изображения. Ако зловредният софтуер открие потенциално ценни файлове, те се копират и компресират. След това на оператора на зловреден софтуер се изпращат копираните файлове чрез онлайн връзка.
Check Point Research също отбеляза, че операторът на зловреден софтуер не е шифровал копираните файлове или ги е изпратил сигурно, което означава, че те могат да попаднат в ръцете на трети страни.
ChatDPT се използва за допълнителни незаконни дейности
Check Point Research също заяви в гореспоменатата публикация, че заплахите могат да използват ChatGPT за други престъпни дейности. Допълнителна дискусия, озаглавена „Злоупотреба с ChatGPT за създаване на скриптове на Dark Web Marketplaces.“, беше открита от Проучване на Check Point, в което авторът показа колко лесно е да се създаде пазар на Dark Web, използвайки ChatGPT."
В темата авторът публикува код, който може да получава цени на криптовалута на живо, използвайки API на трета страна. След това това допринесе за крипто-базирани платежни системи, често използвани в тъмната мрежа.
Изследванията на Check Point заключиха, че „Все още е твърде рано да се реши дали възможностите на ChatGPT ще се превърнат в новия любим инструмент за участници в Тъмната мрежа." Компанията ще продължи да наблюдава незаконното използване на ChatGPT през 2023 г., за да види как се развиват нещата навън.
Изкуственият интелект може да продължи да бъде използван от киберпрестъпници
Тъй като изкуственият интелект продължава да се развива, е вероятно заплахите да продължат да търсят нови начини за злоупотреба с него. Времето ще покаже дали ChatGPT ще стане популярен сред киберпрестъпниците или друг базиран на изкуствен интелект инструмент ще вземе тортата.