ChatGPT folosit în scopuri malițioase

Cercetătorii de la Check Point Research au observat trei situații în care persoane rău-intenționate au folosit ChatGPT în scopuri malițioase.

ChatGPT este un chatbot (aplicație care simulează conversații cu utilizatori umani) lansat în Noiembrie 2022 de OpenAI care folosește inteligența artificială pentru a oferi asistență în orice domeniu, de la scrierea de software, la înțelegerea unor subiecte complexe, redactarea de eseuri și email-uri, testarea unor scenarii de afaceri sau de piață.

Nu a durat mult timp de la lansare acestuia până la folosirea lui în scopuri malițioase. Un prim exemplu ar fi al unui atacator care a încercat să recreeze programe și tehnici malware cunoscute. Acesta a publicat codul scris în Python pentru a exfiltra 12 tipuri de fișiere cunoscute, precum documente Office, PDF sau imagini folosind ChatGPT. De asemenea, a mai arătat modul în care a utilizat ChatGPT pentru a scrie cod Java pentru a descărca clintul SSH și telnet PuTTY și să îl ruleze prin PowerShell pe anumite mașini fără a fi detectat.

Un al doilea exemplu ar fi al unui atacator numit USDoD care a publicat un script Python generat cu ajutorul ChatGTP care criptează și decriptează date folosind algoritmii criptografici Blowfish și Twofish. Cercetătorii CPR au observat că, deși codul ar putea fi folosit în scopuri utile, un atacator ar putea cu ușurință să-l modifice astfel încât să ruleze pe un sistem fără nici o interacțiune cu utilizatorul – transformându-l în ransomware în acest proces.

În al trei-lea caz cercetătorii CPR au descoperit un infractor cibernetic care discuta despre modul în care a folosit ChatGPT pentru a crea o piață Dark Web complet automatizată pentru a comercializa date furate de conturi bancare și carduri de plată, instrumente malware și o varietate de alte bunuri ilicite.

„Pentru a ilustra modul de utilizare a ChatGPT în aceste scopuri, infractorul cibernetic a publicat o bucată de cod care utilizează API-ul unei terțe părți pentru a obține prețuri actualizate ale criptomonedelor (Monero, Bitcoin și Ethereum) ca parte a sistemului de plată al pieței Dark Web”, a precizat CPR.

CPR afirmă că o persoană rău intenționată nu trebuie să aibă experiență în programare pentru a scrie programe malware, ci doar să cunoască ce funcționalitate ar trebui să îndeplinească un program malware iar ChatGPT va scrie singur codul care va executa funcționalitatea necesară.

Pentru ca infractorilor să le fie mai greu să folosească în mod abuziv aceste tehnologii, dezvoltatorii vor trebui să își antreneze și să își îmbunătățească motoarele de inteligență artificială pentru a identifica cererile care pot fi folosite în mod rău intenționat. Altă opțiune ar fi să implementeze cerințe de autentificare și autorizare pentru a utiliza motorul OpenAI.

Sursa: https://www.darkreading.com/attacks-breaches/attackers-are-already-exploiting-chatgpt-to-write-malicious-code