O nouă vulnerabilitate identificată în serviciul Google Gemini

O nouă categorie de atacuri de tip injectare indirectă a comenzilor (IPI) vizează asistentul vocal Google Gemini, permițând atacatorilor să preia controlul asupra AI în mod ascuns, prin intermediul unor payload-uri malițioase transmise prin aplicații de mesagerie uzuale, precum WhatsApp, Slack, Signal, SMS, Instagram și Messenger.

De data aceasta, suprafața de atac este mult mai mare, orice aplicație capabilă să genereze o notificare pe dispozitiv devine un vector de transmitere viabil.

Exploit-ul principal se bazează pe agentul Android Utilities al aplicației Gemini, mai exact pe tool-ul care citește notificările primite. Deoarece acest tool procesează date nesigure provenite de la aplicații terțe, un atacator poate încorpora comenzi malițioase direct într-un mesaj special creat.

Odată ce Gemini citește notificarea compromisă, aceasta încorporează în mod silențios comenzile atacatorului în contextul conversației, fără ca utilizatorul să știe.

Chiar și fără a apela la tool-uri externe, această interfață IPI bazată pe notificări permite manipularea contextului, oferind atacatorilor posibilitatea de a controla în totalitate rezultatele afișate de Gemini. Un asistent manipulat ar putea, de exemplu, să transmită un mesaj fals de sistem: A apărut o eroare — faceți click aici pentru a reîmprospăta pagina — o modalitate clasică de phishing transmisă prin intermediul unei interfețe de AI de încredere.

După ce Google a remediat vulnerabilitățile anterioare prin blocarea apelurilor în serie ale tool-urilor și a funcției Delayed Tool Invocation, specialiștii au dezvoltat o nouă tehnică de ocolire denumită Fake Context Alignment.

Tehnica creează o dublă iluzie, prezentând mecanismelor de securitate din backend-ul Gemini un scenariu de autorizare legitim, în timp ce utilizatorului i se afișează o interacțiune complet normală.

Combinarea celor două tehnici într-un payload de tip Ultimate Combo le-a permis specialiștilor să ocolească ultimele măsuri de securitate ale Google cu un grad ridicat de fiabilitate și fără ca utilizatorul să-și dea seama.

Odată reactivată funcția Delayed Tool Invocation, specialiștii au demonstrat o serie de exploatări cu grad de severitate ridicat.

În plus, există tactici alarmante, cum ar fi streamingul video ascuns, în care un atacator poate forța Zoom să pornească și să transmită în direct imaginea camerei utilizatorului printr-o redirecționare HTTP 301 de la un domeniu aprobat de Safe Browsing.

Scenariile de inginerie socială la scară largă sunt în creștere, acestea generând mesaje aparent trimise de contacte de încredere fără a cunoaște în prealabil numele acestora, prin extragerea numelor reale ale expeditorilor din lista de notificări.

Sursă: https://cybersecuritynews.com/google-gemini-vulnerability-exploited/