Um grupo de investigadores demonstrou uma nova forma de ataque a sistemas de inteligência artificial baptizada de "promptware". Usando apenas eventos de calendário aparentemente inofensivos, conseguiram induzir o Gemini da Google a executar comandos maliciosos - incluindo o controlo de dispositivos domésticos como luzes, termostatos e estores, mas podendo aplicar-se a muitas mais coisas, como portas e tudo o mais que estiver acessível para controlo digital.
O ataque funciona através da injecção indirecta de comandos: os investigadores colocaram instruções maliciosas na descrição de um evento de calendário. Quando o utilizador pede ao Gemini para resumir a sua agenda, o assistente AI interpreta esses comandos como legítimos e executava as acções sem qualquer indicação visível. Isto contorna os actuais sistemas de segurança, porque o pedido original não tem qualquer conteúdo que pareça perigoso.
O estudo mostrou que este tipo de ataque pode ir muito além do controlo de dispositivos. Entre as acções demonstradas estão a eliminação de eventos futuros, o envio de spam, insultos gerados automaticamente, e até a abertura de sites maliciosos para roubo de dados. Como muitas destas acções são efectuadas de forma diferida, torna-se difícil perceber de onde vem o problema ou como o impedir.
A vulnerabilidade foi reportada à Google, que trabalhou com os investigadores para implementar novas protecções para detectar comandos inseguros nos eventos de calendário, documentos e emails, passando também a ser necessário confirmar manualmente algumas acções. No entanto, este caso destaca os riscos crescentes da inevitável integração e expansão das capacidades associadas aos assistentes AI.
Sem comentários:
Enviar um comentário