Los avances en el desarrollo de Inteligencia Artificial traen consigo numerosos beneficios, también en el ámbito de la ciberseguridad.
Por ejemplo, esas tecnologías sirven para detecciones automatizadas, con barridos que en ocasiones sirven para generar alertas frente a amenazas latentes. En paralelo, hay ciberamenazas que estiraron su alcance con la nueva IA.
Leé también: Ciberdelincuentes usan IA para falsear secuestros de personas: consejos del FBI para no caer en la trampa
Un informe de la empresa Huntress da cuenta de los riesgos de seguridad asociados a las herramientas de IA, en ese caso a través de un esquema silencioso y por ende peligroso.
Según advirtieron, ciberdelincuentes usan indicaciones maliciosas en los chatbots para sembrar “explosivos” en los resultados de Google. ¿Qué deben tener en cuenta los usuarios finales, para eludir esta amenaza?
Prompts maliciosos: detalles del esquema que usa la IA para atacar dispositivos
En la jerga de la Inteligencia Artificial, los prompts son las instrucciones que el usuario da al modelo, usualmente por escrito.
Por ejemplo, para generar una imagen alcanza con escribir en un chatbot una indicación como “creá un dibujo que muestre un elefante con una gorra en la cabeza”.
De acuerdo al reporte de Huntress, se registraron casos de atacantes que escriben prompts que siembran comandos peligrosos en los resultados de búsqueda de Google.
Cuando son ejecutados en los dispositivos de las víctimas, se otorga silenciosamente permisos para la instalación de malware.
¿Cómo es el proceso? Los piratas informáticos conversan con un chatbot sobre un término de búsqueda común y piden a la IA que sugiera un comando específico.
Luego hacen que ese chat sea público y pagan para promocionarlo en Google. Finalmente, cuando un usuario busca ese término, las instrucciones maliciosas aparecen en los primeros resultados.
La firma que revela el ardid señaló que realizó pruebas tanto en ChatGPT de OpenAI como en Grok de xAI, en los que descubrió un ataque de exfiltración de datos, con el mencionado esquema, dirigido a usuarios de computadoras de Apple.
En ese caso, en comando malicioso apareció al buscar “liberar espacio en el disco de la Mac”.
“Un ataque que esconde las alertas tradicionales”
Siguiendo a Engadget, la singularidad de este engaño radica en que evita casi todas las señales de alerta tradicionales.
“La víctima no tiene que descargar un archivo, instalar un ejecutable, ni siquiera hacer clic en un enlace sospechoso. Solo confía en Google y ChatGPT, que ya ha usado o del que ha oído hablar constantemente durante los últimos años”, observa la fuente.
Leé también: Ciberseguridad en la era de la IA: riesgos y recomendaciones de un experto
Para robustecer la seguridad en entornos digitales, el sentido común y la disponibilidad de información certera siguen siendo antídotos recomendados.
En este caso específico, se aconseja no pegar comandos en la barra de URLs del navegador al no tener seguridad respecto a su procedencia.
