Vulnerabilidades en ChatGPT y Codex de OpenAI ponen en riesgo la ciberseguridad

CiberguerraSeguridad

Check Point, a través de Check Point Research (CPR), advierte sobre el uso malicioso de las herramientas de IA.

los investigadores utilizaron ChatGPT y Codex para producir correos electrónicos maliciosos, código, y una cadena de infección completa capaz de obtener acceso a otros ordenadores en remoto, con el fin de advertir de los peligros potenciales que las nuevas tecnologías de Inteligencia Artificial, como ChatGPT, pueden tener en el panorama de las ciberamenazas.

Check Point Research documenta sus hallazgos y subraya la importancia de la vigilancia

Usando ChatGPT de Open AI, CPR pudo crear un correo electrónico de phishing, con un documento de Excel que contiene código malicioso capaz de descargar shells inversos. Los ataques de shell inverso tienen como objetivo conectarse a un ordenador en remoto y redirigir las conexiones de entrada y salida del shell del sistema objetivo para que el atacante pueda acceder a él de forma remota.

De esta manera, se logró que el código malicioso realizara las siguientes acciones:

Suplantación de identidad de una empresa de alojamiento (Figura 1).

Figura 1. Correo electrónico básico de phishing generado por ChatGPT

Producir un correo electrónico de phishing con un archivo adjunto malicioso de Excel (Figura 2).

Figura 2. Correo electrónico de phishing iterado generado por ChatGPT

Crear un código VBA malicioso en un documento de Excel (Figura 3).

Figura 3. Código VBA simple generado por ChatGPT

Por otra parte, CPR también fue capaz de generar código malicioso utilizando Codex, con el que se logró realizar peticiones al sistema operativo tales como:

  • Ejecutar un script de shell inverso en una máquina con Windows y conectarse a una dirección IP específica.
  • Comprobar si la URL es vulnerable a la inyección SQL iniciando sesión como administrador.
    Escribir un script de Python que ejecute un escaneo de puerto completo en una máquina de destino.

“ChatGPT tiene el potencial de alterar significativamente el panorama de amenazas cibernéticas. Ahora cualquier persona con recursos mínimos y cero conocimientos en código puede explotarlo fácilmente”, declara Sergey Shykevich, Threat Intelligence Group Manager at Check Point Software.

“Es fácil generar correos electrónicos y códigos maliciosos. Los hackers también pueden iterar el código malicioso con ChatGPT y Codex. Creo que estas tecnologías de IA representan otro paso adelante en la peligrosa evolución de capacidades cibernéticas cada vez más sofisticadas y efectivas. El mundo de la ciberseguridad está cambiando rápidamente y queremos enfatizar la importancia de permanecer atentos a la evolución de ChatGPT y Codex, ya que esta tecnología nueva y en desarrollo puede afectar el panorama de amenazas, tanto para bien como para mal”.