La inteligencia artificial (IA) ha sido una tendencia en evolución en el centro mismo de la ciberseguridad en los últimos años. Sin embargo, el lanzamiento de una ola de nuevas herramientas como ChatGPT y el chatbot Jasper de Microsoft ha generado nuevas preocupaciones sobre el potencial de los ciberdelincuentes para aprovechar tecnologías cada vez más sofisticadas con fines nefastos.
Hablamos con Zach Fleming, arquitecto principal de Integridad360, para explorar si la IA se puede utilizar para crear malware sofisticado y herramientas de piratería capaces de derribar redes enteras. Consideraremos qué preocupaciones son válidas destacando el estado actual de la IA y exploraremos cómo los equipos de seguridad pueden combatir mejor el uso de la IA en el delito cibernético.
BN: ¿Cuáles son algunas de las preocupaciones comunes en materia de ciberseguridad en torno al impacto de la evolución de la IA?
ZF: Desde escribir ensayos complejos hasta producir código operativo, las nuevas herramientas de inteligencia artificial como ChatGPT, Google Bard y Bing realmente han abierto nuevos caminos, completando una variedad de tareas de una manera altamente sofisticada.
Naturalmente, sin embargo, ahora existe la preocupación de que los actores de amenazas puedan abusar de esas herramientas (y de su capacidad para aprovechar enormes cantidades de datos y acelerar procesos en particular) con fines nefastos.
Específicamente, escuchamos varias preocupaciones sobre la posibilidad de que la IA se utilice para generar código malicioso y crear malware aún más peligroso.
BN: ¿Son válidas estas preocupaciones?
ZF: Debemos recordar que la mayoría de los ciberataques no son técnicamente avanzados, sino que son llevados a cabo por ‘script kiddies’ aficionados que dependen de scripts repetibles y herramientas prediseñadas.
Por supuesto, existen algunos atacantes más sofisticados capaces de descubrir vulnerabilidades novedosas y desarrollar métodos de ataque personalizados para explotarlas de manera efectiva. Sin embargo, la verdad del asunto es que las herramientas de inteligencia artificial actuales no son lo suficientemente avanzadas como para crear nuevas cepas de malware que sean más peligrosas que las que enfrentamos actualmente.
A pesar de los avances, las herramientas de IA todavía están limitadas en varios sentidos. Les cuesta navegar situaciones en las que no hay una única respuesta definitiva; están limitados por los datos que ingieren; y todavía requieren el apoyo de personas con experiencia para trabajar de forma eficaz.
Todavía necesitamos una combinación de tecnología y personas capacitadas en ciberseguridad, y esto no es diferente en el caso del ciberdelito. Por lo tanto, los modelos de IA por sí solos no facilitarán repentinamente la creación del tipo de malware que la gente teme.
BN: ¿Cuáles son las amenazas genuinas de la IA que la gente debería conocer?
ZF: Esto no quiere decir que no haya absolutamente nada de qué preocuparse. De hecho, ChatGPT y herramientas similares tienen potencial para democratizar aún más el ciberdelito.
Los proveedores de phishing como servicio (RaaS) han estado permitiendo a atacantes con habilidades técnicas limitadas o nulas llevar a cabo ataques durante algún tiempo mediante el uso de kits de herramientas prediseñados. Y con la disponibilidad pública de nuevas plataformas de IA, existe la posibilidad de que exacerben este problema.
Como ejemplo, los atacantes podrían usar ChatGPT para escribir texto haciéndose pasar por una fuente confiable de manera más convincente mientras llevan a cabo ataques de phishing.
BN: ¿Cómo deberían reaccionar los profesionales de la ciberseguridad a los avances?
ZF: Hay motivos de preocupación. Sin embargo, las herramientas de IA actuales no son lo suficientemente sofisticadas como para crear malware avanzado capaz de evadir la detección y causar daños graves en su estado actual.
No estamos diciendo que la IA no vaya a desempeñar un papel más serio en el cibercrimen en el futuro. Pero en la actualidad, la amenaza que plantea la IA sigue siendo en gran medida teórica.
Ahora no es el momento de entrar en pánico. Al combinar herramientas de seguridad eficaces con profesionales capacitados y programas complementarios, como iniciativas de educación cibernética para empleados, las redes y los sistemas pueden protegerse contra la mayoría de los ataques dirigidos por IA.
Por lo general, recomendaría a las organizaciones que se adelantaran adoptando la IA y el aprendizaje automático en sus propias defensas. Esto mejorará la familiaridad, y dichas herramientas son muy efectivas para ayudar a identificar y responder a amenazas como comportamientos maliciosos en una red a gran velocidad.
Al trabajar con un socio de ciberseguridad confiable, las herramientas de ciberseguridad basadas en IA se pueden implementar y optimizar con facilidad.
Credito de imagen: mil millonesdigital/depositphotos.com
