Noticias

Retos de ChatGPT para la ciberseguridad

By 28/03/2023 No Comments

El experto de FortiGuard Labs explica cómo funciona esta tecnología de inteligencia artificial y qué desafíos abre en términos de ciberseguridad.

Estas últimas semanas, hemos oído hablar mucho sobre el ChatGPT o su reciente nueva versión GPT-4, y cómo este chat, basado en inteligencia artificial, puede llegar a trasformar la manera en la que nos comunicamos con los buscadores tradicionales, creamos textos, enviamos mensajes etc. La forma en la que opera está basada en un modelo de lenguaje con más de 175 millones de parámetros, entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje, desde la traducción hasta la generación de texto, utilizando algoritmos de inteligencia artificial (IA) como procesamiento de lenguaje natural (NPL), entre otros.

Esto convierte a ChatGPT en una IA generativa, capaz de replicar la forma de pensar de una persona, creando así contenido. Y, si bien esta tecnología desarrollada por la empresa Open AI puede traducirse en un sinfín de beneficios, trae consigo importantes retos a nivel seguridad, igual que cualquier tecnología emergente que opere en el ciberespacio.

Imaginemos por un momento que un cibercriminal quiere enviar un correo electrónico de phishing a un empleado fingiendo ser el gerente de una organización. Puede utilizar fácilmente la tecnología basada en IA no solo para crear la plantilla, sino también para simular la escritura de otra persona. Aunque la herramienta tenga restricciones para evitar sus usos con propósitos delictivos, existen casos en los cuales se pueden evadir para generar un código malicioso, encontrar y explotar brechas de seguridad y distribuir malware, además de que puede ser combinado con otras herramientas basadas en IA para realizar deep fakes de voz y simular la voz de una persona (un director o un CEO) para cometer fraudes.

Si a esto le sumamos que podría reducir el costo de entrada basado en habilidades para nuevos atacantes al realizar de manera automatizada algunas tareas requeridas por los ciberdelicuentes menos calificados, los riesgos son enormes.

Sin embargo, existen formas de mantenernos a salvo. Ante este escenario, hoy es más importante que nunca apegarnos a buenas prácticas de ciberseguridad. Es crucial estar al tanto de los riesgos a través de entrenamientos básicos sobre concientización y capacitación en temas relacionados al panorama de amenazas, sus avances y cómo evitar ser víctimas ante cualquier intento de fraude, además de promover buenas prácticas de ciberhigiene entre nuestros colaboradores y allegados.

Para las organizaciones, es importante asegurarse de diseñar un plan integral de ciberseguridad que involucre a cada miembro de la organización, sin importar el papel que desempeñe o el área a la que pertenezca porque, como decimos siempre en Fortinet: “la ciberseguridad es un trabajo que corresponde a todos y la primera línea de defensa es siempre el factor humano”. Adicionalmente, es recomendable apalancarse de la tecnología utilizando enfoques orientados a “zero trust que incluyan autenticación multifactor de usuarios, soluciones de detección y respuesta para endpoint (EDR), contar con un servicio de monitoreo digital de riesgos y un plan de respuesta a incidentes.

Estamos viviendo en un panorama de ciberamenazas que crece a un modo exponencial. Tan solo en el  2022, se detectaron 360 mil millones de intentos de ciberataques en América Latina y el Caribe; en México estos fueron 187 mil millones, de acuerdo con los últimos datos obtenidos por FortiGuard Labs de Fortinet.

Ante la llegada de herramientas que hacen uso intensivo de inteligencia artificial, como ChatGPT o GPT-4, podemos esperar que las ciberamenazas sigas evolucionando y creciendo, lo que convierte a la prevención y la educación en nuestros mejores aliados para mantenernos más seguros y crear entre todos un mundo digital en el que todos podamos confiar.

Fuente: https://www.computerweekly.com/es/opinion/Retos-de-ChatGPT-para-la-ciberseguridad