CONCEPTOS DE GENAI Y SEGURIDAD DIGITAL
● Pentesting (penetration testing) consiste en encontrar vulnerabilidades en sistemas para mejorar su seguridad.
● Explotación es usar una debilidad detectada para acceder a datos, controlar dispositivos o interrumpir funciones.
● Botnet es una red de dispositivos infectados que actúa de forma coordinada para ataques, envío de spam o minería de criptomonedas. 🕷️
● Gremlin Apps son aplicaciones que parecen legítimas pero pueden ser parte de una botnet sin ser detectadas.
● Las Gremlin Apps pueden solicitar permisos de Android (como acceso al almacenamiento o número telefónico) para extraer datos o ejecutar funciones maliciosas.
● Esteganografía es la técnica de esconder información dentro de archivos aparentemente inocuos, como imágenes. 🖼️
● Un servidor de comando y control (C&C, Command and Control) da instrucciones ocultas a las Gremlin Apps mediante canales camuflados.
● APT (Advanced Persistent Threats) puede vender objetivos infectados y perfilados por Gremlin Botnets en lugar de vender malware.
● Zero Trust es un enfoque de seguridad que no confía en ningún dispositivo ni usuario, ni siquiera dentro de la red corporativa. 🔐
● BYOD (Bring Your Own Device) implica el uso de dispositivos personales en entornos corporativos, lo que requiere medidas de Zero Trust.
ALUCINACIONES EN IA Y CONTROL FÁBRIL
● Una alucinación en IA ocurre cuando el modelo genera una respuesta incorrecta que suena convincente.
● Las alucinaciones de IA pueden comprometer privacidad, seguridad y decisiones en ámbitos críticos.
● RAG (Retrieval‑Augmented Generation) evita alucinaciones al recuperar información real antes de generar una respuesta. 🧠
● Deep reasoning es la capacidad de sistemas de IA para razonar en múltiples pasos, simulando el pensamiento humano.
● El argumento del cuarto chino plantea que manipular símbolos no implica comprender su significado real. 🧩
● En entornos de Industry 4.0 e IoT, las alucinaciones pueden ocasionar fallas en sensores, maquinaria o procesos.
● Un digital twin (gemelo digital) es una réplica virtual de un objeto o sistema físico utilizada para simular y controlar su funcionamiento.
● Los gemelos digitales requieren integridad y ciberseguridad para prevenir fallos inducidos por datos falsos. 🏭
SÍNTESIS EDUCATIVA
● GenAI redefine roles técnicos al automatizar tareas en seguridad y desarrollo de software.
● Gremlin Apps demuestran cómo una app legítima puede actuar como amenaza oculta. 🎯
● Esteganografía facilita comunicación oculta entre software malicioso y servidores controladores.
● Zero Trust es clave en la protección de entornos corporativos y personales.
● Las alucinaciones de IA representan riesgos en dominios críticos, por lo que se usan técnicas como RAG y deep reasoning para mitigarlas.
● La filosofía de IA destaca que manipular símbolos no implica comprensión real, cuestionando la conciencia de las máquinas.
● Proteger digital twins es esencial para evitar sabotajes y preservar la integridad de sistemas industriales. 🧬
ENLACES:
● Evento DotNet 2025: http://www.eventbrite.co.uk/e/dotnet-2025-tickets-1318438357619
● Inscripción charla en Vigo: http://www.cistecnoloxiaedeseno.gal/intranet/campan/inscribir/175
My Diary - Leonardo Cardillo 