Ciberseguridad en IA Generativa y Agentes Autónomos Nivel 1: Fundamentos y riesgos
Ciberseguridad en IA Generativa y Agentes Autónomos Nivel 1: Fundamentos y riesgos
Entiende los riesgos reales de la IA generativa y los agentes autónomos, y hazte con las herramientas prácticas para utilizarlos de forma segura y responsable en tu día a día.
Objetivos específicos | Temario
OBJECTIUS
- Comprender los conceptos fundamentales de la IA generativa y los Agentes Autónomos, así como los riesgos más comunes asociados a su uso.
- Reconocer vulnerabilidades habituales: fugas de datos, manipulación de entradas o comportamientos no deseados.
- Aplicar buenas prácticas de seguridad y uso responsable en sistemas con IA.
- Evaluar de forma básica la seguridad de un chatbot o agente y proponer mejoras.
TEMARI
- Fundamentos de IA generativa y Agentes Autónomos
- IA generativa y agentes autónomos
- Funcionamiento conceptual: modelos, instrucciones, contexto y acciones
- Riesgos básicos
- Exfiltración de datos
- Alucinaciones y fiabilidad
- Exposición de prontos
- Falta de supervisión de los agentes
- Riesgos técnicos y operativos
- Prompt Injection básica
- Acciones no autorizadas y desviación de objetivos
- Riesgos en integraciones (Slack, Teams, apps)
- Errores comunes en el desarrollo
- Buenas prácticas
- Principios de seguridad en IA generativa
- Protección de prontos, entradas y datos sensibles
- Gestión segura de los accesos a los modelos
- Evaluación práctica de riesgos
- Análisis de un chatbot corporativo
- Riesgos potenciales de un agente básico
- Checklist para una implantación segura
ITINERARIO FORMATIVO RECOMENDADO
Nivel 1
Ciberseguridad en IA Generativa y Agentes Autónomos ¿ Fundamentos y riesgos
Nivel 2
Ciberseguridad en IA Generativa y Agentes Autónomos
Ediciones
Información general
CLÁUSULA DE AVISO SOBRE EL USO DE LA IA
Durante el desarrollo de esta actividad se utilizarán herramientas y sistemas basados en inteligencia artificial (IA).
Se recomienda no introducir datos personales ni información confidencial. Los contenidos que se utilicen o se generen mediante estas herramientas pueden ser almacenados y procesados por terceros, fuera de la supervisión de BARCELONA ACTIVA y de la persona usuaria.
Podéis consultar previamente la política de privacidad del sistema de IA que se utilizará en esta actividad.
BARCELONA ACTIVA no asumirá ninguna responsabilidad por el tratamiento, uso, almacenamiento o explotación que los sistemas de IA realicen de los datos o de la información que las personas participantes introduzcan.
Uso de los resultados.
BARCELONA ACTIVA no se hace responsable de la precisión, exactitud, veracidad o fiabilidad de los resultados generados por los sistemas de inteligencia artificial utilizados durante la formación, puesto que se trata de herramientas automatizadas gestionadas por terceros y no se puede garantizar que no contengan inexactitudes, sesgos o información incompleta.
Asimismo, BARCELONA ACTIVA no asumirá ninguna responsabilidad por el uso que las personas participantes o terceros hagan de los resultados generados por estos sistemas de IA, incluida su aplicación, difusión, reutilización o interpretación en cualquier contexto.
La participación en la actividad implica la aceptación expresa de estas condiciones.
Valoración del curso
Persona formadora
CAUBET FERNÁNDEZ
Cursos relacionados
- Ciberseguridad en IA Generativa y Agentes Autónomos Nivel 2
- Conceptos básicos de redes con CISCO PACKET TRACER
- Fundamentos de la Ciberseguridad: Preparación para el Certificado Comptia Security+
- Masterclass - El futuro de la Criptografía y la transición hacia la Criptografía Post-Cuántica (PQC)
- Masterclass - Riesgos y seguridad en sistemas de IA Generativa y Agentes
- Wireshark: Descubre qué pasa dentro de la red
Ley Orgánica de Protección de Datos de carácter Personal
Hay una nueva versión de la Ley Orgánica de Protección de Datos de Carácter Personal.
Por favor acéptela para poder continuar con la inscripción.
