Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos
Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos
Entén els riscos reals de la IA generativa i els agents autònoms, i fes-te amb les eines pràctiques per utilitzar-los de forma segura i responsable en el teu dia a dia.
Objectius específics | Temari
OBJECTIUS
- Comprendre els conceptes fonamentals de la IA generativa i els Agents Autònoms, així com els riscos més comuns associats al seu ús.
- Reconèixer vulnerabilitats habituals: fuites de dades, manipulació d'entrades o comportaments no desitjats.
- Aplicar bones pràctiques de seguretat i ús responsable en sistemes amb IA.
- Avaluar de forma bàsica la seguretat d'un chatbot o agent i proposar millores.
TEMARI
- Fonaments d'IA generativa i Agents Autònoms
- IA generativa i agents autònoms
- Funcionament conceptual: models, instruccions, context i accions
- Riscos bàsics
- Exfiltració de dades
- Al·lucinacions i fiabilitat
- Exposició de prompts
- Manca de supervisió dels agents
- Riscos tècnics i operatius
- Prompt Injection bàsica
- Accions no autoritzades i desviació d'objectius
- Riscos en integracions (Slack, Teams, apps)
- Errors comuns en el desplegament
- Bones pràctiques
- Principis de seguretat en IA generativa
- Protecció de prompts, entrades i dades sensibles
- Gestió segura dels accessos als models
- Avaluació pràctica de riscos
- Anàlisi d'un xatbot corporatiu
- Riscos potencials d'un agent bàsic
- Checklist per a una implantació segura
ITINERARI FORMATIU RECOMANAT
Nivell 1
Ciberseguretat en IA Generativa i Agents Autònoms ¿ Fonaments i riscos
Nivell 2
Ciberseguretat en IA Generativa i Agents Autònoms
Edicions
Informació general
>> En el cas de les sessions virtuals en directe amb ZOOM, les persones inscrites no rebran cap enllaç en el correu electrònic automàtic. En les instruccions del correu s'indica que l'accés s'habilita a l'Espai Personal entre 1 i 2 hores abans de l'inici de l'activitat. Consulta les normes i FAQS per a més informació.
>> En el cas que el format sigui virtual en directe a través de la plataforma gratuïta Microsoft Teams, les persones inscrites rebran per correu electrònic l'enllaç amb la invitació i les instruccions d'accés abans de l'inici de la sessió.
>> No es permetrà l'entrada a l'aula després de 15 minuts, un cop iniciada l'activitat.
>> L'idioma en què s'imparteix cada sessió està informat a la descripció de cada activitat.
CLÀUSULA D'AVÍS SOBRE L'ÚS DE LA IA
Durant el desenvolupament d'aquesta activitat s'utilitzaran eines i sistemes basats en intel·ligència artificial (IA).
Es recomana no introduir dades personals ni informació confidencial. Els continguts que es facin servir o es generin mitjançant aquestes eines poden ser emmagatzemats i processats per tercers, fora de la supervisió de BARCELONA ACTIVA i de la persona usuària.
Podeu consultar prèviament la política de privacitat del sistema d'IA que s'utilitzarà en aquesta activitat.
BARCELONA ACTIVA no assumirà cap responsabilitat pel tractament, ús, emmagatzematge o explotació que els sistemes d'IA facin de les dades o de la informació que les persones participants hi introdueixin.
Ús dels resultats.
BARCELONA ACTIVA no es farà responsable de la precisió, exactitud, veracitat o fiabilitat dels resultats generats pels sistemes d'intel·ligència artificial utilitzats durant la formació, atès que es tracta d'eines automatitzades gestionades per tercers i no es pot garantir que no continguin inexactituds, biaixos o informació incompleta.
Igualment, BARCELONA ACTIVA no assumirà cap responsabilitat per l'ús que les persones participants o tercers facin dels resultats generats per aquests sistemes d'IA, inclosa la seva aplicació, difusió, reutilització o interpretació en qualsevol context.
La participació en l'activitat implica l'acceptació expressa d'aquestes condicions.
Valoració del curs
Persona formadora
CAUBET FERNÁNDEZ
Cursos relacionats
- Ciberseguretat amb Python
- Ciberseguretat en IA Generativa i Agents Autònoms Nivell 2
- Ciberseguretat i dades: protegint el valor digital
- Conceptes bàsics de xarxes amb CISCO PACKET TRACER
- Fonaments de la Ciberseguretat: Preparació per al Certificat Comptia Security+
- Wireshark: Descobreix què passa dins de la xarxa
