Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos
Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos
Entén els riscos reals de la IA generativa i els agents autònoms, i fes-te amb les eines pràctiques per utilitzar-los de forma segura i responsable en el teu dia a dia.
Objectius específics | Temari
OBJECTIUS
- Comprendre els conceptes fonamentals de la IA generativa i els Agents Autònoms, així com els riscos més comuns associats al seu ús.
- Reconèixer vulnerabilitats habituals: fuites de dades, manipulació d'entrades o comportaments no desitjats.
- Aplicar bones pràctiques de seguretat i ús responsable en sistemes amb IA.
- Avaluar de forma bàsica la seguretat d'un chatbot o agent i proposar millores.
TEMARI
- Fonaments d'IA generativa i Agents Autònoms
- IA generativa i agents autònoms
- Funcionament conceptual: models, instruccions, context i accions
- Riscos bàsics
- Exfiltració de dades
- Al·lucinacions i fiabilitat
- Exposició de prompts
- Manca de supervisió dels agents
- Riscos tècnics i operatius
- Prompt Injection bàsica
- Accions no autoritzades i desviació d'objectius
- Riscos en integracions (Slack, Teams, apps)
- Errors comuns en el desplegament
- Bones pràctiques
- Principis de seguretat en IA generativa
- Protecció de prompts, entrades i dades sensibles
- Gestió segura dels accessos als models
- Avaluació pràctica de riscos
- Anàlisi d'un xatbot corporatiu
- Riscos potencials d'un agent bàsic
- Checklist per a una implantació segura
ITINERARI FORMATIU RECOMANAT
Nivell 1
Ciberseguretat en IA Generativa i Agents Autònoms ¿ Fonaments i riscos
Nivell 2
Ciberseguretat en IA Generativa i Agents Autònoms
Edicions
Informació general
>> En el cas que el format sigui virtual en streaming, es realitzarà a través de la plataforma gratuïta Microsoft Teams. Les persones inscrites rebran per correu electrònic l'enllaç amb la invitació i les instruccions d'accés abans de l'inici de la sessió.
>> No es permetrà l'entrada a l'aula després de 15 minuts, un cop iniciada l'activitat.
>> L'idioma en què s'imparteix cada sessió està informat a la descripció de cada activitat.
>> Qualsevol de les accions formatives de Cibernàrium podrà ser enregistrada a través d'un sistema de captació d'imatges que té com a finalitat la seva posterior difusió a través d'un mitjà o suport en l'àmbit de la missió de Barcelona Activa de contribuir a la promoció econòmica i a l'ocupació. En el procés de gravació es poden enregistrar eventualment imatges dels/de les assistents a la formació. La inscripció a les activitats de Cibernàrium implica l'autorització a Barcelona Activa de fer ús d'aquestes imatges per a l'anterior finalitat.
CLÀUSULA D'AVÍS SOBRE L'ÚS DE LA IA
Durant el desenvolupament d'aquesta activitat s'utilitzaran eines i sistemes basats en intel·ligència artificial (IA).
Es recomana no introduir dades personals ni informació confidencial. Els continguts que es facin servir o es generin mitjançant aquestes eines poden ser emmagatzemats i processats per tercers, fora de la supervisió de BARCELONA ACTIVA i de la persona usuària.
Podeu consultar prèviament la política de privacitat del sistema d'IA que s'utilitzarà en aquesta activitat.
BARCELONA ACTIVA no assumirà cap responsabilitat pel tractament, ús, emmagatzematge o explotació que els sistemes d'IA facin de les dades o de la informació que les persones participants hi introdueixin.
Ús dels resultats.
BARCELONA ACTIVA no es farà responsable de la precisió, exactitud, veracitat o fiabilitat dels resultats generats pels sistemes d'intel·ligència artificial utilitzats durant la formació, atès que es tracta d'eines automatitzades gestionades per tercers i no es pot garantir que no continguin inexactituds, biaixos o informació incompleta.
Igualment, BARCELONA ACTIVA no assumirà cap responsabilitat per l'ús que les persones participants o tercers facin dels resultats generats per aquests sistemes d'IA, inclosa la seva aplicació, difusió, reutilització o interpretació en qualsevol context.
La participació en l'activitat implica l'acceptació expressa d'aquestes condicions.
Valoració del curs
Persona formadora
CAUBET FERNÁNDEZ
Cursos relacionats
- Ciberseguretat en IA Generativa i Agents Autònoms Nivell 2
- Conceptes bàsics de xarxes amb CISCO PACKET TRACER
- Fonaments de la Ciberseguretat: Preparació per al Certificat Comptia Security+
- Masterclass - El futur de la Criptografia i la transició cap a la Criptografia Post-Quàntica (PQC)
- Masterclass - Riscos i seguretat en sistemes d'IA Generativa i Agents
- Wireshark: Descobreix què passa dins de la xarxa
Llei Orgànica de Protecció de Dades de caràcter Personal
Hi ha una nova versió de la Llei Orgànica de Protecció de Dades de Caràcter Personal.
Si us plau, accepta-la per poder continuar amb la inscripció.
