Masterclass - Riscos i seguretat en sistemes d'IA Generativa i Agents
Aquesta Masterclass ofereix una visió estratègica sobre els riscos i reptes de seguretat associats a la IA generativa i als agents autònoms. S'hi analitzen riscos tècnics, organitzatius i legals, així com marcs de seguretat, governsança i bones pràctiques per desplegar sistemes d'IA de manera segura, responsable i alineada amb la regulació vigent.
Objectius específics | Temari
OBJECTIUS
- Comprendre els riscos específics associats a la IA generativa i als agents autònoms des d'una perspectiva global.
- Identificar mesures de control i mecanismes de mitigació per reduir riscos tècnics, operatius i reputacionals.
- Conèixer els principals marcs normatius i reguladors aplicables i el seu impacte en l'ús de la IA.
- Disposar de criteris i bones pràctiques de referència per orientar el disseny, la governança i l'ús responsable de sistemes basats en IA.
TEMARI
- Context i conceptes clau
- Què és la IA generativa i quines capacitats ofereix.
- Què són els agents autònoms i com es diferencien dels models tradicionals.
- Riscos de seguretat en la IA generativa
- Riscos tècnics associats als models.
- Riscos organitzatius i de negoci.
- Riscos legals i de compliment normatiu.
- Riscos emergents en sistemes agèntics
- Nous vectors de risc i pèrdua de control.
- Casos reals il·lustratius (sense contingut sensible).
- Marcs de seguretat per a IA generativa i agents autònoms
- Principis fonamentals de seguretat i responsabilitat.
- Controls tècnics i organitzatius recomanats.
- Bones pràctiques i governança
- Disseny segur de sistemes basats en IA.
- Models de governança interna.
- Formació, cultura i presa de decisions informada.
Edicions
Informació general
>> En el cas que el format sigui virtual en streaming, es realitzarà a través de la plataforma gratuïta Microsoft Teams. Les persones inscrites rebran per correu electrònic l'enllaç amb la invitació i les instruccions d'accés abans de l'inici de la sessió.
>> No es permetrà l'entrada a l'aula després de 15 minuts, un cop iniciada l'activitat.
>> L'idioma en què s'imparteix cada sessió està informat a la descripció de cada activitat.
>> Qualsevol de les accions formatives de Cibernàrium podrà ser enregistrada a través d'un sistema de captació d'imatges que té com a finalitat la seva posterior difusió a través d'un mitjà o suport en l'àmbit de la missió de Barcelona Activa de contribuir a la promoció econòmica i a l'ocupació. En el procés de gravació es poden enregistrar eventualment imatges dels/de les assistents a la formació. La inscripció a les activitats de Cibernàrium implica l'autorització a Barcelona Activa de fer ús d'aquestes imatges per a l'anterior finalitat.
Persona formadora
CAUBET FERNÁNDEZ
Cursos relacionats
- Ciberseguretat amb Python
- Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos
- Ciberseguretat en IA Generativa i Agents Autònoms Nivell 2
- Conceptes bàsics de xarxes amb CISCO PACKET TRACER
- Fonaments de la Ciberseguretat: Preparació per al Certificat Comptia Security+
- Wireshark: Descobreix què passa dins de la xarxa
