Ciberseguretat I IA Generativa basada en agents Nivell 1: Fonaments i riscos
Ciberseguretat I IA Generativa basada en agents Nivell 1: Fonaments i riscos
Entén els riscos reals de la IA generativa i els agents autònoms, i fes-te amb les eines pràctiques per utilitzar-los de forma segura i responsable en el teu dia a dia.
Objectius específics | Temari
OBJECTIUS
- Comprendre els conceptes fonamentals de la IA generativa basada en agents, així com els riscos més comuns associats al seu ús.
- Identificar vulnerabilitats bàsiques (com ara fuites de dades, manipulació d'entrades o comportaments no desitjats d'agents).
- Aplicar bones pràctiques de seguretat i ús responsable, incloent com protegir dades, prompts i accessos en sistemes basats en IA.
- Avaluar de manera senzilla la seguretat d'un chatbot o agent, reconeixent configuracions insegures i proposant millores bàsiques.
TEMARI
- Fonaments d'IA Generativa basada en agents
- Què és IA generativa i què és un agent autònom
- Com funcionen a nivell conceptual (models, instruccions, contextos, memòria, accions)
- Riscos Bàsics
- Exfiltració involuntària de dades
- Al·lucinacions i fiabilitat
- Exposició de prompts
- Agents que actuen sense la supervisió adequada
- Riscos tècnics i operatius
- Prompt Injection bàsica (atacs per manipulació d'instruccions)
- Vulnerabilitats en agents: Acció no autoritzada, Escalada de comportaments, "Goal hijacking"...
- Riscos en integracions (Slack, Teams, aplicacions pròpies)
- Errors típics d'empreses a l'hora de desplegar chatbots o agents
- Bones pràctiques
- Principis de seguretat aplicats a la IA generativa
- Com protegir: prompts, entrades d'usuari, dades sensibles...
- Gestió segura de l'accés a models
- Avaluació pràctica de riscos
- Identificació de riscos en un xatbot corporatiu
- Avaluació d'un agent bàsic: què en podria sortir malament?
- Checklist final per implantar IA generativa de manera segura
ITINERARI FORMATIU RECOMANAT
Nivell 1
Ciberseguretat i IA Generativa basada en agents: Fonaments
Nivell 2
Ciberseguretat i IA Generativa basada en agents
Edicions
Informació general
>> En el cas que el format sigui virtual en streaming, es realitzarà a través de la plataforma gratuïta Microsoft Teams. Les persones inscrites rebran per correu electrònic l'enllaç amb la invitació i les instruccions d'accés abans de l'inici de la sessió.
>> No es permetrà l'entrada a l'aula després de 15 minuts, un cop iniciada l'activitat.
>> L'idioma en què s'imparteix cada sessió està informat a la descripció de cada activitat.
>> Qualsevol de les accions formatives de Cibernàrium podrà ser enregistrada a través d'un sistema de captació d'imatges que té com a finalitat la seva posterior difusió a través d'un mitjà o suport en l'àmbit de la missió de Barcelona Activa de contribuir a la promoció econòmica i a l'ocupació. En el procés de gravació es poden enregistrar eventualment imatges dels/de les assistents a la formació. La inscripció a les activitats de Cibernàrium implica l'autorització a Barcelona Activa de fer ús d'aquestes imatges per a l'anterior finalitat.
CLÀUSULA D'AVÍS SOBRE L'ÚS DE LA IA
Durant el desenvolupament d'aquesta activitat s'utilitzaran eines i sistemes basats en intel·ligència artificial (IA).
Es recomana no introduir dades personals ni informació confidencial. Els continguts que es facin servir o es generin mitjançant aquestes eines poden ser emmagatzemats i processats per tercers, fora de la supervisió de BARCELONA ACTIVA i de la persona usuària.
Podeu consultar prèviament la política de privacitat del sistema d'IA que s'utilitzarà en aquesta activitat.
BARCELONA ACTIVA no assumirà cap responsabilitat pel tractament, ús, emmagatzematge o explotació que els sistemes d'IA facin de les dades o de la informació que les persones participants hi introdueixin.
Ús dels resultats.
BARCELONA ACTIVA no es farà responsable de la precisió, exactitud, veracitat o fiabilitat dels resultats generats pels sistemes d'intel·ligència artificial utilitzats durant la formació, atès que es tracta d'eines automatitzades gestionades per tercers i no es pot garantir que no continguin inexactituds, biaixos o informació incompleta.
Igualment, BARCELONA ACTIVA no assumirà cap responsabilitat per l'ús que les persones participants o tercers facin dels resultats generats per aquests sistemes d'IA, inclosa la seva aplicació, difusió, reutilització o interpretació en qualsevol context.
La participació en l'activitat implica l'acceptació expressa d'aquestes condicions.
Valoració del curs
Persona formadora
CAUBET FERNÁNDEZ
Llei Orgànica de Protecció de Dades de caràcter Personal
Hi ha una nova versió de la Llei Orgànica de Protecció de Dades de Caràcter Personal.
Si us plau, accepta-la per poder continuar amb la inscripció.
