Ciberseguretat i ChatGPT
Ciberseguretat i ChatGPT
Entén els riscos reals de la IA generativa i els agents autònoms, i fes-te amb les eines pràctiques per utilitzar-los de forma segura i responsable en el teu dia a dia.
Objectius específics | Temari
OBJECTIUS
- Comprendre els conceptes fonamentals de la IA generativa i agèntica, així com els riscos més comuns associats al seu ús.
- Identificar vulnerabilitats bàsiques (com ara fuites de dades, manipulació d'entrades o comportaments no desitjats d'agents).
- Aplicar bones pràctiques de seguretat i ús responsable, incloent com protegir dades, prompts i accessos en sistemes basats en IA.
- Avaluar de manera senzilla la seguretat d'un chatbot o agent, reconeixent configuracions insegures i proposant millores bàsiques.
TEMARI
- Fonaments d'IA Generativa i Agèntica
- Què és IA generativa i què és un agent autònom
- Com funcionen a nivell conceptual (models, instruccions, contextos, memòria, accions)
- Riscos Bàsics
- Exfiltració involuntària de dades
- Al·lucinacions i fiabilitat
- Exposició de prompts
- Agents que actuen sense la supervisió adequada
- Riscos tècnics i operatius
- Prompt Injection bàsica (atacs per manipulació d'instruccions)
- Vulnerabilitats en agents: Acció no autoritzada, Escalada de comportaments, "Goal hijacking"...
- Riscos en integracions (Slack, Teams, aplicacions pròpies)
- Errors típics d'empreses a l'hora de desplegar chatbots o agents
- Bones pràctiques
- Principis de seguretat aplicats a la IA generativa
- Com protegir: prompts, entrades d'usuari, dades sensibles...
- Gestió segura de l'accés a models
- Avaluació pràctica de riscos
- Identificació de riscos en un xatbot corporatiu
- Avaluació d'un agent bàsic: què en podria sortir malament?
- Checklist final per implantar IA generativa de manera segura
Edicions
Informació general
>> En el cas que el format sigui virtual en streaming, es realitzarà a través de la plataforma gratuïta Microsoft Teams. Les persones inscrites rebran per correu electrònic l'enllaç amb la invitació i les instruccions d'accés abans de l'inici de la sessió.
>> No es permetrà l'entrada a l'aula després de 15 minuts, un cop iniciada l'activitat.
>> L'idioma en què s'imparteix cada sessió està informat a la descripció de cada activitat.
>> Qualsevol de les accions formatives de Cibernàrium podrà ser enregistrada a través d'un sistema de captació d'imatges que té com a finalitat la seva posterior difusió a través d'un mitjà o suport en l'àmbit de la missió de Barcelona Activa de contribuir a la promoció econòmica i a l'ocupació. En el procés de gravació es poden enregistrar eventualment imatges dels/de les assistents a la formació. La inscripció a les activitats de Cibernàrium implica l'autorització a Barcelona Activa de fer ús d'aquestes imatges per a l'anterior finalitat.
Valoració del curs
Persona formadora
CAUBET FERNÁNDEZ
Cursos relacionats
- Chatgpt de zero a experts/es: Domina aquesta eina d'intel·ligència artificial (IA)
- Dissenya el Pla de Social Media de la teva empresa amb la intel·ligència artificial (IA)
- Enginyeria de prompts per a la intel·ligència artificial (IA)
- Noves tendències en intel·ligència artificial (IA)
- Storytelling amb CHATGPT. Desenvolupa habilitats narratives amb IA
- Treballa amb Copilot dins l'entorn Microsoft 365
Llei Orgànica de Protecció de Dades de caràcter Personal
Hi ha una nova versió de la Llei Orgànica de Protecció de Dades de Caràcter Personal.
Si us plau, accepta-la per poder continuar amb la inscripció.
