Principais vetores de ataque contra aplicações que usam IA Generativa. Como se proteger?

A Inteligência Artificial (IA) Generativa está ganhando força em ambientes produtivos. Juntamente com essa tecnologia inovadora, estratégias são desenvolvidas para explorar suas aplicações. Nesta palestra, abordaremos conceitos e exemplos de 4 sofisticados vetores de ataque contra Modelos Fundacionais: jailbreaks, prompt injection, data poisoning e disponibilidade. Além disso, para que a barra de segurança acompanhe essas novas formas de exploração de aplicações, apresentaremos estratégias para proteger seu ambiente contra esse tipo de ameaças.