Hacking AI: Explorando las Vulnerabilidades de la Inteligencia Artificial

Fecha/hora/lugar: 8 de octubre de 2024 / de 10:00 a 12:00 / aula Ziur

Clasificación erronea de una imágen de un panda como un gibón a causa de añadirle un ruido. La imágen no cambia para la vista humana pero ucho para el modelo IA.

Contenido

Los modelos de Inteligencia Artificial (IA) son actualmente el núcleo de una amplia gama de tecnologías desplegadas en tareas críticas, como la detección de malware o la conducción autónoma. Sin embargo, estos modelos presentan vulnerabilidades que pueden ser fácilmente explotadas con fines maliciosos, comprometiendo gravemente su fiabilidad. En esta sesión expondremos los diferentes tipos de vulnerabilidades que presentan los sistemas basados en IA, y analizaremos cómo los ataques existentes pueden comprometer la seguridad y privacidad de modelos desplegados en aplicaciones reales, incluyendo modelos populares como ChatGPT.

Inscripción

La inscripción es gratuita. Basta con que envíes un email a dif.ziur@ehu.eus con el tema INSCRIPCIÓN HACKING AI y con tus datos de contacto (nombre+apellidos, email) en el cuerpo del mensaje. Deadline para apuntarse: 2024-10-06.

Requisitos

Conocimientos básicos del lenguaje de programación Python y un ordenador con acceso a internet.

Ponentes

Jon Vadillo es profesor en el Departamento de Ciencia de la Computación e Inteligencia Artificial y miembro del grupo de investigación Intelligent Systems Group.