Dra. Romina Torres Torres
Profesora Asociada, Facultad de Ingeniería y Ciencias, Universidad Adolfo Ibáñez
Biografía
Romina Torres Torres es Profesora Asociada de la Facultad de Ingeniería y Ciencias de la Universidad Adolfo Ibáñez (UAI). Es Ingeniera Civil Informática y Doctora en Ingeniería Informática por la Universidad Técnica Federico Santa María, y cuenta con más de 20 años de experiencia en investigación, desarrollo e innovación en sistemas inteligentes responsables y seguros por diseño.
Su investigación se sitúa en la intersección entre inteligencia artificial y ciberseguridad, con foco en la identificación y mitigación de riesgos en sistemas que incorporan IA, incluyendo modelos de machine learning, modelos generativos y agentes autónomos. Sus líneas de trabajo abarcan la detección, caracterización y anticipación de ciberataques de múltiples etapas, el uso de inteligencia artificial explicable y centrada en las personas, y la seguridad de sistemas de IA en contextos organizacionales y de infraestructura crítica. Ha liderado proyectos de I+D financiados por la Agencia Nacional de Investigación y Desarrollo de Chile (ANID), entre ellos el proyecto FONDEF Intrusion.Aware, orientado al desarrollo de capacidades para detectar y responder a ciberataques mediante inteligencia artificial responsable.
Actualmente es Investigadora Asociada del Centro Nacional de Inteligencia Artificial de Chile (CENIA) y participa en el centro de I+D en sistemas ciberfísicos CPS-RTC, contribuyendo en la línea de AI Safety. Su trabajo combina investigación aplicada y transferencia tecnológica, articulando colaboraciones con academia, industria y sector público para avanzar en el desarrollo y adopción segura de tecnologías basadas en inteligencia artificial.
Descripción de la conferencia
Desarrollando sistemas inteligentes responsables: explicabilidad, privacidad y ciberseguridad
El desarrollo de sistemas inteligentes aplicados a ciberseguridad plantea desafíos que exceden el desempeño predictivo de los modelos. En escenarios operacionales, la utilidad de estos sistemas depende también de su capacidad para proporcionar explicaciones comprensibles, preservar la confidencialidad de los datos y mantener propiedades de seguridad a lo largo de su ciclo de operación. Esta charla aborda estos desafíos desde el marco de Inteligencia Artificial Responsable, concentrándose en tres dimensiones: explicabilidad, privacidad y seguridad. Se analizan mecanismos para incorporar estos principios en el diseño de sistemas de apoyo a la toma de decisiones, incluyendo técnicas de explicabilidad local, procesamiento e inferencia on-premise y mecanismos orientados a la protección de información sensible. El énfasis se sitúa en la relación entre las propiedades técnicas del modelo y los requerimientos de quienes deben interpretar sus resultados y actuar sobre ellos en contextos de alta criticidad. Como caso de estudio se presenta Intrusion.Aware (FONDEF IT24I0144), desarrollado por AwareLab de la Universidad Adolfo Ibáñez. La plataforma integra monitoreo a nivel de host, detección de intrusiones y mecanismos de explicación orientados al proceso de triage. A partir de este caso, se discuten decisiones de diseño, tensiones y desafíos asociados a la construcción de sistemas de IA que sean simultáneamente efectivos, interpretables, privados y seguros.