El Informe científico internacional sobre seguridad en la IA avanzada tendrá su aportación desde la red ELLIS Alicante cuya directora y vicepresidenta de ELLIS, Nuria Oliver, ha sido designada para formar parte de un órgano consultivo internacional que aportará la opinión de los expertos en esta materia.
La doctora Oliver es la representante de España junto a 32 expertos de 30 naciones, según ha anunciado el Departamento de Ciencia, Innovación y Tecnología del Gobierno británico.
Tras su anuncio en la Cumbre sobre Seguridad de la IA (AI Safety Summit) celebrada en noviembre de 2023, el Reino Unido ha encargado la elaboración del informe al informático canadiense Yoshua Bengio, galardonado con el Premio Turing de IA y miembro del Consejo Científico Asesor de la ONU sobre IA.
Punto de referencia
Este documento, primero en su género, pretende llegara a una comprensión actualizada y basada en la ciencia sobre la seguridad y los riesgos de los sistemas avanzados de IA de última generación. El informe servirá como punto de referencia y herramienta de trabajo en las próximas cumbres sobre seguridad de la IA (AI Safety Summits).
Los miembros del panel asesorarán al doctor Bengio sobre el contenido del informe y se espera que compartan y promuevan sus conclusiones en sus países de origen, garantizando que puedan orientar a los responsables políticos y a los tecnólogos en la toma de decisiones informadas sobre la seguridad de la IA.
Se espera que la primera publicación tenga lugar en la primavera de 2024 y que a finales de año se publique una segunda iteración.
Además de Nuria Oliver, los miembros del Grupo Asesor de Expertos representan a todos los continentes, incluidos el doctor Hiroaki Kitano, Director Técnico de Sony; Amandeep Gill, Enviado Técnico de las Naciones Unidas; Dame Angela McLean, Asesora Científica Principal del Gobierno Británico; y Saif M Khan, Asesor Principal del Secretario de Tecnologías Críticas y Emergentes.
