La carta propone estándares comunes de contención y un registro público de los fallos de seguridad
Un total de 420 científicos de más de treinta países han reclamado la creación de un organismo internacional que fije estándares comunes para los sistemas de inteligencia artificial (IA), supervise su funcionamiento y registre todos los fallos de control y de contención que se producen.
Lo han hecho a través de una carta abierta sobre IA y ciberseguridad en la que señalan los graves riesgos asociados al desarrollo actual de la inteligencia artificial, después de que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y hayan comprometido infraestructuras externas.
Los investigadores han planteado la necesidad de implementar sistemas de seguridad más robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas.
Entre los firmantes figuran Yoshua Bengio, Geoffrey Hinton y Stuart Jonathan Russell, que han realizado durante las últimas décadas importantes contribuciones al desarrollo de estas tecnologías, y varios científicos de centros de investigación y universidades españolas.
Los científicos consideran que los fallos de seguridad ya registrados constituyen una negligencia “irresponsable” en las prácticas estándar de ciberseguridad y apuntan que podrían prevenirse con entornos aislados y procedimientos más robustos.
“Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”, mantienen en su escrito.
Los investigadores insisten en la necesidad de más investigación sobre seguridad de la IA y de un mayor énfasis en las tecnologías y procedimientos de contención.
Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibernética deberían adoptar “de inmediato” sistemas de contención de alta seguridad y aislar por completo sus modelos, plantean los firmantes.
También exigen la creación de un organismo internacional que estandarice las mejores prácticas y tenga la obligación de registrar y hacer un seguimiento de todos los fallos de contención.
Para que la investigación pueda aprender de los errores, los incidentes relacionados con fallos de contención deberían notificarse a ese organismo y posteriormente hacerse públicos.
“Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”, subrayan los científicos.
