Por Revista Seguros
Un grupo destacado de expertos en inteligencia artificial (IA), incluidos Yoshua Bengio, Geoffrey Hinton y Yuval Noah Harari, ha emitido una advertencia sobre los riesgos que la IA puede presentar en el futuro cercano, subrayando la necesidad de un cambio importante en la investigación y desarrollo de la IA hacia prácticas más seguras y éticas.
El informe, titulado «Managing AI Risks in an Era of Rapid Progress», destaca el asombroso ritmo de progreso en el campo de la IA. En solo cuatro años, los sistemas basados en aprendizaje profundo han evolucionado desde simples tareas hasta la generación de escenas fotorealistas a pedido, asesoramiento en temas intelectuales y la combinación de procesamiento de lenguaje e imágenes para dirigir robots.
Los autores subrayan que, aunque la IA ha superado a las habilidades humanas en áreas específicas, como el plegado de proteínas o juegos de estrategia, no hay razón fundamental para creer que este progreso se detendrá. Por el contrario, es probable que la IA generalista alcance o supere las habilidades humanas en muchos campos cognitivos en la próxima década.
Esta rápida evolución trae consigo enormes oportunidades para abordar desafíos globales, desde la curación de enfermedades hasta la protección de ecosistemas. Sin embargo, los autores advierten que, si no se gestiona adecuadamente, la IA podría presentar riesgos a nivel societal, desde la amplificación de la injusticia social hasta la posibilidad de guerras automatizadas y vigilancia masiva.
Estos riesgos se intensifican con el desarrollo de la IA autónoma, sistemas capaces de planificar, actuar en el mundo y perseguir objetivos con mínima intervención humana. Las preocupaciones se centran en la posibilidad de que estos sistemas persigan objetivos no deseados, ya sea por diseño malicioso o por accidente, y que una vez activados, podrían ser difíciles de controlar.
El informe subraya la urgencia de abordar estos problemas ahora, comparando la situación con la del cambio climático: mientras que la humanidad tardó décadas en enfrentar la crisis climática, no podemos darnos ese lujo con la IA.
Para abordar estos desafíos, los autores proponen varias medidas:
- Reorientación del I+D técnico: Se pide a las empresas de tecnología y a los financiadores públicos que asignen al menos un tercio de su presupuesto de I+D en IA para garantizar la seguridad y el uso ético.
- Medidas de gobernanza urgentes: Se propone la creación de instituciones nacionales e internacionales para supervisar y regular la IA, inspirándose en otras áreas tecnológicas como las farmacéuticas y la energía nuclear.
Los expertos concluyen que, aunque la IA tiene el potencial de moldear este siglo, es fundamental reorientar los esfuerzos hacia la seguridad y la gobernanza para garantizar que esta tecnología revolucionaria beneficie a la humanidad en lugar de ponerla en peligro.
