225 científicos piden cambios para evitar incidentes graves con la IA
- Si no hay cambios en las prácticas actuales, “los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes”, advierten.
París, Afp, 14 octubre 2026. Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, considerado uno de los padres de la IA, pidieron ayer “cambios inmediatos” en el desarrollo y despliegue de esta tecnología para evitar incidentes de seguridad.
En una carta abierta firmada por investigadores de 21 países, los expertos afirman que “varias organizaciones” registraron recientemente fallos de seguridad durante los cuales modelos de IA lograron salir de su entorno aislado, por no estar lo suficientemente protegido, y pusieron en riesgo sistemas de organizaciones externas.
Según los firmantes, estos incidentes pueden considerarse “como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad” y se podrían haber evitado gracias a “procedimientos más sólidos”.
Según ellos, esta situación refleja la importancia del “alineamiento” de la IA, que sirve para garantizar el comportamiento previsible de los modelos.
“Creemos que son necesarias mejoras tanto en el alineamiento de la IA (…) como en las tecnologías de aislamiento”, escriben.
Si no hay cambios en las prácticas actuales, “los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes”, advierten.
Entre los firmantes del texto también figuran el pionero de la IA Geoffrey Hinton y el experto Stuart Russel.
Los investigadores piden más trabajo sobre la seguridad de la IA, así como un uso más intensivo de las tecnologías de aislamiento.
A corto plazo, recomiendan el uso de “mecanismos de aislamiento sólidos, incluido el air gap”, es decir, la desconexión de Internet, “para los modelos dotados de capacidades cibernéticas”.
Esta advertencia llega tras una serie de incidentes en los que la IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear otras organizaciones.
El más grave fue el de dos IA de OpenAI que, durante unas pruebas, accedieron a Internet y entraron en Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.
Debate en Madrid
Hasta 150 científicos de neurociencia, inteligencia artificial, medicina y robótica se darán cita desde este miércoles hasta el próximo 16 de octubre en el Consejo Superior de Investigaciones Científicas (CSIC), en Madrid, en la Conferencia Internacional de Inferencia Activa (IWAI), organizada por el grupo de Neuro Inteligencia Artificial y Robótica del Centro de Neurociencia Cajal del CSIC, para presentar los recientes resultados sobre el estudio matemático del cerebro.
El vicepresidente del CSIC, José María Martell, será el encargado de inaugurar la jornada junto al jefe del Grupo de Neuro Inteligencia Artificial (IA) y Robótica del Centro de Neurociencia Cajal, Pablo Lanillos, según el programa oficial.
Durante el encuentro, los expertos darán respuesta a preguntas como: ¿Es el cerebro humano una máquina que predice el futuro? ¿Podemos lograr que, mediante la inteligencia artificial, los robots funcionen como el cerebro humano? o ¿para qué son útiles los modelos matemáticos del cerebro?
Entre los participantes, destacan el director del Centro de Neurotecnología de la Universidad de Washington, Rajesh P.N. Rao, experto en investigaciones de neurociencia computacional e interfaces cerebrales; Karl Friston, del University College de Londres, experto en el modelado del cerebro y la neuroimagen, y Tadahiro Taniguchi, profesor de la Universidad de Tokio, especializado en la generación de modelos de desarrollo de robots humanos.
Entre los españoles, participarán la directora del Centro de Neurociencias Cajal (CNC) del CSIC, Liset Menéndez de la Prida, experta en el estudio de circuitos neuronales y la memoria; o la matemática y escritora Carme Torras, investigadora del CSIC y de la Universidad Politécnica de Cataluña, Premio Nacional de Investigación, y especialista en IA y robótica.
Según han explicado los organizadores del encuentro en un comunicado, el objetivo es “compartir conocimientos y debatir sobre los fundamentos de la percepción, el comportamiento y la inteligencia humana y su implementación en las máquinas”.
Este año la conferencia se celebra en Madrid, en la sede central del CSIC. En las dos ediciones anteriores esta reunión se celebró en Montreal (Canadá) y en Oxford (Gran Bretaña).