La EDA advierte de los peligros de la inteligencia artificial

"Estamos entrando en un mundo en el que los drones pueden buscar de forma independiente un objetivo y matar sin intervención humana”. La responsable de la Agencia Europea de Defensa (EDA), Federica Mogherini, advierte con estas palabras de los peligros de la nueva tecnología. “La inteligencia artificial podría tomar decisiones sobre la vida y la muerte, sin el control directo de un ser humano”, precisó durante la conferencia anual de la EDA, que tuvo lugar en Bruselas a finales del mes pasado. En esta cita apuntó que “la advertencia sobre los peligros que se avecinan proviene de las mismas personas que trabajan en inteligencia artificial (investigadores, pioneros y empresarios), que no quieren que sus propios descubrimientos sean explotados con fines maliciosos".

El director ejecutivo de la Agencia Europea de Defensa (EDA), Jorge Domecq, incluyó también este aviso en su discurso de clausura del encuentro. En él destacó singularmente que Europa necesita “un momento Sputnik”, a modo de hito clave que le ponga al día en los campos de la inteligencia artificial y los sistemas autónomos, donde Estados Unidos y China, sobre todo, están ganando la partida. “No podemos darnos el lujo de limitarnos a hablar del tema, tenemos que hacerlo”, precisó Domecq. En este contexto se sumó a la advertencia que hizo Mogherini sobre la necesidad de controlar el buen desarrollo de estas tecnologías.

La conferencia, celebrada el 28 de noviembre, se centró este año en torno a los sistemas no tripulados y autónomos de defensa. En ella se evidenció el crecimiento cada vez más pronunciado que va a tener lugar en las aplicaciones autónomas respaldadas por la inteligencia artificial. Se trata, a juicio del director de la EDA, de unas capacidades cruciales cuya importancia para la defensa será cada vez mayor, pero que deben someterse al control humano para que no supongan un peligro añadido a la seguridad.

Los desafíos que se avecinan son considerables, añadió el ejecutivo español, y los resumió en cinco palabras clave para el futuro de Europa en relación con los sistemas no tripulados y autónomos: acción, juntos, velocidad, control y educación.

De acuerdo con Domecq, la ‘acción’ pasa porque Europa se ponga al día con los principales actores internacionales en este campo, y citó directamente a Estados Unidos y China, como se ha apuntado. En este contexto es en el que apuntó que se debe lograr un “momento Sputnik”.

En esa misión, apuntó al explicar la segunda de estas palabras, “solo podemos tener éxito si lo hacemos ‘juntos’, con la cooperación de los gobiernos, la industria, la comunidad de investigadores, los líderes tecnológicos y la sociedad civil”.

El tercer término, ‘velocidad’, resulta “esencial”, especialmente porque Europa se está retrasando continuamente, advirtió. Pero no se debe conseguir a cualquier precio, precisó al explicar la cuarta palabra: ‘control’. “Europa debe atenerse a sus valores y principios”, expuso, por lo que debe mantener al ser humano a cargo del control y el uso de la fuerza letal en todo momento, y evitar la dependencia de máquinas o robots. A esta misma idea se refirió con más detalle la máxima responsable de la EDA, la alta representante de la Unión Europea para Asuntos Exteriores y Política de Seguridad, Federica Mogherini, durante su intervención unas horas antes mismo foro.

“Sin reducciones simplistas”

Por último “aunque no menos importante”, de acuerdo con la EDA, Domecq destacó la ‘educación’: “Necesitamos que los ciudadanos nos den su aceptación, porque no podemos proporcionar seguridad con herramientas rechazadas por la población que pretendemos proteger”. Con este objetivo, concluyó, resulta crucial evaluar, explicar y discutir con total transparencia los beneficios, los desavíos y las oportunidades de los sistemas autónomos. "No se pueden reducir de forma simplista a herramientas buenas o malas”.