Inteligencia Artificial en Europa
Diferenciación por riesgo
"La IA no debe darnos miedo, pero sí girar alrededor del ser humano", defiende Axel Voss. La legislación acordada contará con mecanismos específicos de supervisión humana en los casos de riesgo. Es decir, en sectores especialmente sensibles como los de salud, educación o movilidad, donde los sesgos del algoritmo podrían llevar a discriminación, será un humano el que pueda intervenir en el sistema para paliar estos sesgos en tomas de decisiones que puedan afectar a la población de manera muy importante. Así, la legislación propuesta por la Comisión y en la que se basa el informe del Parlamento diferenciará las IA no en función de su sector o la tecnología utilizada, sino en función del grado en que puedan afectar a derechos fundamentales, como la no discriminación o la privacidad.
El primer nivel será el de riesgo inadmisible, aquellos que supongan una amenaza para la seguridad. Estos deberían quedar prohibidos según la propuesta. Aquí se incluyen desde sistemas que fomenten un comportamiento peligroso en menores hasta sistemas de "puntuación social" por parte de los gobiernos. Ha habido debate sobre si los sistemas de reconocimiento biométrico se incluirán aquí, pero la votación final es que no se incluya una prohibición generalizada. En este sentido cabe mencionar que, salvo en los casos más extremos, el Parlamento ha optado por una postura más pragmática evitando así enviar un mensaje negativo a la población.
El caso del reconocimiento facial ha sido el que más controversia ha suscitado, aunque finalmente no se han aprobado ninguna de las enmiendas relacionadas con este asunto. La Comisión estableció una categoría especial para ello, quedando prohibido su uso pero únicamente en zonas públicas y en directo. Sin embargo, se añadieron excepciones como en los casos de búsqueda de un niño desaparecido, prevenir una amenaza terrorista específica e inminente o para "detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave". La idea de la Comisión es que esta prohibición de reconocimiento facial en vivo sea una fase intermedia, puesto que el objetivo final es que se utilice de modo seguro.
El segundo nivel será el de los sistemas de riesgo moderado. Aquí se incluirán los que no supongan un riesgo inadmisible, pero sí el riesgo de un daño significativo a los derechos fundamentales, como la privacidad, no discriminación, protección de datos, libertad de expresión y de información, etc. Estos sistemas deberán ser especialmente regulados, incluyendo tanto un examen periódico de su seguridad y transparencia como una evaluación del impacto sobre los derechos fundamentales.
El tercer nivel será el de riesgo mínimo. Aquí se incluirán los que no supongan un riesgo significativo para los derechos fundamentales. No necesitarán un examen periódico de la seguridad, pero sí una evaluación de su impacto sobre los derechos fundamentales.
Responsabilidad de las empresas
La legislación también incluye una serie de requisitos para empresas y autoridades gubernamentales. Las empresas tendrán que hacer especial hincapié en la transparencia, es decir, tendrán que explicar de manera clara y comprensible al público cómo es que toman sus decisiones. Para ello se creará una etiqueta de las organizaciones que desarrollen sistemas de inteligencia artificial. Se tratará de una especie de certificación que demostrará que el sistema cumple con unas determinadas normas. Aunque esta certificación no será obligatoria, se espera que aquellos que cuenten con ella tendrán una clara ventaja a la hora de competir.
Las autoridades gubernamentales tendrán que supervisar que las empresas cumplan con las normas. Para ello se creará un organismo especializado en la inteligencia artificial, que dependerá de la Comisión Europea y tendrá sede en Bruselas.
La Directiva propuesta también incluye una cláusula de solidaridad en la que se establece que los estados miembros tendrán que prestarse ayuda mutua y cooperar entre ellos en caso de que un sistema de inteligencia artificial cause daños graves. Del mismo modo, las empresas que fabriquen sistemas de inteligencia artificial con sede en la UE tendrán que responder de sus decisiones aunque sean utilizados en el extranjero.
Esta Directiva tendrá que ser aprobada tanto por el Parlamento como por el Consejo de Ministros de la UE. Si se consigue, Europa podría estar lista para aplicarla a partir de 2022.
La inteligencia artificial es una amenaza para la seguridad nacional?
La inteligencia artificial es una amenaza para la seguridad nacional?
Aunque la inteligencia artificial se está convirtiendo en una herramienta cada vez más común, todavía hay muchas incertidumbres sobre cómo se está desarrollando y cómo va a impactar en nuestras vidas. Una de las cuestiones que más preocupa a los expertos es el impacto que tendrá la inteligencia artificial en la seguridad nacional.
Los temores en relación a la inteligencia artificial y la seguridad nacional se centran en tres áreas principales: el robo de datos, el sabotaje de sistemas y el aumento de las capacidades militares.
El robo de datos es una amenaza real y presente. Los ataques cibernéticos están aumentando en frecuencia y complejidad, y las empresas y los gobiernos están luchando por mantenerse al día. La inteligencia artificial puede usarse para mejorar los ataques cibernéticos, y también puede usarse para defenderse de ellos. El problema es que, al igual que otras tecnologías, la inteligencia artificial está en constante evolución, y es difícil predecir cómo será utilizada en el futuro.
El sabotaje de sistemas es otra amenaza real. Los sistemas de inteligencia artificial se están convirtiendo en una parte integral de nuestra infraestructura crítica, desde el control del tráfico aéreo hasta el mantenimiento de los sistemas eléctricos. Si estos sistemas son sabotados, el resultado podría ser catastrófico.
Por último, el aumento de las capacidades militares es una amenaza potencial. La inteligencia artificial está transformando la forma en que se llevan a cabo las guerras, y se está convirtiendo en una herramienta cada vez más importante para las fuerzas armadas de todo el mundo.