La UE presenta ambiciosas normas de IA centradas en usos de riesgo

El uso arriesgado de inteligencia artificial que amenaza la seguridad o los derechos humanos, como el escaneo facial en vivo, debe prohibirse o controlarse estrictamente, dijeron el miércoles funcionarios de la Unión Europea, que desvelaron un paquete ambicioso de legislación propuesta para contener la tecnología que avanza rápidamente.

El proyecto de reglamento de la comisión ejecutiva de la UE contiene normas sobre aplicaciones consideradas de alto riesgo, como los sistemas de inteligencia artificial, que filtran a los solicitantes de una escuela, un trabajo o un préstamo. En algunos casos considerados demasiado riesgosos, como los sistemas de clasificación social del gobierno que juzgan a las personas en función de su comportamiento, prohibirían la IA por completo.

Sugerencias es el último movimiento de un bloque de 27 países para mantener su papel como presentador global de estándares de regulación tecnológica, en un esfuerzo por mantenerse al día con dos de las superpotencias tecnológicas del mundo, Estados Unidos y China. Los funcionarios de la UE dicen que están adoptando un “enfoque basado en el riesgo” de cuatro niveles que tiene como objetivo equilibrar derechos importantes como la privacidad con la necesidad de fomentar la innovación.

“Con estos principios innovadores, la UE está a la vanguardia en el desarrollo de nuevos estándares globales para garantizar que se pueda confiar en la IA”, dijo Margrethe Vestager, vicepresidenta de la Comisión Europea para la Era Digital. “Al establecer estándares, podemos allanar el camino hacia la tecnología ética en todo el mundo y garantizar que la UE siga siendo competitiva”.

Por supuesto, el borrador de las reglas tiene un largo camino por recorrer antes de que entren en vigencia. Deben ser revisados ​​por el Parlamento Europeo y el Consejo Europeo y pueden modificarse en un proceso que podría llevar varios años, aunque los funcionarios se negaron a proporcionar un plazo específico.

Los esfuerzos realizados en el pasado para regular la tecnología en la UE han sido de gran alcance e influyentes, lo que la ha ganado la reputación de pionera. Vestager, también líder de la competencia del bloque, lanzó agresivos desafíos antimonopolio contra gigantes de Silicon Valley como Google años antes de que tales acciones se pusieran de moda. La UE también fue temprana en la lucha por la privacidad de los datos con reglas estrictas conocidas como el Reglamento General de Protección de Datos o GDPR, que se ha convertido en el estándar global de facto.

Sin embargo, los resultados fueron mixtos: Google aún mantiene su dominio en línea y La privacidad importa en la UE contra las empresas tecnológicas globales están archivados. Los funcionarios también están trabajando en eso. actualización del reglamento digital de la UE para proteger a los usuarios de Internet de material dañino o comerciantes deshonestos.

Según las propuestas de la IA, los usos inaceptables también incluirían la manipulación del comportamiento, la explotación de las debilidades de los niños o el uso de técnicas subliminales.

“Este podría ser un caso en el que el juguete usa sistemas de voz para obligar al niño a hacer algo peligroso”, dijo Vestager en una conferencia de prensa. “Tales usos no existen en Europa y, por lo tanto, proponemos prohibirlos”.

Las propuestas esencialmente prohíben la controvertida “identificación biométrica remota”, como el uso de reconocimiento facial en vivo para elegir a las personas entre la multitud en tiempo real porque “la vigilancia masiva no tiene lugar en nuestra sociedad”, dijo Vestager.

Sin embargo, habrá una excepción para fines de aplicación de la ley estrictamente definidos, como la búsqueda de un niño desaparecido o una persona buscada o la prevención de un ataque terrorista. Sin embargo, algunos legisladores de la UE y organizaciones de derechos digitales quieren que se elimine la segregación debido a la preocupación de que las autoridades puedan usarla para justificar el uso generalizado de la tecnología en el futuro, que dicen es engorroso e inexacto.

La tecnología biométrica y de vigilancia masiva “en nuestros espacios públicos socava nuestra libertad y amenaza nuestras sociedades abiertas”, dijo Patrick Breyer, legislador del Partido Pirata de la UE. “No debemos permitir que determinados grupos de personas sean discriminados y la falsa acusación de innumerables personas con el uso de estas tecnologías”

Otras aplicaciones de inteligencia artificial se consideran de alto riesgo ya que “chocan con aspectos importantes de nuestras vidas”, dijo Vestager, incluidos los tribunales penales, la aplicación de la ley, infraestructura crítica como el transporte (piense en software para automóviles autónomos) y migración, gestión de asilo y fronteras. control. Sin embargo, su uso está permitido siempre que los operadores cumplan con las reglas, incluido el uso de datos de alta calidad para minimizar la discriminación y tener una persona responsable.

Herbert Swaniker, abogado de tecnología de Clifford Chance, comparó estas propuestas con el RGPD, que está afectando a empresas de todo el mundo.

“Gracias al GDPR, hemos visto las regulaciones de la UE llegar a todos los rincones del mundo y presionar a los países de todo el mundo para alcanzar el nuevo estándar de oro internacional”, dijo Swaniker. “También podemos esperar esto en el caso de la regulación de la IA. Este es solo el comienzo”.

El proyecto de ley también incluye aplicaciones de inteligencia artificial que presentan un “riesgo limitado”, como los chatbots, que deben etiquetarse para que las personas sepan que están interactuando con la máquina. La mayoría de las aplicaciones de inteligencia artificial, como los filtros de correo no deseado, permanecerán intactas o estarán sujetas a la legislación de protección al consumidor existente, dijeron los funcionarios.

Para ayudar a desarrollar estándares y hacer cumplir las reglas que se aplicarían a cualquiera que suministre un sistema de inteligencia artificial en la UE o utilice uno que tenga un impacto en los habitantes del bloque, la Comisión propone la creación de un Consejo Europeo de Inteligencia Artificial.

Las infracciones pueden resultar en multas de hasta € 30,000 (más de $ 36,000) o para empresas de hasta el 6% de sus ingresos anuales globales, lo que sea mayor, aunque las autoridades de Vestager han pedido a los proveedores que reparen primero sus productos de IA o los de ellos. mercado.

Los funcionarios de la UE, que intentaron ponerse al día con las industrias tecnológicas de China y EE. UU., Dijeron que las reglas fomentarían el crecimiento de la industria al aumentar la confianza en los sistemas de inteligencia artificial y brindar claridad legal a las empresas.

© 2021 The Associated Press. Reservados todos los derechos. Este material no puede ser publicado, difundido, reescrito o distribuido sin permiso.