La UE quiere restringir el uso de inteligencia artificial y sistemas de reconocimiento facial en aras de la privacidad

Los funcionarios de la UE planean restringir el uso del reconocimiento facial por parte de la policía y prohibir por completo ciertos tipos de sistemas de inteligencia artificial (IA). Este será uno de los intentos más importantes de imponer restricciones al uso de la IA.



La prohibición incluirá una lista completa de casos de uso de IA que los funcionarios considerarán de "alto riesgo". Entre ellos, la gestión de la infraestructura crítica de los países de la UE, la admisión de solicitantes a las universidades y el procesamiento de solicitudes de préstamos. La aplicación de la IA a las opciones de la lista se supervisará de cerca. Está previsto desarrollar estándares específicos para la implementación y uso de la IA en estos casos.



La Unión Europea es conocida por luchar activamente por los derechos de sus ciudadanos, incl. por su privacidad, y de todas las formas posibles restringe el poder excesivo de las grandes empresas tecnológicas, tratando de evitar las consecuencias potencialmente peligrosas del uso de las nuevas tecnologías. Puede recordar el "Reglamento general de protección de datos" (GDPR), un reglamento por el cual los miembros de la Unión Europea fortalecen y unifican la protección de los datos personales de todos los ciudadanos, y también restringen la exportación de datos de la UE.



Además, hace un par de años, la UE redactó un proyecto de ley "sobre la protección de los seres humanos de la IA", enfatizando que la sociedad puede ganar algo de las tecnologías solo si hay una confianza total en ellas, y que los sistemas de IA deben estar "centrados en el ser humano, dirigidos enteramente en servir a la humanidad y el bien común y contribuir a la mejora de las condiciones de la existencia humana y su libertad ".



Según Margreta Vestager, vicepresidenta ejecutiva de la Comisión Europea, el reglamento propuesto aborda las amenazas de ciertos casos de uso de IA para las personas y la comunidad en su conjunto. Afirma que la UE fue la primera en el planeta en ofrecer una plataforma legal de este tipo.



Se prevé prohibir a la policía el uso de "sistemas de identificación biométrica remota" en tiempo real, con la excepción de casos como la búsqueda de niños secuestrados o la prevención de ataques terroristas, así como la búsqueda de delincuentes de cierto tipo.



También está previsto obligar a las empresas que prestan servicios relacionados con la interacción de las personas con la IA a indicar claramente aquellos casos en los que una persona se encuentra con un bot, por ejemplo, en un chat. Asimismo, los creadores de deepfakes y otros medios similares deberán dejar este hecho inequívoco.



Según Julien Cornebiz, un proyecto de ley de este tipo no necesariamente tendrá las mismas implicaciones que el GDPR, aunque solo sea porque define la IA de manera demasiado amplia. Describe la IA como un objetivo en movimiento y dice que nuestros teléfonos de hoy hacen cosas que hace 20 años definitivamente podrían clasificarse como "IA". Por lo tanto, existe el riesgo de que las nuevas reglas se confundan en las definiciones o se queden obsoletas rápidamente.