La IA avanza imparable mientras se disparan los riesgos de su uso

Italia y Corea bloquean Deepseek 

Reciente hemos conocido que Il Garante, la Autoridad italiana de Protección de Datos, ha bloqueado el uso de Deepseek en Italia por considerar que suponía un riesgo alto para la privacidad y los datos de los usuarios. La Autoridad considera que no existe suficiente transparencia a la hora de comunicar qué datos personales se tratan y con qué fines, solicitando a la empresa encargada de este software que les informen sobre estos aspectos.  

Por unos motivos similares, las autoridades coreanas han decidido bloquear dicha IA, añadiendo que no ofrecen información suficiente sobre las transferencias de datos que realiza el sistema. En este sentido, se descubrió que dicha empresa estaba enviando la información de los usuarios a BytDance, empresa propietaria de TikTok, sin informar de este hecho a los usuarios registrados.  

Entrada en vigor de las prohibiciones del RIA 

También, resulta interesante ver como poco a poco las obligaciones que impone el Reglamento de IA van entrando en vigor. El pasado 2 de febrero se hicieron eficaces las prohibiciones del RIA, una lista de sistemas que utilizan IA y cuyo uso no está permitido por suponer un grave riesgo para los Derechos Fundamentales de las personas. Entre otros usos, se incluyen algunos como la videovigilancia y el reconocimiento biométricos masivas, los utilizados para alterar o inferir las emociones de trabajadores o alumnos o su uso para generar un social scoring basado en el comportamiento de las personas entre otras.  

Esta es la primera de las obligaciones y aspectos que se han aprobado, iniciando un proceso que finalizará en agosto de 2027 cuando entre en aplicación todo el Reglamento. Durante este periodo se irán aprobando progresivamente el régimen de sanciones, listas con IA concretas consideradas de alto riesgo y, finalmente, las obligaciones para estos sistemas.  

Grandes inversiones en IA 

El pasado enero, la empresa OpenIA, propietaria de ChatGPT, SoftBank y Oracle3 decidieron aliarse para destinar más de 500 mil millones de dólares para la construcción de un centro de datos en Texas destinado íntegramente para la mejora de su Inteligencia Artificial.  

Tras esta noticia, la UE decidió crear fondos de inversión por valor de 130 mil millones de euros para el desarrollo de una IA europea que permita competir contra las creadas en Estados Unidos y en China4. Lo que se destila de estas noticias es que actualmente existe una guerra comercial por el control de la IA y que Europa ha entrado ya tarde en esta competición.

Reflexiones  

La IA se está demostrando como una de las herramientas con mayor proyección a largo plazo para el desarrollo de todo de todo tipo de negocios. La mejora constante de estos sistemas hace que cada día resulten más fiables para el desempeño de ciertas labores, ahora bien, no están exentas de riesgo. La aprobación del RIA por parte de la UE o el bloqueo de Deepseek en determinados países, es síntoma de los posibles peligros a los que nos encontramos al usar la IA. Conocer los peligros y limitaciones de estos sistemas resulta fundamental para gestionar de manera adecuada el riesgo.

¿Está tu equipo preparado para los riesgos asociados a la Inteligencia Artificial?

En LVS2 contamos con más de 20 años de experiencia ofreciendo formación especializada a empresas de sectores como finanzas, banca, industria, entre otros. Nuestro equipo multidisciplinario, compuesto por abogados, expertos en IT e ingenieros, está listo para ayudarte.

Te ayudamos a asegurar que tu empresa cumpla con las normativas actuales sobre Inteligencia Artificial y que tus empleados estén al tanto de las buenas prácticas para un uso responsable de soluciones y dispositivos de IA.

¿Estás listo para garantizar que tu empresa maneje adecuadamente los riesgos de la IA?