La inteligencia artificial y el riesgo que representa para la seguridad digital

La inteligencia artificial y el derecho a la privacidad

En las últimas décadas, la inteligencia artificial transformó el análisis de datos, optimizando sectores como el sanitario y el de seguridad. Sin embargo, su capacidad para recopilar información masiva de datos, a menudo sin consentimiento, esto plantea graves riesgos para la privacidad del usuario. La IA no debe tener pleno acceso a nuestros datos personales debido a los riesgos que esto afecta tanto a la privacidad como a la autonomía del usuario. Para sustentar la tesis, recurriremos a fuentes científicas, artículos y estudios previos del caso. Se buscará incluir resultados relevantes de las investigaciones que destacan la necesidad de establecer límites claros y normativas que busquen un equilibrio entre los beneficios de la IA, así como la protección de los derechos humanos y la privacidad.

Argumento 1:

El derecho de protección de datos personales en los sistemas de inteligencia artificial de acuerdo a Enriquez (2021)

“[...] Desde una perspectiva técnica, entonces podemos afirmar que el término IA se usa en general para referir la capacidad de una máquina para imitar las funciones cognitivas de los humanos; sin embargo, nos encontramos también frente nuevas ramas que derivan del concepto de inteligencia artificial, tales como el aprendizaje de las máquinas (machinelearning), en el cual, los sistemas aprenden a partir de ejemplos, pruebas o de la información y comportamiento de usuarios de dicho sistema, y los modelos de redes neuronales, por lo que el alcance del concepto de IA irá evolucionando a la par de los avances tecnológicos en la materia.” (p.2)

La información muestra con precisión la inteligencia artificial como capacidad para replicar el pensamiento humano. Asimismo, el aprendizaje y las redes neuronales han permitido a los sistemas aprender de la experiencia y mejorar su rendimiento.

Argumento 2:
La inteligencia artificial y las limitaciones en la recolección de información y datos sensibles de los usuarios. Según el Parlamento Europeo, 2024:

“[...]Asimismo, las obligaciones impuestas a los distintos operadores que participan en la cadena de valor de la IA en virtud del presente Reglamento deben aplicarse sin perjuicio del Derecho nacional que, de conformidad con el Derecho de la Unión, tenga por efecto limitar el uso de determinados sistemas de IA cuando dicho Derecho quede fuera del ámbito de aplicación del presente Reglamento o persiga objetivos legítimos de interés público distintos de los perseguidos por el presente Reglamento. Así, por ejemplo, el presente Reglamento no debe afectar al Derecho laboral nacional ni al Derecho en materia de protección de menores, a saber, de personas de menos de dieciocho años, que tienen en cuenta la Observación general n.o 25 (2021) de la Convención sobre los Derechos del Niño de las Naciones Unidas relativa a los derechos de los niños en relación con el entorno digital, en la medida en que no son específicas a los sistemas de IA y persiguen otros objetivos legítimos de interés público.” (p.1)

La presente cita, perteneciente al nuevo reglamento de la UE, sobre la IA considera los límites claros en el uso de esta nueva tecnología, a lo cual, respetando las normas nacionales ya activas sobre derechos laborales y la protección a menores, prioriza la seguridad del interés público y la de los derechos fundamentales, así limitando a la IA.

Argumento 3:

El uso de la inteligencia artificial (IA) en el manejo de datos personales plantea riesgos para la privacidad de los usuarios, ya que, aunque debería garantizarse su protección, en la práctica muchas empresas no lo aseguran plenamente. De acuerdo a la investigación realizada por Retamozo & Isabel:

“[...]El que los datos personales sean recogidos, procesados y almacenados mediante sistemas de IA constituye una serie de peligros y riesgos en materia de privacidad, lo que puede dar paso a acciones de perfilamientos, vigilancia, ataques cibernéticos, e incluso afectar la capacidad de decisión de los usuarios de internet.” (2024, p.44)

El uso de IA para tratar datos personales plantea serias amenazas a la privacidad, como perfilamientos, vigilancia y ciberataques, limitando la autonomía y libertad de decisión de los usuarios.

Argumento 4:

El acceso ilimitado de la IA a datos personales puede fomentar la discriminación algorítmica. Alguna recomendaciones que nos da Iturmendi (2023) en su artículo son:

“[...]Primera. Transparencia y responsabilidad: es necesario que los algoritmos sean transparentes en cuanto a su diseño y funcionamiento, y que los desarrolladores sean responsables de las decisiones que toman los algoritmos. Se debe exigir a las empresas y organizaciones que utilicen algoritmos que proporcionen información clara y comprensible sobre cómo funcionan sus sistemas, qué datos utilizan y con qué fines. También se debe establecer la responsabilidad correspondiente en caso de que se produzcan daños por el uso de algoritmos discriminatorios. Segunda. Eliminación de sesgos: se deben utilizar técnicas de inteligencia artificial para reducir o eliminar los sesgos en los datos y modelos utilizados en los algoritmos. Es importante realizar una evaluación constante de los algoritmos para detectar y corregir posibles sesgos. Para ello, se pueden utilizar técnicas de auditoría algorítmica y pruebas de impacto en los derechos humanos. Se debe realizar una evaluación continua de la calidad y equidad de los algoritmos, con el fin de identificar y corregir posibles discriminaciones.” (pp.280-281)

Las propuestas de Iturmendi subrayan la necesidad de establecer un marco ético y legal robusto para evitar que la inteligencia artificial cree sesgos discriminatorios drásticos, esto evitará la discriminación algorítmica, por lo cual, debemos promover la transparencia en las empresas y las auditorías continuas al sistema.

Conclusión:
En conclusión, la inteligencia artificial representa un avance tecnológico importante con un enorme potencial para reformar diversos sectores. Sin embargo, este ascenso no debería de ser a costa de sacrificar la privacidad y autonomía de los usuarios. La IA supone riesgos variados cuando tiene permiso de accesibilidad a datos personales de manera indeterminada, ya que la falta de transparencia y consentimiento puede proceder en discriminación, manipulación y decisiones injustas que afectan derechos primordiales. Por ello, es insustituible establecer normativas claras y mecanismos de control que protejan los derechos humanos en este nuevo contexto tecnológico. Frente a este escenario y dando a conocer que hoy en día la seguridad de datos corre peligro, cabe preguntar, ¿Permitirías que una máquina decida por ti sin saber cómo usa tu información?.

Referencias:

ENRÍQUEZ, 2021. El derecho de protección de datos personales en los sistemas de inteligencia artificial. REVISTA IUS [en línea], vol. 15, no. 48, DOI 10.35487/rius.v15i48.2021.743. Disponible en: https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S1870-21472021000200179

PARLAMENTO EUROPEO Y CONSEJO DE LA UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024. Diario Oficial de la Unión Europea [en línea], 13 de junio de 2024. ISSN 1977-0685. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/HTML/?uri=OJ:L_202401689 [Consulta: 28 de junio de 2024].

MURRUGARRA RETAMOZO, BRENDA ISABEL, 2024. Inteligencia artificial y privacidad en internet: amenazas para los datos personales de los usuarios. Revista Científica Multidisciplinaria OGMA. [en línea], vol. 3, no. 2, DOI 10.69516/9dp8ap45. [Fecha de consulta: 19 de junio del 2025]. Disponible en: https://revistaogma.com/index.php/home/article/view/20.

ITURMENDI RUBIA, José Miguel. La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos: Especial referencia a los inmigrantes. Deusto Journal of Human Rights = Revista Deusto de Derechos Humanos [en línea], 2023, n.º 12, pp. 257-284. ISSN 2530-4275, ISSN-e 2603-6002. [Fecha de Consulta: 29 de junio del 2025] Disponible en: https://dialnet.unirioja.es/servlet/articulo?codigo=9235564.