De manera muy común, para tratar de explicar o entender el funcionamiento de nuestro cerebro, solemos compararlo con una computadora. Ese ejercicio, en cierta medida, no resulta ocioso porque a ambos se les puede atribuir la capacidad de almacenamiento de información.

En el caso del cerebro humano el proceso de acopio y selección de información sigue ciertos patrones que han sido profundamente estudiados por la Neurociencia. Sin pretender entrar en ese campo que es ajeno a este trabajo, se puede afirmar que esa facultad de almacenamiento no es ilimitada.

En efecto, el cerebro realiza un proceso activo y dinámico orientado a eliminar recuerdos: olvidar. Sobre esta idea, autores estudiosos del tema como IGNACIO MORGADO indican que “resulta plausible creer que la extraordinaria capacidad asociativa del cerebro humano debe estar sometida a un proceso de autocontrol que impida permanentemente que la mente se sature con información irrelevante, como en el mencionado caso de Funes el memorioso. Requiere por tanto de un poderoso sistema activo de olvido que elimine la información irrelevante”¹.

Poniendo en contexto esta introducción, resulta pertinente preguntarse si la llamada Inteligencia Artificial (IA) es capaz de olvidar; entendiendo este proceso como la posibilidad de eliminar, suprimir o cancelar la información que es gestionada como consecuencia del funcionamiento de la tecnología. 

Es precisamente esta última cuestión la que será tratada en el presente artículo. Se analizará si es factible aplicar a las distintas tecnologías basadas en IA una de las facultades derivadas del derecho a la protección de los datos personales: el derecho al olvido. Es decir, los esfuerzos se enfocarán en confirmar si los titulares de los datos personales que son procesados por la IA podrían ver satisfecha su facultad de solicitar bloqueo o eliminación de datos personales a los que se acceden por el uso de la IA.

II. ¿Qué es el derecho al olvido?

El concepto del derecho al olvido se ha gestado a partir del análisis de la problemática que se genera por el tratamiento masivo de datos personales en la gran red: el Internet. La muy nutrida jurisprudencia internacional que existe respecto a esta facultad, justamente, ha girado en torno a sancionar u obligar a los responsables de sitios web y de motores de búsqueda a borrar datos personales que son usados incumpliendo los principios que rigen la protección de información personal.

El derecho al olvido implica la posibilidad de que una persona requiera al responsable de una web o de un motor de búsqueda la eliminación de sus datos personales que estos tienen registrados, porque resulta que se trata de información perjudicial, no requerida o desfavorable. En efecto, “surge como una salvaguarda frente a la exposición de la persona ante la búsqueda de informaciones que le atañen a través de sus datos personales en motores de búsqueda por parte de terceras personas. Esta protección técnicamente se traduce en el bloqueo de los datos personales del titular, de modo que ya no sea posible que el interesado, a través del motor de búsqueda, obtenga información o el acceso a las fuentes que contienen información sobre la persona afectada”².

A nivel de regulación comparada, es necesario referirse al Reglamento General de Protección de Datos (GDPR³, por sus siglas en inglés), que en su artículo 17° ha regulado el derecho al olvido. Esta norma se constituye como uno de los pocos ejemplos que se puede citar como casos de desarrollo legislativo de este derecho. Según el GDPR, en virtud del derecho de supresión (derecho al olvido) el “interesado tendrá derecho a obtener sin dilación indebida del responsable del tratamiento la supresión de los datos personales que le conciernan”.  

En el Perú, pese a existir intentos, no se ha regulado como tal esa facultad, pero sí se ha desarrollado a nivel de la jurisprudencia emitida por la Dirección de Protección de Datos Personales (DPDP) y a partir de los derechos de oposición y cancelación que se encuentran reconocidos en la Ley N° 29733, Ley de Protección de Datos Personales (LPDP). 

El Tribunal Constitucional ha ido un paso más allá. En la Sentencia recaída en el Expediente N° 03041-2021-PHD/TC, específicamente en su fundamento 11, dice que en “cuanto al que suele denominarse derecho al olvido, sin perjuicio de ulteriores precisiones jurisprudenciales, puede afirmarse que este garantiza la eliminación, supresión o retiro de información relacionada con datos personales que, usualmente vinculada al nombre de la persona, es posible hallarse usando motores de búsqueda o sistemas informáticos que hayan estado disponibles al público por un determinado tiempo, y que, habiendo sido ajustada a la realidad en su oportunidad, como consecuencia de nuevas condiciones fácticas y/o jurídicas relevantes, ya no lo es o no lo es plenamente, de modo tal que su difusión, ahora de contenido abiertamente inexacto, genera un perjuicio al titular de la información, en particular, respecto al contenido de su derecho fundamental al honor y a la buena reputación (artículo 2, inciso 7 de la Constitución), respecto del derecho fundamental al libre desarrollo de la personalidad (artículo 2, inciso 1 de la Constitución) o, eventualmente, respecto de su derecho a la intimidad (artículo 2, inciso 7 de la Norma Fundamental)”.

Este pronunciamiento resulta interesante en la medida que, a diferencia de las resoluciones emitidas por DPDP, expresamente el Tribunal Constitucional señala que el derecho al olvido podrá aplicarse no solo a motores de búsqueda o sitios web, sino también a otros sistemas informáticos, bases de datos o dispositivos tecnológicos que estén disponibles al público y mediante los cuales se almacenen y procesen datos personales. 

Esa interpretación nos permite concluir que, pese a que se haya delimitado en función a la operatividad de los motores de búsqueda, el derecho al olvido es perfectamente aplicable a las nuevas tecnologías como la IA, aspectos que estudiaremos en el siguiente acápite. 

III. ¿Es posible aplicar el derecho al olvido a las tecnologías de IA?

Este trabajo no tiene por finalidad recopilar definiciones sobre IA; tampoco su objetivo es ensayar una. En realidad, a efectos de abordar el tema, únicamente resulta necesario saber cómo opera o, mejor dicho, cómo funciona la IA. Una vez comprendido ese aspecto, se confirmará si es posible invocar o no el derecho al olvido. 

En resumen, los distintos tipos de IA se basan en el uso de algoritmos y de modelos matemáticos que están diseñados para procesar datos y aprender de estos con el único objetivo de arribar a una respuesta o una solución. En otras palabras, se trata de un entramado de procesos orientados a tomar decisiones desde la información que es recogida y gestionada por elementos previamente programados para cumplir esa función.

Entonces, como bien dice LASSE ROUHIAINEN, el “aprendizaje automático (en inglés, machine learning) es uno de los enfoques principales de la inteligencia artificial. En pocas palabras, se trata de un aspecto de la informática en el que los ordenadores o las máquinas tienen la capacidad de aprender sin estar programados para ello. Un resultado típico serían las sugerencias o predicciones en una situación particular”⁴. 

En esa misma línea, MÁRQUEZ DÍAZ dice que la IA “abarca diversos campos como el reconocimiento de voz, procesamiento de lenguaje natural, visión por computador, robótica avanzada, captura de conocimiento, planificación y optimización, entre otros, en la que se busca que un sistema tenga la capacidad para sentir, razonar, participar y aprender. Como complemento a estos campos, se encuentran especialidades como el aprendizaje automático (Machine Learning) que involucra diferentes tipos de redes neuronales codificadas bajo el aprendizaje reforzado, el aprendizaje supervisado, el aprendizaje no supervisado y el aprendizaje semi-supervisado, que convergen en sistemas que trabajan con técnicas algorítmicas avanzadas para procesar diversos tipos de señales, optimizar modelos, procesar información masiva mediante Big Data y Clusters; todo ello mediante el uso algorítmicos de regresión, clasificación y clustering, entre otros”⁵.

Como puede verse, los modelos y algoritmos en los que se basa la IA recopilan, entre otros tipos de información, datos de carácter personal para aprender y tomar decisiones inteligentes. Es decir, en términos jurídicos, la operatividad de la IA necesariamente conlleva la ejecución de un tratamiento de datos personales; por lo tanto, debe regirse por los parámetros y principios que la normativa de la materia ha dispuesto.

En ese sentido, y en tanto el tratamiento de datos es una cuestión que no admite discusión, es claro que se puede invocar el derecho al olvido (o el de cancelación y oposición, en el caso de nuestro ordenamiento) respecto de los datos almacenados por las herramientas, plataformas o tecnologías de IA. Así, por ejemplo, aplicaciones como ChatGPT de OpenAI OpCo LLC reconocen esa facultad en su política de privacidad, donde establecen como unos de los derechos de los usuarios la atribución de solicitar la eliminación de su información que obra en los registros de la plataforma⁶. 

Sin embargo, la aplicación del citado derecho no es del todo pacífica. Ello obedece, principalmente, a la naturaleza y a la metodología de la IA. Efectivamente, como ya se explicó, esta tecnología se sustenta en el aprendizaje automático que se realiza a partir de la información que es obtenida de fuentes públicas. Este dato es relevante porque incluso en el supuesto de que se haya efectuado la eliminación de los datos, el “proceso de olvido” podría no haber culminado; esto porque la información conocida por el modelo pasa a formar parte de su memoria, en consecuencia, posible de ser recordada y empleada pese a haberse eliminado el dato que sirvió de insumo. 

No se debe olvidar que el derecho al olvido ha centrado su desarrollo en los motores de búsqueda. En virtud de esta premisa, y fundamentalmente en atención a las particularidades que ofrece la IA, es que deviene en imprescindible la obligación de encontrar la mejor forma de aplicar una cancelación o eliminación de datos. 

Una de las primeras respuestas surgidas es el desaprendizaje automático (machine unlearning) ¿En qué consiste este proceso? Se trata de una rama de la tecnología que busca actualizar, modificar o eliminar información adquirida por el modelo sin necesidad de someterlo a un proceso de aprendizaje desde cero. 

El desaprendizaje automático es una técnica que se presenta como una de las alternativas más viables para aplicar el derecho al olvido en los entornos en los que funciona la IA; al menos, es la opción por la que empresas como Google han optado. Así lo ha explicado esa empresa en el anuncio oficial con el que confirma el uso de esa rama de la tecnología: “Machine unlearning has applications beyond protecting user privacy. For instance, one can use unlearning to erase inaccurate or outdated information from trained models (e.g., due to errors in labeling or changes in the environment) or remove harmful, manipulated, or outlier data”⁷.

La IA seguirá una línea continua de evolución. Probablemente, el desaprendizaje en el futuro resulte obsoleto en cuanto medida viable para aplicar la eliminación o supresión de datos. No obstante, sí es importante que, por lo menos, a nivel de desarrollo jurisprudencial en el Perú se vayan sentando las bases que permitan analizar el derecho al olvido más allá de las fronteras de los motores de búsqueda y sitios web, problemática que a nivel internacional ya ha sido superada.

Referencias:

[1] Morgado I. (2014). Aprender, recordar y olvidar: Claves cerebrales de la memoria y la educación. Ariel. 

[2] Díaz J.C. (2019). Olvido digital vs. verdad: el impacto del derecho al olvido digital en la preservación en internet de la memoria histórica sobre violaciones a derechos humanos y actos de corrupción. Revista Pensamiento Constitucional. 

[3] Normativa que regula el tratamiento de datos personales en el ámbito geográfico de la Unión Europea.

[4] Rouhiainen L. (2018). Inteligencia artificial 101 cosas que debes saber hoy sobre nuestro futuro. Alienta.

[5] Márquez J. (2020). Inteligencia artificial y Big Data como soluciones frente a la COVID-19. Revista de Bioética y Derecho Perspectivas Bioéticas. 

[6] Numeral 4 de la Política de Privacidad de OpenAI: https://openai.com/policies/privacy-policy.

[7] Pedregosa F. y Triantafillou E. (2023). Announcing the first Machine Unlearning Challenge. Google Research. https://blog.research.google/2023/06/announcing-first-machine-unlearning.html.