Maria del Pilar Segura
El 2023 es el año de la Inteligencia Artificial. Con el lanzamiento y uso masivo de ChatGPT, Bard, Bing y otros, la tecnología basada en aprendizaje automático se ha convertido en la herramienta más llamativa para realizar diversas funciones y ello no ha pasado desapercibido para el legislador peruano.
Así en lo que va del año, se han presentado cuatro (4) iniciativas legislativas en las que se enfoca el uso de la Inteligencia Artificial en diversos sectores como una suerte de “actualización” del marco regulatorio a los tiempos actuales. Pareciera que la Inteligencia Artificial se encuentra en todo, en todas partes y al mismo tiempo. Sin embargo, ¿resultan adecuadas y pertinentes estas iniciativas legislativas? ¿Resuelven algún problema público concreto o atienden algún vacío jurídico?. En las siguientes líneas se analizarán estas propuestas a fin de determinar si corresponde admitir y aprobar las temáticas planteadas.
De acuerdo con la OCDE, la Inteligencia Artificial (IA) puede ser definida como un sistema basado en máquinas que puede, para un conjunto determinado de objetivos definidos por humanos, hacer predicciones recomendaciones o decisiones que influyen en entornos reales o virtuales los cuales están diseñados para funcionar con distintos niveles de autonomía1. En ese sentido, se trata de un tipo de tecnología cuya aplicación es innumerable. Por solo mencionar algunos ejemplos, se emplea para mejorar la velocidad de precisión del diagnóstico y detección de enfermedades2 y colabora en los procesos de respuesta a crisis en los casos de desastres naturales (como en el caso del Huracán Harvey en el 2017)3.
En base a lo señalado, el uso de la Inteligencia Artificial puede ayudar a superar brechas sociales y económicas y contribuir a una sociedad más equitativa e inclusiva. No obstante, también es importante tener presente y abordar de manera adecuada los posibles riesgos que se generan del uso de la misma ya sea mediante diversos instrumentos técnicos o regulatorios. En este contexto, cualquier posible intento de regulación deberá encontrar un equilibrio entre fomentar la innovación y proteger los derechos y la seguridad de las personas.
Iniciativas legislativas
En el caso peruano, se han presentado una serie de iniciativas legislativas que proponen el uso o empleo de Inteligencia Artificial para diversos ámbitos.
| Número de Proyecto de Ley | Resumen de la propuesta | Estado |
| 5182/2022-CR | Promueve el uso de la IA en el “sistema de transporte terrestre”. Primordialmente declarativo. | En comisión |
| 5183/2022-CR | Promueve el uso de la IA para “garantizar la seguridad ciudadana”. Primordialmente declarativo. | En comisión |
| 5763/2023-CR | Modifica la Constitución a fin de incorporar el uso de IA para “para la resolución de casos judiciales y para las acciones de mero trámite.» | En comisión |
| 5814/2023-CR | Modifica la Constitución a fin de incorporar el uso de IA “para investigar el delito, ejercer la acción penal y para las acciones de mero trámite.» | En comisión |
Cómo es posible apreciar, nos encontramos frente a iniciativas legislativas que, de manera declarativa, proponen el empleo de esta tecnología en materias de transporte y seguridad ciudadana sin mayor desarrollo o aporte. Asimismo, encontramos propuestas de reformas constitucionales para insertar el uso de la IA en funciones jurisdiccionales y de persecución del delito.
Como vimos previamente, la Inteligencia Artificial es solo un tipo de tecnología dentro del universo de potenciales herramientas. Por ejemplo, la tecnología blockchain también tiene el mismo nivel de potencial usabilidad que la Inteligencia Artificial y en el futuro no se sabe realmente qué tipo de tecnologías podrán desarrollarse que puedan realmente generar un impacto en la sociedad. En esa línea, no resulta congruente que se modifiquen o creen instrumentos normativos que, por naturaleza, son rígidos y establecen supuestos de aplicación general, para incorporar sólo un tipo de tecnología de un mayor universo, el cual, además se encuentra en constante evolución y crecimiento.
Por otro lado, en el caso de los proyectos de ley de reformas constitucionales, se observa un serio problema de técnica legislativa que contraviene la finalidad de una Constitución de toda sociedad democrática. Las reformas constitucionales parten del supuesto que existen reglas imprescindibles para el orden democrático que requieren ser modificadas pues establecen las bases político-jurídicas de una sociedad. En ese sentido, cualquier modificación que pueda realizarse por normas de menor jerarquía (como leyes, reglamentos y otros instrumentos normativos) no debe ser entendida como un supuesto de modificación constitucional. Teniendo ello en cuenta, el uso de IA para llevar a cabo funciones jurisdiccionales o la persecución constituye un despropósito jurídico pues su uso puede ser incorporado mediante otros tipos de instrumentos legales de menor jerarquía o que incluso no necesariamente pueden tener naturaleza normativa.
Prueba de lo señalado, es la presentación del Proyecto de Ley 5854/2023-CR, elaborado por el propio Poder Judicial en el que propone desarrollar un marco regulatorio para el Expediente Judicial Electrónico (EJE) el cual incorpora un Capítulo dedicado a explicar el uso de la IA en el trámite de del EJE. Aunque dicha iniciativa no establece exactamente en qué sentido se emplea la IA para “motivar las decisiones judiciales”, destacamos la característica del uso que deberá ser de manera “transparente y progresiva”. Posterior regulación deberá detallar estos aspectos.
Asimismo, llama la atención el carácter declarativo de las propuestas constitucionales.Las iniciativas legislativas de esta naturaleza no aportan avances significativos al marco regulatorio existente ni proporcionan beneficios tangibles a los destinatarios de la norma. Por lo tanto, estas normas corren el riesgo de convertirse en “letra muerta”. Sin perjuicio de ello, establecer normas declarativas promoviendo el uso de determinada herramienta (y ello no únicamente se aplica para el ámbito tecnológico) sin antes realizar un análisis técnico sobre sus beneficios y riesgos, puede en el peor de los casos vulnerar derechos constitucionales.
Por ejemplo, en el caso del proyecto que propone el uso de la IA para “garantizar la seguridad ciudadana”, sin establecer previamente un examen que determine la necesidad de su uso frente al uso de otras tecnologías, o que no determine para qué tipo de uso en el amplio espectro de la “seguridad ciudadana” se podrá ejecutar, se gatilla el riesgo de vulnerar derechos como la privacidad, igualdad ante la ley, no discriminación, propiedad entre otros. De esta manera, no medir el riesgo de tecnologías en constante desarrollo es tan peligroso como prohibir su uso -sabiendo que generan beneficios positivos para el desarrollo-.
Ahora bien, también conviene analizar si la propuesta no se encuentra regulada de manera general en otro instrumento normativo. Siguiendo el ejemplo de las iniciativas vinculadas con la seguridad ciudadana, el Decreto Legislativo 1267, Ley de la Policía Nacional del Perú, en su artículo 43 establece que la Policía “está facultada de emplear sistemas tecnológicos para el cumplimiento de sus fines institucionales entre ellos, sistemas de video-vigilancia en vías y espacios públicos, los sistemas de patrullaje virtual para la detección de delitos cometidos por medio de las tecnologías de la información y comunicación, los sistema de información y comunicación policial, entre otros”.
Cómo es posible notar, dicha norma habilita legalmente a las fuerzas del orden a utilizar sistemas tecnológicos, entre ellos cualquier tecnología basada en IA para cumplir con sus fines, entre ellos, el orden social y la seguridad ciudadana. En ese sentido, carece de sentido establecer una norma para regular un solo tipo de tecnología cuando el marco normativo ya establece una regla general que habilita su uso para cumplir el fin. Esto deriva a concluir que, las propuestas normativas que promuevan el uso de herramientas tecnológicas en distintos ámbitos, posiblemente ya se encuentren reguladas por otra norma.
Ahora bien, lo que sí resultaría retador y un ejercicio necesario de realizar sería, primero, establecer un marco normativo que promueva la innovación y la creación de nuevas tecnologías para su uso en el sector público y para fines sociales. Segundo, corresponde que, de identificar riesgos actuales sobre el uso de nuevas tecnologías, establecer un marco lo suficientemente equilibrado para establecer límites a su uso sin amedrentar la innovación.
Cabe destacar que, en términos de derecho comparado, no existe actualmente un marco normativo vigente que aborde de manera completa todos los riesgos y beneficios del uso de IA. Estados Unidos y la Unión Europea siguen manteniendo reuniones multipartes con la academia y sector privado a fin de elaborar un marco adecuado de regulación de esta tecnología4.
Aunque no exista una regulación específica para el uso de la IA, esto no implica que su uso no esté restringido por el marco regulatorio actual y sujeto a los límites establecidos por la ley. Cualquier uso de tecnología debe ser evaluado y medido con las mismas normas ya existentes. Por ejemplo, la Ley de Protección de Datos Personales es lo suficientemente sólida y amplia como para interpretar que cualquier uso de herramientas de IA que infrinjan los derechos reconocidos en dicho instrumento pueden ser analizados y sancionados bajo su ámbito de aplicación. Lo mismo ocurre si se utilizan herramientas de IA que puedan, por ejemplo, afectar la equidad en los procesos de contratación laboral. En este caso, las leyes laborales existentes proporcionarán el marco para evaluar y abordar cualquier problema.
En conclusión, si bien existen iniciativas legislativas que proponen el uso de la Inteligencia Artificial (IA), estas carecen de desarrollo y aporte significativo. En este contexto, el uso de la IA sin un análisis técnico previo sobre sus beneficios y riesgos puede vulnerar derechos. Dado el nivel de desarrollo y constante evolución de la tecnología conviene dar pasos pequeños pero seguros en regulación.
Referencias:
[1]Organisation for Economic Co-operation and Development. (2019). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments. Traducción libre. Recuperado de https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
[2]Organización Mundial de la Salud. (2021). WHO issues first global report on Artificial Intelligence (AI) in health and six guiding principles for its design and use. Traduccion libre, Recuperado de https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use
[3]McKinsey & Company. (2023). Applying AI for social good. Traducción libre. Recuperado de https://www.mckinsey.com/featured-insights/artificial-intelligence/applying-artificial-intelligence-for-social-good
[4]Ancajima, L. (2023, 14 de septiembre). IA: ‘Big Tech’ esperan ‘regulación equilibrada’ del gobierno de EE. UU. RPP Noticias. Recuperado de https://rpp.pe/tecnologia/mas-tecnologia/ia-big-tech-esperan-regulacion-equilibrada-del-gobierno-de-ee-uu-noticia-1505430
