Miguel Ángel Presno Linera

El 22 de octubre tuve ocasión de participar en la Segunda Semana de la Inteligencia Artificial organizada por la Facultad de Derecho de la Universidad de Sevilla y lo hice compartiendo, con los profesores Stefano Pietropaoli y Roger Campione, la sesión que moderó el profesor David Sánchez Rubio sobre los retos ético-jurídicos y las oportunidades que presenta la inteligencia artificial (IA en lo sucesivo). Agradezco la generosidad del profesor Fernando Llano, Decano y “motor” de esta Semana, que llegó en 2024 a su segunda edición.

En mi intervención aludí a diez “retos” y cinco “oportunidades”; en cuanto a los retos, y en pocas palabras, comenté lo siguiente:

El primero es desmontar la reiterada objeción de que la regulación de la IA supone, en todo caso, una cortapisa a la investigación, el desarrollo y la innovación en esta materia y que lo mejor es dejar que sean las propias compañías desarrolladoras de estos sistemas las que determinen dónde están los límites. La IA ya existente supone riesgos ciertos, en algunos casos de extraordinaria entidad, que no les pueden resultar ajenos a los poderes públicos y a los que se debe hacerles frente, bien sometiendo estos sistemas a controles exhaustivos o bien, cuando el riesgo sea inaceptable, prohibiéndolos.

El segundo desafío a superar es que baste un enfoque meramente ético frente a los peligros de la IA: es imprescindible la intervención del Derecho y alcanzar una regulación jurídica suficiente y adecuada.

El tercero es promover un enfoque jurídico interdisciplinar, de manera que la regulación de la IA tenga en cuenta los diferentes ámbitos jurídicos afectados por estos sistemas (Derecho constitucional, penal, administrativo, tributario, europeo, internacional público y privado, civil, mercantil, laboral, procesal e iusfilosófico).

Pero, en cuarto lugar, no podemos quedarnos en un enfoque exclusivamente jurídico, sino que hace falta un trabajo cooperativo con la matemática, la informática y las ciencias de la computación, la medicina, la física, la química, la economía, la filología, la sociología…

El quinto reto es regular unos sistemas que son extraordinariamente dinámicos y frente a los que es necesario articular una combinación de reglas precisas sobre lo que se puede, o no, hacer con un conjunto de principios, es decir, unas normas finalistas que prescriban a los poderes públicos los objetivos a alcanzar pero que permitan decidir a dichos poderes los medios para conseguirlos.

En sexto lugar, no es fácil acotar lo que se va regular y lo que va a quedar fuera o a la espera de una regulación futura; dos normas recientes de ámbito europeo (el Reglamento de la Unión Europea y el Convenio Marco del Consejo de Europa) han definido los sistemas sobre los que se proyectan como “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”. De esta manera quedan fuera del marco regulador de estas normas sistemas algorítmicos que carecen de esa autonomía, como, por ejemplo, VioGén.

El séptimo reto a afrontar es el de que los sistemas de IA incrementen las vigentes brechas digital, social, cultural y económica, es decir, una IA elitista.

En octavo lugar hay que evitar el extraordinario coste que el desarrollo de los sistemas de IA puede suponer para muchos derechos fundamentales y bienes constitucionalmente protegidos: a los ya bien conocidos usos espurios de datos e imágenes privados para entrenar estos sistemas hay que añadir, por mencionar otros ejemplos, el impacto que tienen en el derecho a la creación literaria, artística, científica y técnica o, por su extraordinario consumo de energía y agua, en los recursos naturales y el medio ambiente.

El noveno reto debe garantizarse que los poderes públicos no se sirven de estos sistemas para favorecer sus propias inmunidades.

Finalmente, y en décimo lugar, existe un riesgo importante de que los organismos públicos creados para supervisar y, en su caso, sancionar las infracciones cometidas por quienes desarrollan y usan estos sistemas sean capturados y “neutralizados” por los llamados a ser controlados; en especial, por las grandes corporaciones de la IA.

Por lo que respecta a las oportunidades que ofrece la IA, la primera de ellas es la agilización de los procedimientos administrativos que puedan automatizarse sin que ello suponga algún tipo de vulnerabilidad para las personas afectadas por su tramitación.

La segunda oportunidad es promover un enfoque interdisciplinar de los problemas a partir de la necesaria interdisciplinariedad que exige la IA.

En tercer lugar, cabe pensar que la cautela que debe adoptarse para evitar la configuración sesgada de los sistemas de IA pueda servir para constatar que los prejuicios por razón de raza, género, edad, condición social o económica… están presentes en nuestras sociedades y deben ser removidos no solo en el ámbito digital.

En cuarto término, la regulación jurídica de la IA debería contribuir a la recuperación, al menos en este ámbito, del protagonismo de la ley frente a la creciente expansión, que denuncia el profesor Esteve Pardo en un reciente libro, del contrato privado, que ha ido ocupando posiciones que tradicional y constitucionalmente corresponden a aquella fuente del Derecho.

En quinto lugar, y ya que la IA está aquí y lo está de manera cada vez más relevante, tenemos la oportunidad de articular un auténtico “derecho a la inteligencia artificial”, entendido como un derecho complejo no mencionado de manera expresa en el texto constitucional y derivado de varios enunciados constitucionales -incluido el mandato del artículo 18.4 de la Constitución conforme al cual la ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos-, que incluiría una pluralidad de técnicas de garantía en forma de libertades individuales, prohibiciones de poder público y prestaciones; entre ellas, la de no sufrir discriminación por parte de los sistemas de IA y la de acceder a los beneficios derivados de dichos sistemas; la protección de la integridad física y moral, así como de la libertad ideológica, frente a las intromisiones que pueden suponer los mencionados sistemas; la garantía del respeto a los derechos vinculados a la vida privada y familiar, a la propia imagen y a la  creación literaria, artística, científica y técnica; la protección de las libertades de circulación y manifestación frente al abuso de los sistemas de control basados en el reconocimiento facial; el mantenimiento de la tutela judicial efectiva y del derecho de defensa en el contexto de una creciente “inteligencia artificial judicial”; la alfabetización electrónica; la garantía de unas condiciones laborales dignas y de los derechos de sindicación y huelga frente al creciente poder algorítmico de las empresas; la protección de los derechos de las personas consumidoras…