Miguel Ángel Presno Linera

El pasado 6 de febrero, la Comisión Europea publicó las Directrices sobre la definición de sistemas de inteligencia artificial para facilitar la aplicación de las normas del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (en adelante, RIA; aquí puede descargarse, junto con el Convenio Marco del Consejo de Europa sobre sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho, con un breve estudio introductorio). El artículo 96.1.f) del RIA exige a la Comisión que elabore directrices sobre la aplicación de la definición de sistema de IA establecida en el artículo 3.1, que entró en vigor el 2 de febrero de 2025, junto con otras disposiciones establecidas en los capítulos I y II del RIA, en particular el artículo 5 sobre prácticas prohibidas de IA. Dado que la definición de un sistema de IA es decisiva para comprender el ámbito de aplicación de la Ley de IA, incluidas las prácticas prohibidas, las presentes Directrices se adoptan en paralelo a las Directrices de la Comisión sobre prácticas prohibidas de inteligencia artificial, sobre las que ha realizado un primer análisis el profesor Lorenzo Cotino.

Las Directrices que a continuación se resumen, traducidas del inglés de forma automática, no son vinculantes. Cualquier interpretación autorizada solo puede ser dada en última instancia por el Tribunal de Justicia de la Unión Europea.

En el párrafo 1 del artículo 3 del RIA se define un sistema de IA de la siguiente manera: «Sistema de IA’: un sistema basado en una máquina que está diseñado para funcionar con diversos niveles de autonomía y que puede mostrar adaptabilidad después de su implementación, y que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales».

Esta definición comprende siete elementos principales: 1) un sistema basado en máquinas; (2) que esté diseñado para operar con diferentes niveles de autonomía; (3) que pueden exhibir adaptabilidad después del despliegue; (4) que, para objetivos explícitos o implícitos; (5) infiere, a partir de la entrada que recibe, cómo generar salidas (6) como predicciones, contenido, recomendaciones o decisiones (7) que pueden influir en entornos físicos o virtuales.

La definición de un sistema de IA adopta una perspectiva basada en el ciclo de vida que abarca dos fases principales: la fase previa al despliegue o de «construcción» del sistema y la fase posterior al despliegue o «uso» del sistema. No es necesario que los siete elementos estén presentes de forma ininterrumpida a lo largo de ambas fases de ese ciclo de vida. Este enfoque refleja la complejidad y diversidad de los sistemas de IA, garantizando que la definición se alinee con los objetivos de la Ley de IA al dar cabida a una amplia gama de sistemas de IA.

1. Sistema basado en máquinas. El término «basado en máquinas» se refiere al hecho de que los sistemas de IA se desarrollan con máquinas y se ejecutan en ellas. El término «máquina» puede entenderse como los componentes de hardware y software que permiten el funcionamiento del sistema de IA. Los componentes de hardware se refieren a los elementos físicos de la máquina, como las unidades de procesamiento, la memoria, los dispositivos de almacenamiento, las unidades de red y las interfaces de entrada/salida, que proporcionan la infraestructura para el cálculo. Los componentes de software abarcan código informático, instrucciones, programas, sistemas operativos y aplicaciones que manejan cómo el hardware procesa datos y realiza tareas.

Todos los sistemas de IA están basados en máquinas, ya que las requieren para permitir su funcionamiento, como el entrenamiento de modelos, el procesamiento de datos, el modelado predictivo y la toma de decisiones automatizada a gran escala. Todo el ciclo de vida de los sistemas avanzados de IA se basa en máquinas que pueden incluir muchos componentes de hardware o software.

2. Autonomía. El segundo elemento de la definición se refiere a que el sistema está «diseñado para funcionar con diferentes niveles de autonomía». El considerando 12 del RIA aclara que los términos «distintos niveles de autonomía» significan que los sistemas de IA están diseñados para funcionar con «cierto grado de independencia de las acciones respecto a la intervención humana y de capacidades para funcionar sin intervención humana».

Las nociones de autonomía e inferencia van de la mano: la capacidad de inferencia de un sistema de IA (es decir, su capacidad para generar resultados como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales) es clave para lograr su autonomía.

La referencia a «cierto grado de independencia de acción» en el considerando 12 del RIA excluye los sistemas diseñados para funcionar únicamente con la plena participación e intervención humana manual. La participación y la intervención humana pueden ser directas, por ejemplo, a través de controles manuales, o indirectas, por ejemplo, a través de controles automatizados basados en sistemas que permiten a los humanos delegar o supervisar las operaciones del sistema. Por lo tanto, el nivel de autonomía es una condición necesaria para determinar si un sistema califica como un sistema de IA. Todos los sistemas que están diseñados para funcionar con cierto grado razonable de independencia de acciones cumplen la condición de autonomía en la definición de un sistema de IA.

3. Capacidad de adaptación. El tercer elemento de la definición es que el sistema «podrá presentar capacidad de adaptación tras su despliegue». Los conceptos de autonomía y adaptabilidad son distintos pero están estrechamente relacionados. El considerando 12 del RIA aclara que la «adaptabilidad» se refiere a las capacidades de autoaprendizaje, lo que permite que el comportamiento del sistema cambie mientras está en uso. El nuevo comportamiento del sistema adaptado puede producir resultados diferentes del sistema anterior para las mismas entradas. La capacidad de un sistema para aprender automáticamente, descubrir nuevos patrones o identificar relaciones en los datos más allá de lo que se entrenó inicialmente es una condición facultativa y, por lo tanto, no una condición decisiva para determinar si el sistema califica como un sistema de IA.

4. Objetivos del sistema de IA. Los sistemas de IA están diseñados para operar de acuerdo con uno o más objetivos. Los objetivos explícitos se refieren a metas claramente establecidas que son codificadas directamente por el desarrollador en el sistema. Por ejemplo, pueden especificarse como la optimización de alguna función de costo, una probabilidad o una recompensa acumulativa. Los objetivos implícitos se refieren a metas que no se establecen explícitamente, pero que pueden deducirse del comportamiento o de los supuestos subyacentes del sistema. Estos objetivos pueden surgir de los datos de entrenamiento o de la interacción del sistema de IA con su entorno.

5. Inferencia de cómo generar resultados utilizando técnicas de IA. El quinto elemento de un sistema de IA es que debe ser capaz de inferir, a partir de la entrada que recibe, cómo generar salidas.  Esta capacidad de inferir es, por lo tanto, una condición clave e indispensable que distingue a los sistemas de IA de otros tipos de sistemas. El considerando 12 también explica que «[e]sta capacidad de inferir se refiere al proceso de obtención de los resultados, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en los entornos físicos y virtuales, y a la capacidad de los sistemas de IA para derivar modelos o algoritmos, o ambos, a partir de entradas o datos». El «proceso de obtención de los resultados, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en los entornos físicos y virtuales», se refiere a la capacidad del sistema de IA, principalmente en la «fase de uso», para generar productos basados en los insumos. La «capacidad de los sistemas de IA para derivar modelos o algoritmos, o ambos, a partir de entradas o datos» se refiere principalmente, pero no se limita a, la «fase de construcción» del sistema y subraya la importancia de las técnicas utilizadas para construir un sistema.

La primera categoría de técnicas de IA mencionada en el considerando 12 de la Ley de IA es «enfoques de aprendizaje automático que aprenden de los datos cómo alcanzar determinados objetivos». Esta categoría incluye una gran variedad de enfoques que permiten a un sistema «aprender», como el aprendizaje supervisado, el no supervisado, el autosupervisado y el aprendizaje por refuerzo.

En el caso del aprendizaje supervisado, el sistema de IA aprende de las anotaciones (datos etiquetados), por lo que los datos de entrada se emparejan con la salida correcta. El sistema utiliza esas anotaciones para aprender una asignación de entradas a salidas y luego la generaliza a nuevos datos invisibles. Un sistema de detección de spam de correo electrónico habilitado para IA es un ejemplo de un sistema de aprendizaje supervisado. Durante su fase de construcción, el sistema se entrena con un conjunto de datos que contiene correos electrónicos que los humanos han etiquetado como «spam» o «no spam» para aprender patrones de las características de los correos electrónicos etiquetados. Una vez entrenado y en uso, el sistema puede analizar nuevos correos electrónicos y clasificarlos como spam o no spam en función de los patrones que ha aprendido de los datos etiquetados. Otros ejemplos de sistemas de IA basados en el aprendizaje supervisado son los sistemas de clasificación de imágenes entrenados con un conjunto de datos de imágenes, en los que cada imagen se etiqueta con un conjunto de etiquetas (por ejemplo, objetos como coches), los sistemas de diagnóstico de dispositivos médicos entrenados con imágenes médicas etiquetadas por expertos humanos y los sistemas de detección de fraudes que se entrenan con datos de transacciones etiquetados.

En el caso del aprendizaje no supervisado el modelo se entrena con datos sin etiquetas ni salidas predefinidas. Mediante el uso de diferentes técnicas, como la agrupación, la reducción de dimensionalidad, el aprendizaje de reglas de asociación, la detección de anomalías o los modelos generativos, el sistema se entrena para encontrar patrones, estructuras o relaciones en los datos sin una orientación explícita sobre cuál debería ser el resultado. Así, por ejemplo, los sistemas de IA utilizan el aprendizaje no supervisado para agrupar compuestos químicos y predecir posibles nuevos tratamientos para enfermedades en función de sus similitudes con los fármacos existentes.

El aprendizaje autosupervisado es una subcategoría del aprendizaje no supervisado en la que el sistema de IA aprende utilizando los propios datos para crear sus propias etiquetas u objetivos. Para ello utilizan diversas técnicas, como los autocodificadores, las redes generativas adversarias o el aprendizaje contrastivo. Un sistema de reconocimiento de imágenes que aprende a reconocer objetos mediante la predicción de los píxeles que faltan en una imagen es un ejemplo de un sistema de IA basado en el aprendizaje autosupervisado.

Los sistemas de IA basados en el aprendizaje por refuerzo aprenden de los datos recopilados de su propia experiencia a través de una función de «recompensa». A diferencia de los sistemas de IA que aprenden de datos etiquetados (aprendizaje supervisado) o que aprenden de patrones (aprendizaje no supervisado), los sistemas de IA basados en el aprendizaje por refuerzo aprenden de la experiencia. Al sistema no se le dan etiquetas explícitas, sino que aprende por ensayo y error, refinando su estrategia en función de la retroalimentación que recibe del entorno. Un brazo robótico habilitado para IA que puede realizar tareas como agarrar objetos es un ejemplo de un sistema de IA basado en el aprendizaje por refuerzo. El aprendizaje por refuerzo también se puede utilizar, por ejemplo, para optimizar las recomendaciones de contenido personalizadas en los motores de búsqueda y el rendimiento de los vehículos autónomos.

El aprendizaje profundo es un subconjunto del aprendizaje automático que utiliza arquitecturas en capas (redes neuronales) para el aprendizaje de representaciones. Los sistemas de IA basados en el aprendizaje profundo pueden aprender automáticamente características a partir de datos sin procesar, lo que elimina la necesidad de ingeniería manual de funciones. Debido a la cantidad de capas y parámetros, los sistemas de IA basados en el aprendizaje profundo suelen requerir grandes cantidades de datos para entrenarse, pero pueden aprender a reconocer patrones y hacer predicciones con alta precisión cuando se les proporcionan datos suficientes.

Además de los diversos enfoques de aprendizaje automático mencionados anteriormente, la segunda categoría de técnicas mencionadas en el considerando 12 del RIA son «enfoques basados en la lógica y el conocimiento que infieren a partir del conocimiento codificado o la representación simbólica de la tarea que se va a resolver». En lugar de aprender de los datos, aprenden del conocimiento, incluidas las reglas, los hechos y las relaciones, codificados por expertos humanos; sobre esa base pueden «razonar» a través de motores deductivos o inductivos o utilizando operaciones como la clasificación, la búsqueda, la coincidencia y el encadenamiento. Al utilizar la inferencia lógica para sacar conclusiones, estos sistemas aplican la lógica formal, reglas predefinidas u ontologías a nuevas situaciones. Por ejemplo, los sistemas expertos de primera generación destinados al diagnóstico médico, que se desarrollan codificando el conocimiento de una serie de expertos médicos y que están destinados a extraer conclusiones de un conjunto de síntomas de un paciente determinado.

6. Salidas que pueden influir en entornos físicos o virtuales.  El sexto elemento de la definición es que el sistema infiere «cómo generar resultados como predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales». La capacidad de un sistema para generar resultados, como predicciones, contenido y recomendaciones, en función de los datos que recibe y utilizando el aprendizaje automático y los enfoques basados en la lógica y el conocimiento, es fundamental para lo que hacen los sistemas de IA y lo que distingue a esos sistemas de otras formas de software.

Las predicciones son uno de los resultados más comunes que produce el sistema de IA y que requieren la menor participación humana. Una predicción es una estimación sobre un valor desconocido (la salida) a partir de valores conocidos suministrados al sistema (la entrada). Por ejemplo, los sistemas de IA desplegados en los coches autónomos están diseñados para hacer predicciones en tiempo real en un entorno extremadamente complejo y dinámico, con múltiples tipos de agentes e interacciones, y un número prácticamente infinito de situaciones posibles, y para tomar decisiones para ajustar su comportamiento en consecuencia. Del mismo modo, los sistemas de IA para el consumo de energía están diseñados para estimar el consumo de energía mediante el análisis de datos de contadores inteligentes, previsiones meteorológicas y patrones de comportamiento de los consumidores. Al basarse en enfoques de aprendizaje automático, un sistema de IA está diseñado para encontrar correlaciones complejas entre estas variables para hacer predicciones más precisas del consumo de energía.

El contenido se refiere a la generación de nuevo material por parte de un sistema de IA. Esto puede incluir texto, imágenes, vídeos, música y otras formas de salida. Cada vez son más los sistemas de IA que utilizan modelos de aprendizaje automático (por ejemplo, basados en tecnologías de transformadores generativos preentrenados (GPT)) para generar contenido.

Las recomendaciones se refieren a las sugerencias de acciones, productos o servicios específicos para los usuarios en función de sus preferencias, comportamientos u otras entradas de datos. En algunos casos, las recomendaciones se refieren a posibles decisiones, como contratar a un candidato en un sistema de reclutamiento, que serán evaluadas por humanos. Si estas recomendaciones se aplican automáticamente, se convierten en decisiones.

Las decisiones se refieren a las conclusiones o elecciones hechas por un sistema a través de un proceso totalmente automatizado en el que se produce un determinado resultado en el entorno que rodea al sistema sin ninguna intervención humana.

7. Interacción con el entorno. El séptimo elemento de la definición es que los resultados del sistema «pueden influir en entornos físicos o virtuales». Este elemento debe entenderse en el sentido de que hace hincapié en el hecho de que los sistemas de IA no son pasivos, sino que tienen un impacto activo en el medio ambiente en el que se despliegan. La referencia a los «entornos físicos o virtuales» indica que la influencia de un sistema de IA puede ser tanto en los objetos tangibles y físicos (por ejemplo, el brazo de un robot) como en los entornos virtuales, incluidos los espacios digitales, los flujos de datos y los ecosistemas de software.

Observaciones finales. La definición de un sistema de IA abarca un amplio espectro de sistemas. La determinación de si un sistema informático es un sistema de IA debe basarse en su  arquitectura y la funcionalidad específicas  y debe tener en cuenta los siete elementos mencionados.

El enfoque basado en el riesgo de la Ley de IA significa que solo los sistemas que generen los riesgos más significativos para los derechos y libertades fundamentales estarán sujetos a sus prohibiciones establecidas en el artículo 5 del RIA, a su régimen regulador de los sistemas de IA de alto riesgo cubierto por el artículo 6 y a sus requisitos de transparencia para un número limitado de sistemas de IA predefinidos establecidos en el artículo 50. La gran mayoría de los sistemas, incluso si califican como sistemas de IA en el sentido del artículo 3.1 del RIA, no estarán sujetos a ningún requisito reglamentario.

La Ley de IA también se aplica a los modelos de IA de uso general, que están regulados en el Capítulo V de la Ley de IA. El análisis de las diferencias entre los sistemas de IA y los modelos de IA de uso general queda fuera del ámbito de aplicación de las presentes Directrices.