LAS DECISIONES INDIVIDUALES AUTOMATIZADAS. SENTENCIA DEL TJUE DE 7 DE DICIEMBRE DE 2023, CASO SCHUFA

En este artículo, te ofrecemos una vista preliminar del estudio elaborado por José Rodríguez García, abogado en ejercicio, doctor en derecho por la Universidad Carlos III de Madrid y profesor contratado doctor acreditado por ANECA, para el primer número de nuestra Revista Digital «ELEX INSIGHT«.

Para leer el artículo completo, haz clic aquí. En este artículo, disponible en la edición de enero de 2024, seis expertos del ámbito analizan detalladamente el complejo panorama del régimen jurídico y su gestión.

Sumario del artículo

Resumen: La sentencia analiza la aplicación del Reglamento General de Protección de Datos a la gestión automatizada de un valor de probabilidad relativo a la capacidad para hacer frente a sus obligaciones de pago en el futuro (scoring) y el uso de dicho valor de probabilidad por terceros.

Como vista preliminar de su aportación, disponible de forma íntegra en la revista, incluimos en este blog un breve resumen de los puntos clave abordados en el artículo de José Rodríguez, siendo este el índice de contenido propuesto por el autor:

1. Antecedentes del caso.
2. Las decisiones individuales automatizadas.
3. Las decisiones basadas únicamente en el tratamiento automatizado, incluida la elaboración de perfiles.
4. Las garantías para adoptar decisiones individuales automatizadas.
5. La ponderación de intereses.
6. Un breve comentario a las decisiones automatizadas.

1.- Antecedentes del caso

En este caso, se presenta un litigio entre SCHUFA, una sociedad alemana que proporciona información de solvencia a terceros, y OQ, quien vio denegado un préstamo después de que SCHUFA compartiera información negativa sobre ella. OQ solicitó acceso a los datos registrados y su eliminación, pero SCHUFA se negó a revelar todos los datos utilizados en su evaluación, invocando secretos comerciales. La disputa se centra en si la generación de un valor de probabilidad, como el utilizado por SCHUFA, constituye una «decisión individual automatizada» según el RGPD de la Unión Europea, y si SCHUFA está obligada a proporcionar información adicional solicitada por OQ, dado que los terceros que toman decisiones finales basadas en este valor no disponen de dicha información.

El órgano jurisdiccional alemán plantea preguntas prejuiciales para dilucidar si la generación automatizada de un valor de probabilidad, transmitido a terceros que toman decisiones contractuales basadas en él, constituye una «decisión automatizada» según el RGPD, y si la negativa de SCHUFA a proporcionar información adicional viola los derechos de protección de datos de OQ. La resolución del caso no solo determinará la obligación de SCHUFA de divulgar información adicional, sino también la interpretación del RGPD en cuanto a la protección de datos en relación con la evaluación automatizada de la solvencia crediticia de los individuos.

2.- Las decisiones individuales automatizadas

El artículo 22 del RGPD establece el derecho del interesado a no ser objeto de una «decisión individual automatizada» que produzca efectos jurídicos o lo afecte significativamente, basada únicamente en el tratamiento automatizado de datos, incluida la elaboración de perfiles. Este artículo excluye esta disposición en tres situaciones: cuando la decisión es necesaria para celebrar o ejecutar un contrato, cuando está autorizada por el Derecho de la Unión o de los Estados miembros con medidas adecuadas de protección, o cuando se basa en el consentimiento explícito del interesado. Sin embargo, esta excepción no puede aplicarse a datos especiales como origen étnico, religión, salud, entre otros, a menos que el interesado dé su consentimiento explícito o exista una justificación de interés público esencial.

La sentencia analizada interpreta que el concepto de «decisión» abarca no solo actos que producen efectos jurídicos, sino también aquellos que afectan significativamente al interesado de manera similar, como la denegación automática de solicitudes de crédito en línea. Por lo tanto, esta noción amplia de «decisión» podría incluir el resultado del cálculo de la solvencia de una persona en forma de un valor de probabilidad relativo a su capacidad de pago futura, lo que desencadena la aplicación de las disposiciones del RGPD sobre protección de datos.

3.- Las decisiones basadas únicamente en el tratamiento automatizado, incluida la elaboración de perfiles

La actividad llevada a cabo por SCHUFA se considera como elaboración de perfiles, ya que implica la generación automatizada de un valor de probabilidad sobre la capacidad de una persona para cumplir con un préstamo futuro. En este caso específico, este valor de probabilidad determina si un banco otorgará o denegará un préstamo, siendo crucial para la toma de decisiones del banco. Por lo tanto, este valor de probabilidad tiene un impacto significativo en el interesado, lo que constituye una «decisión» que produce efectos jurídicos o afecta de manera similar al interesado, según lo establecido en el artículo 22.1 del RGPD.

La sentencia interpreta que el artículo 22.1 del RGPD garantiza el derecho del interesado a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, lo que implica una prohibición general sin necesidad de ser invocada activamente por el interesado. En este contexto, el valor de probabilidad generado por SCHUFA y utilizado por el banco para tomar decisiones sobre créditos se considera una decisión automatizada que afecta significativamente al interesado, lo que implica la necesidad de cumplir con las disposiciones del RGPD sobre protección de datos.

4.- Las garantías para adoptar decisiones individuales automatizadas

La lectura conjunta del artículo 22.1 del RGPD y del Considerando 71 establece que las decisiones basadas únicamente en un tratamiento automatizado están permitidas solo cuando son necesarias para la celebración o ejecución de un contrato, autorizadas por la ley, o se basan en el consentimiento explícito del interesado. Es fundamental establecer medidas que protejan los derechos del interesado, incluyendo la intervención humana, el derecho a expresar su opinión y a impugnar la decisión, especialmente en casos de decisiones automatizadas.

El uso de inteligencia artificial y decisiones automatizadas plantea preocupaciones sobre posibles discriminaciones. Por lo tanto, se requiere transparencia en el diseño y la implementación de algoritmos, así como la capacidad de interpretar las decisiones adoptadas. La protección efectiva de los derechos de los interesados requiere que las garantías y medidas de seguridad se apliquen tanto en la generación de decisiones automatizadas como en su implementación, asegurando así la transparencia y la equidad en el proceso.

5.- La ponderación de intereses.

La ponderación de intereses en el tratamiento de datos personales implica considerar tanto los derechos del responsable del tratamiento y terceros como los del interesado. Es fundamental que el tratamiento sea necesario para satisfacer los intereses legítimos del responsable o terceros, siempre y cuando los derechos fundamentales del interesado no prevalezcan sobre estos intereses. Esta ponderación debe tener en cuenta las expectativas razonables del interesado, el alcance del tratamiento y su impacto en él.

Por un lado, el análisis proporcionado por una agencia de información comercial puede mejorar la evaluación de solvencia y reducir riesgos para terceros. Sin embargo, el tratamiento de datos sensibles, como la concesión de exoneraciones de deudas, constituye una injerencia grave en los derechos del interesado, pudiendo afectar negativamente a su vida privada y dificultar el ejercicio de sus libertades, especialmente en situaciones de necesidad. La conservación prolongada de estos datos aumenta aún más las implicaciones sobre los intereses y la privacidad del interesado, elevando los requisitos de licitud para su retención.

6.- Un breve comentario a las decisiones automatizadas

La utilización de inteligencia artificial y algoritmos en la toma de decisiones que afecta a terceras personas plantea desafíos importantes en términos de transparencia y protección de los derechos ciudadanos, especialmente en el sector público. Esto se debe a la falta de comprensión generalizada sobre el funcionamiento y el uso de estos algoritmos, lo que limita la capacidad de los ciudadanos para cuestionar o impugnar las decisiones basadas en ellos. La opacidad de los algoritmos también puede resultar problemática, especialmente cuando se trata de decisiones administrativas que afectan los derechos fundamentales de las personas, como el acceso a la información, el debido proceso y la protección de datos. Es esencial garantizar la transparencia y la rendición de cuentas en el uso de la inteligencia artificial, especialmente cuando se emplea en el sector público, para salvaguardar los derechos y libertades de los ciudadanos.

En este contexto, es crucial considerar las implicaciones éticas y legales del uso de la inteligencia artificial por parte de la Administración Pública. La falta de acceso a los algoritmos, especialmente cuando son de propiedad privada y empleados por entidades públicas, plantea serias preocupaciones sobre la rendición de cuentas y la protección de los derechos de los ciudadanos. Es necesario garantizar que las decisiones basadas en algoritmos estén sujetas a un riguroso escrutinio y control, y que se ponderen adecuadamente los intereses en juego, especialmente cuando se trata de derechos fundamentales. La transparencia y la justificación de las decisiones basadas en inteligencia artificial son fundamentales para mantener el equilibrio entre el avance tecnológico y la protección de los derechos individuales.

Lee ahora el artículo completo de José Rodríguez

Este blog solo recoge una muestra resumida del contenido que puedes encontrar en el primer número de la Revista Digital «ELEX INSIGHT«. Para acceder al artículo de José Rodríguez García al completo, haz clic en el siguiente enlace:

La tecnología de ELEX está posicionándose como el presente y futuro de la eficiencia en los plazos, según lo informado por destacados medios de actualidad jurídica española, según reconocen medios de actualidad jurídica como Confilegal, LawyerPress o Economist & Jurist. Si quieres experimentar la diferencia que la inteligencia artificial de eLex puede hacer en tu práctica legal, solicite ahora tu Demo este enlace o agenda una reunión con nuestros expertos para resolver cualquier duda sobre el mismo.