Estaba leyendo artículos sobre la Digital Service Act y cuanto más leía sobre este Reglamento, más me estaba acordando de las Consideraciones Éticas de la Carta de Derechos Digitales.
El grupo de las Consideraciones Éticas estaba compuesto por: Carissa Véliz, Paloma Llaneza, José Luis Piñar, Instituto Hermes, Simona Levi, Miguel Pérez Subías, y liderado por una servidora.
Es una pena que no se le haya dado más visibilidad a este documento porque es muy bueno. En la redacción de algunos principios tuvimos mucha visión, y quiero nombrarlos y en algunos hacer algunos comentarios.
a. Principio de la centralidad del ser humano
La persona, el ser humano, es el centro y sujeto de los derechos fundamentales, tanto en el entorno físico como en el digital. La innovación tecnológica puede llegar a poner en cuestión algo tan indiscutible como que la persona y sólo la persona es el centro y el sujeto de los derechos.
Realidades como la ecología de las tecnologías, incluidas las tecnologías convergentes biológicas (bio), de información (info), de nanoescala (nano) y cognitivas (cogno), etiquetadas todas juntas como las tecnologías BINC, han de ser observadas con atención por el Derecho, que no puede ignorar las cuestiones que plantean ni puede demorar su análisis jurídico, dada la experiencia de los rápidos cambios en la técnica.»
El principio sigue, pero antes quiero hacer un par de comentarios. ¿Qué hay de destacable aquí? No hay nada más ético que poner en el centro al ser humano y «que la persona y sólo la persona es el centro y el sujeto de los derechos». Parece una obviedad, ¿verdad? pero no lo es.
Precisamente, en el campo de las plataformas digitales los Derechos Fundamentales de los individuos son puestos a un lado en aras de los derechos de las propias plataformas. (Esto conecta con el Principio de Preponderancia de los Derechos Fundamentales que es el que le sigue).
También quiero hacer hincapié en el concepto que incluimos: Las tecnologías BINC, o «The BINC Ecology» que incluye todas las tecnologías, y no sólo las más populares, como son la IA, Machine Learning, Internet de las cosas, etc. En este vídeo Steen Rasmussen y yo lo explicamos de manera detallada.
Esto significa, que este principio se va a aplicar a las tecnologías actuales, y a las futuras tecnologías disruptivas.
Sigue este principio de la siguiente manera: «… En particular, y en lo que a los procesos de robotización de tareas se refiere, el Parlamento Europeo, en su Resolución de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)), advierte que “resulta de vital importancia que el legislador pondere las consecuencias jurídicas y éticas, sin obstaculizar con ello la innovación”.
Es decir, la innovación en el territorio europeo es clave y no debe ser obstaculizada, pero esto no significa vulnerar los Derechos Fundamentales de las personas.
«El Derecho debe articular mecanismos y soluciones jurídicas que hagan frente, por ejemplo, a los supuestos en que pueda derivarse la exigencia de responsabilidad por los resultados que puedan dar lugar a un alto riesgo individual y/o colectivo producidos por la actuación de los robots o de otras máquinas que utilicen Inteligencia Artificial, o cualquier otra tecnología venidera, pero ello no puede derivar en extenderles el reconocimiento de derechos y deberes que sólo a la persona corresponden.»
En este párrafo se deja muy claro que las personas son las únicas a quienes corresponde el reconocimiento de los derechos y deberes, y no los robots. Esto me recuerda a una charla de Luc Steels, en la que habla precisamente de este tema.
Este principio termina diciendo: «En conclusión, el principio de centralidad de la persona es un presupuesto imprescindible que, no obstante, su aparente obviedad, ha de ser resaltado en el reconocimiento y desarrollo de los derechos digitales.«
Nada más que añadir.
b. Principio de preponderancia de los Derechos Fundamentales
Estos principios refuerzan los derechos de esta Carta y los derechos fundamentales, que son el marco jurídico de aplicación e interpretación.
c. Principio de Universalidad.
El principio ético de la universalidad afecta a los derechos digitales, impulsando que se garanticen para todas las personas y en todo el ámbito en el que cada uno de ellos esté definido.
Este principio es un refuerzo del principio de no discriminación en la aplicación de los derechos digitales.
d. Principio de No exclusión.
«Quienes por libre deseo no accedan al entorno digital, no pueden ser excluidos. «
Esta primera frase de este principio ya empieza fuerte. Esto no es ni más ni menos que la SOLUCIÓN a los problemas que las personas mayores y las personas que, por la razón que fuere, no saben o no pueden interactuar con la tecnología, no sea excluidos.
¿Qué está pasando? pues justo lo contrario. Estamos pecando de solucionismo tecnológico pensando que la tecnología puede arreglar todos los problemas. ¿Es la arrogancia del tecnólogo, o la poca visión de equipos formados sólo por tecnólogos? un poco de todo, me temo.
La solución a muchos de los problemas que tenemos pasa por el desarrollo de las tecnologías sociales, y no sólo de las tecnologías físicas.
«Este principio se refiere a que todo derecho que se desarrolle ha de incluir a todas las personas, actitudes o comportamientos analógicos, garantizando el uso y desarrollo de bienes, servicios y el acceso a procesos no digitales.»
Pero no debemos pensar sólo en los cajeros automáticos como ejemplo de la discriminación que produce el solucionismo tecnológico y el no aplicar el Principio de No Exclusión en el diseño de una nueva tecnología.
Precisamente, este es el motivo por el cual en la guía de nuestro método de consultoría empezamos haciendo un mapa de las personas a las que va a afectar una tecnología concreta desde su diseño para saber si se adapta a todas ellas. Si no lo hace, habrá que tener en cuenta la interacción humana como solución, es decir, las soluciones analógicas.
Y si no, acuérdense de las aplicaciones COVID-19, no hubo ni un solo país en el mundo que diseñara un medio analógico eficaz para los grupos en riesgos de exclusión. Tuve la oportunidad de estudiar cada país que estaba implementando medidas tecnológicas para ayudar a atajar la pandemia y no hubo ni un solo país que diseñara un método eficaz para las personas en riesgo de exclusión.
e. Principio de Igualdad e Inclusividad en el acceso.
«El acceso al entorno digital no puede estar condicionado ni por la complejidad tecnológica ni por opciones que obliguen a las personas a convertirse en cliente o usuario de empresas concretas.»
Aquí, dos cosas: a) las Comunidades Autónomas y Administraciones Públicas usando productos de los gigantes tecnológicos. Es una vergüenza cómo en este país, y en el resto de Europa, nos hemos vendido en el área de Educación a Google Workplace y a Microsoft Teams. Convierten a TODOS LOS ALUMNOS en clientes de estos gigantes. Clientes forzosos. O la Administración Pública usando Zoom, otro ejemplo. Y como estos, muchos más. ¿Se acuerdan de este melón que abrí hace años? Pues fue un bluff.
Como ejemplo, tenemos el acceso a la ayuda pública del bono social, muy complicado. Tanto, que Civio diseñó una herramienta que ayudó a más de 300.000 personas a pedir el bono social fácilmente. Más adelante hablaré sobre la denuncia de Civio pidiendo liberar el código fuente del algoritmo usado por la Administración (BOSCO).
«Las tecnologías digitales deben promover la equidad e intentar eliminar la discriminación injustificada. Todas las personas han de tener garantizada la igualdad de oportunidades.
Las Tecnologías de la Información y de la Comunicación (TICs) no pueden convertirse en una herramienta a través de las cuales se favorezca, mediante sus distintas técnicas, la discriminación o la exclusión.«
f. Principio de abundancia (vs escasez artificial)
«Donde sea posible universalizar el acceso, debe propiciarse cualquier sistema que fomente abundancia evitando cualquier sistema que imponga escasez artificialmente para obtener algún tipo de beneficio particular—ya sea para no modificar un procedimiento administrativo, para generar ingreso o lucro extra sin añadir servicios, entre otros—siempre y cuando se retribuya adecuadamente a los creadores de contenido, y se propicie la diversidad en el mercado.»
¿A qué les recuerda este principio? a mí, en parte, al trabajo que hace Jaime Gómez-Obregón.
Para evitar que este principio pudiese propiciar la desigualdad debido a que puede interpretarse de muchas maneras, como que no haya derecho a la propiedad intelectual, se hizo mención a la retribución del trabajo de los creadores, y a que se incentive la diversidad y en contra de la desigualdad.
g. Principio de Beneficencia y de No-Maleficencia
«Las tecnologías digitales deben promover el bienestar de las personas, y no deben dañarlas ni intencionadamente, ni a través de la imposición de riesgos de daños individuales, colectivos y/o sistémicos. Esto hace que sea necesario desarrollar normas sobre seguridad cuando los individuos interactúan con los sistemas digitales, estableciendo un procedimiento claro para medir, probar y certificar la funcionalidad de los sistemas digitales.
Muchas de las tecnologías digitales afectan al derecho a la privacidad de las personas lo cual, a su vez, implica vulnerabilidad respecto de un sinnúmero de daños (discriminación, extorsión, y numerosas presiones externas) lo cual pone en riesgo nuestra autonomía.»
Creo que el contenido de este principio deja muy claro qué defiende, que es muchísimo, y qué propone para que el daño a las personas no se produzca. Sí quiero hacer hincapié en una cosa: este principio hace alusión a la aplicación de la tecnología, y tiene en cuenta el CONTEXTO de su aplicación.
h. Principio de Autonomía.
«Las tecnologías digitales deben respetar el derecho de las personas a conservar la facultad de decidir qué decisiones tomar, ejercer la libertad de elegir cuando sea necesario, y cederla en los casos en los que existan razones justificadas para renunciar de manera limitada y temporal a esta toma de decisiones. Toda delegación también debe seguir siendo, en principio, anulable.
Las inversiones públicas en software y conocimiento deberán tener la máxima utilidad pública, y en la medida de lo posible respetar la libertad de las personas, liberando el código de los desarrollos realizados por la administración, o simplemente facilitar su reutilización.«
i. Principio de Auditabilidad.
«Cuando haya un conflicto que afecte a derechos o que magnifiquen los riesgos, prejuicios y perjuicios existentes en la sociedad, las tecnologías digitales deben de ser auditadas por terceros independientes y puestas a disposición de la sociedad de manera clara.
Esto permite que puedan ser inspeccionados de manera independiente el código fuente, los objetivos para los que fue diseñado el algoritmo y la lógica funcional que subyace a las decisiones que puedan tomar tales procesos para que puedan ser cuestionados o sometidos a revisión administrativa o jurisdiccional.
A su vez, este principio permite identificar al responsable o responsables en caso de un resultado negativo y que cause daño a las personas y que requiere, por un lado, de mayor entendimiento acerca de cómo se produjo tal resultado y, por el otro, de explicación de su funcionamiento por parte de cualquier persona de la administración que conozca el sistema y el procedimiento concreto.
En aras de los principios de igualdad y equidad, este principio permite al ciudadano conocer los criterios que se le han aplicado en una toma de decisiones que le afecta y, con esa información, si la decisión es justa y ajustada a derecho, tomar las medidas tendentes para que la decisión le sea favorable, y si no lo es, cuestionarla judicial o extrajudicialmente.»
Si este principio fuese aplicable, no hubiese ocurrido lo que le ocurrió a Civio cuando acudió a Tribunales para pedir a la Administración que liberase el código fuente de BOSCO, «el software que determina quién tiene acceso a estas ayudas y quién no, no funciona. Y hemos llevado a juicio la resolución del Consejo de Transparencia que nos niega el derecho a escrutar su código fuente.» Puedes leer todo el artículo aquí.
¿Qué razones usó el Tribunal? copiando el tuit original de Civio, estos son los motivos:
- Peligro para seguridad pública
- Para seguridad nacional
- Propiedad intelectual
- Abuso injustificado de la Ley de Transparencia
Y yo me pregunto, ¿si es software pagado con dinero público no debería ser de código abierto? Sí, sé que es una pregunta retórica, pero la opacidad es el pan nuestro de cada día.
Esto es sólo un ejemplo. Me gustaría que leyesen este artículo sobre la Sentencia SyRI para que vean que las cosas pueden tener otro resultado. Esto ocurrió en Los Países Bajos, no en España.
j. Principio de acceso a Información confiable.
«El principio de acceso a la información confiable supone el acceso al código fuente de las plataformas y asegurarse de que los distintos grupos de personas están separados y mezclados (no favoreciendo las cámaras de eco)…»
Me siento muy orgullosa de este principio porque fue una de mis aportaciones íntegras, y que sigo pensando que es fundamental y que poco a poco se está convirtiendo en una realidad: la auditabilidad de las grandes plataformas de internet.
Que los distintos grupos de personas estén separados y mezclados y no se favorezca la creación de las cámaras de eco. Esto no es otra cosa que la eliminación de los perfiles por categorías ideológicas políticas, religiosas o filosóficas, raciales, preferencias sexuales, etc. Lo que viene a ser el artículo 9.1 RGPD.
¿Con qué objetivo? vamos a la segunda parte de este principio:
«… de manera que la información sea discutida y contrastada permitiendo que las personas tengan un conocimiento suficiente como para tomar decisiones soberanas, logrando una mayor coherencia en la información, evitando la polarización y la fragmentación de la sociedad.»
Es decir, que podamos hablar y discutir como hacíamos antaño. Que los bots sean exterminados, que no haya manipulación a través de la hipersegmentación. En suma, que no se fragmente nuestra democracia y se respeten los Derechos Fundamentales de las personas.
k. Principio de Soberanía Tecnológica.
«Los poderes públicos cuidarán de evitar un riesgo de dependencia excesiva de los suministradores transnacionales de servicios digitales, especialmente a la Administración pública, hasta el punto de que en circunstancias particulares pueda ser afectada la soberanía nacional por interrupción o uso inapropiado de los servicios.
En lo que sea posible, se fomentará el desarrollo de tecnologías propias mediante políticas de investigación, desarrollo e innovación orientadas a un cumplimiento más adecuado de los principios que se expresan en esta Carta.»
Poco que decir a este principio que está perfectamente formulado.
¿Qué te han parecido estos principios éticos? Dime si echas de menos alguno, o incluso, cuéntame casos o circunstancias que conoces que me ayude a sumar más ejemplos de la inadecuada aplicación de estos principios.