Los algoritmos ya deciden sobre tu hijo: el CERMI pide que la ley de inteligencia artificial no lo deje fuera

Esta es de las noticias que uno lee de reojo pensando “esto es cosa de informáticos”. Nosotros creemos que no, y por una razón muy doméstica: si tu hijo usa un comunicador, una app de pictogramas o un lector de pantalla, ya está usando inteligencia artificial. Y si alguna vez le han valorado, becado, seleccionado o denegado algo con un sistema automático de por medio, entonces un algoritmo ya ha decidido sobre él.

El CERMI ha hecho dos peticiones en poco más de una semana, una a España y otra a Europa. Van de lo mismo.

Lo que pide a la ley española

El texto en juego es el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. El CERMI, apoyándose en la Convención de la ONU sobre los Derechos de las Personas con Discapacidad y en el artículo 49 de la Constitución, pide cinco cosas:

• Que todos los procedimientos sean universalmente accesibles y comprensibles: los canales de información y de reclamación, los registros, las inspecciones, las sanciones y —esto es clave— las explicaciones sobre las decisiones algorítmicas. De poco sirve el derecho a que te expliquen por qué un sistema dijo que no, si la explicación es ilegible.
• Que las organizaciones de personas con discapacidad participen en la gobernanza de la Agencia Española de Supervisión de la Inteligencia Artificial.
• Que las garantías de accesibilidad e igualdad sean obligaciones legales supervisables y sancionables, no principios éticos. El CERMI lo dice con todas las letras: la gobernanza “no puede descansar únicamente en principios éticos, declaraciones generales o compromisos voluntarios”.
• Que los sistemas de IA que use la Administración sean accesibles, auditables y con supervisión humana efectiva.
• Que haya mecanismos permanentes de participación de la sociedad civil de la discapacidad, y no consultas puntuales.

Y aparece un término que conviene aprenderse, porque lo vamos a oír mucho: capacitismo algorítmico. Es el sesgo que penaliza a las personas que se apartan de los patrones corporales, cognitivos, comunicativos, sensoriales o conductuales considerados normativos. Dicho en cristiano: si entrenas un sistema con datos de “gente estándar”, el sistema aprende que lo que no encaja es un error. Y nuestros hijos no encajan en ese estándar casi nunca.

Lo que pide a Europa (y esto es lo que más nos toca)

El 3 de agosto, el CERMI presentó su contribución a la consulta pública de la Oficina Europea de Inteligencia Artificial sobre cómo clasificar los sistemas de IA de alto riesgo —un sistema recibe esa calificación cuando puede comprometer la salud, la seguridad o los derechos fundamentales—.

Su aviso principal es concreto y muy nuestro: que la tecnología de apoyo no quede fuera de las garantías del reglamento europeo por la forma en que se comercializa. Es decir, que un comunicador o un software de accesibilidad no se escapen del control solo porque se venden como un producto de consumo cualquiera.

Añade dos cosas más:

• Que la accesibilidad se reconozca como condición para ejercer derechos, no como una función accesoria que se añade al final si sobra presupuesto.
• Que se atiendan los riesgos específicos en educación, empleo, servicios sociales, comunicaciones de emergencia, actuación policial, migración y administración de justicia. Leed otra vez esa lista pensando en una persona con discapacidad intelectual y entenderéis por qué importa.

Nuestra lectura, como familia

Nos quedamos con dos frases y una preocupación.

La primera frase es la de las explicaciones comprensibles. En casa hemos recibido resoluciones que no entendía ni el que las firmó. Si ahora las va a redactar una máquina, el derecho a una explicación en lectura fácil deja de ser un detalle bonito y pasa a ser la única forma de poder recurrir algo.

La segunda es la de la accesibilidad como condición y no como función. Es exactamente la diferencia entre una app pensada para tu hijo y una app a la que alguien le añadió un botón grande.

Y la preocupación: las comunicaciones de emergencia aparecen en esa lista de riesgos. Un sistema automático que no entienda a una persona con dificultades de habla en una llamada al 112 no es un problema de comodidad. Ahí no hay segunda oportunidad.

Esto está en trámite y no hay plazos concretos publicados de votación. Lo seguiremos, porque de aquí saldrá el marco con el que se van a diseñar durante años las herramientas que usa nuestra gente. Y porque, por una vez, estamos llegando antes de que la norma esté escrita en lugar de después.

Si usáis apps de comunicación o pictogramas en casa, quizá os interese nuestra sección de pictogramas — hecha, precisamente, pensando en que se entienda.