Anna Forés Miravalles

Per seguir somiant


NEURODERECHOS, SESGOS Y ADOLESCENTES: UNA ECUACIÓN POR RESOLVER

La medicina y la neurociencia han realizado en los últimos años una fuerte apuesta por la IA como aliada para predecir enfermedades, tomar decisiones clínicas e incluso valorar la posibilidad de reincidencia en el crimen. Sin embargo, estos algoritmos no pueden dejar el desarrollo cerebral fuera del cálculo, especialmente a la hora de valorar a los adolescentes cuyo cerebro aún se encuentra en formación.

https://ethic.es/2022/08/ia-neuroderechos-sesgos-adolescentes/

José Manuel Muñoz

A medida que la inteligencia artificial (IA) ha evolucionado, numerosos sectores han aprovechado para plantear de qué forma esta nueva revolución tecnológica puede contribuir para su beneficio. Es el caso de la medicina y la neurociencia donde, en la actualidad, resulta habitual encontrar el uso de sistemas de IA como herramientas de ayuda. Principalmente, cubriendo dos aplicaciones concretas: por un lado, tomar decisiones clínicas para diagnosticar enfermedades, diseñar tratamientos personalizados, acelerar la realización de ensayos clínicos y disminuir los costes de desarrollo de nuevos fármacos; y, por otro, analizar imágenes radiológicas obtenidas con técnicas como los rayos X, la tomografía computarizada o la resonancia magnética funcional (fMRI).

Pese a estas (y otras) evidentes ventajas, o precisamente debido a ellas, el debate ético acerca de la IA es intenso en nuestros tiempos. Aunque hay quienes encuentran la ética como una disciplina en cierto modo censuradora, que impide el avance científico, se trata justamente de lo contrario: desarrollar mejoras en las prácticas y metodologías científicas para que las ventajas sean aún mayores y lleguen a más personas.

Uno de los debates centrales es la posible influencia de sesgos en el uso de sus algoritmos. Por mucho que hablemos de ‘inteligencia’ artificial, es el intelecto humano el que está detrás de su diseño, uso y, por supuesto, eventuales sesgos. Por otro lado, este debate ha convergido en los últimos años con el que se produce acerca del avance de la neurotecnología. A este respecto, han surgido en diversos ámbitos y países las propuestas de neuroderechos, que son «los principios éticos, legales, sociales o naturales de libertad o derecho relacionados con el dominio cerebral y mental de una persona», tal y como los define el investigador Marcello Ienca.

El desarrollo neurocognitivo de los menores no es un proceso homogéneo, sino que se produce a distintas velocidades en según qué partes del cerebro

Entre ellos se incluye, precisamente, la protección contra sesgos algorítmicos. En este punto, surge una pregunta lógica: ¿por qué? ¿Cuál es la conexión de lo neuro con los sesgos algorítmicos? Para responder a ella, regresemos a las dos aplicaciones de la IA en neurociencia.

Recordemos la primera: la toma de decisiones clínicas. En este sentido, uno de los mayores escándalos relacionados con los sesgos de la IA se produjo en 2019, cuando en la prestigiosa revista Science se publicó un estudio que mostraba que, para problemas de salud similares, los pacientes afroamericanos de Estados Unidos recibían un peor tratamiento (menor presupuesto) que los pacientes caucásicos.

Estas decisiones se tomaban mediante un algoritmo empleado por el sistema de salud de dicho país. Es fácil imaginar la conexión de este tipo de sesgos con los neuroderechos: probablemente, numerosos pacientes afroamericanos que padecían enfermedades neurológicas y psiquiátricas, o que estaban en riesgo de contraerlas, vieron afectada negativamente su salud cerebral y mental.

La segunda aplicación era el análisis de imágenes cerebrales. Aunque para alguien no iniciado es fácil caer en la tentación de pensar que estas imágenes son una especie de fotografías instantáneas de este órgano, lo cierto es que el proceso de su adquisición, reconstrucción y análisis es bastante complejo. El papel de los algoritmos de aprendizaje automático en dicho proceso resulta fundamental, y en algunos de los procedimientos empleados pueden llegar a colarse sesgos (en la mayoría de casos inconscientes o, al menos, no malintencionados) que, además de afectar al resultado del análisis, pueden perjudicar a algunos grupos poblacionales.

Hay riesgo de agravar la vulnerabilidad de adolescentes con antecedentes penales y disminuir sus oportunidades de reinserción por los sesgos de la IA

Pero hay otra manera en la que las imágenes cerebrales y los sesgos algorítmicos pueden verse íntimamente relacionados: la introducción de resultados de neuroimagen en algoritmos de predicción de riesgo criminal. Se trata de la llamada neuropredicción, de acuerdo con la cual el grado de activación de áreas cerebrales como la corteza prefrontal o la amígdala nos informa sobre el riesgo de reincidencia o comisión de un delito futuro. Ya hicimos en su momento algunas observaciones críticas sobre este paradigma, pero lo que nos interesa aquí es su relación con un tipo de sesgos de los que se suele hablar poco: los sesgos de edad.

Ciertas (y conocidas) herramientas de estimación de reincidencia asignan mayor riesgo a personas que cometieron delitos en edades tempranas, en comparación con las que los cometieron en la edad adulta. Este problema, que ya es serio de por sí, se ve agravado por la progresiva introducción de datos de neuroimagen (en especial, fMRI) en esta clase de algoritmos. ¿Por qué?

La corteza prefrontal, importante en la toma de decisiones, no termina de desarrollarse por completo hasta bien pasados los 20 años

El desarrollo neurocognitivo de los menores no es un proceso homogéneo, sino que se produce a distintas velocidades en según qué partes del cerebro. Por ejemplo, la corteza prefrontal, que tiene una gran importancia en la toma de decisiones, termina de desarrollarse por completo bien pasados los veinte años. Junto con nuestro colega argentino José Ángel Marinaro, hemos alertado del grave sesgo que podría suponer agregar datos de imagen cerebral a algoritmos de predicción de reincidencia sin tener en cuenta este tardío neurodesarrollo. Se necesita acumular más evidencia y reflexión para dilucidar si los datos sobre activación de áreas cerebrales en adolescentes tienen las mismas implicaciones que los de los adultos.

Mientras tanto, existe el riesgo de agravar la vulnerabilidad de adolescentes con antecedentes penales y disminuir sus oportunidades de reinserción, especialmente en países en los que, como ocurre en algunas partes de Latinoamérica, se llega a recluir en prisión a personas con edades tan bajas como los doce años. El poeta E. E. Cummings dijo una vez que «se necesita coraje para crecer y convertirte en quien realmente eres». Adquirir este coraje es sin duda un objetivo integral de la persona e involucra diversos factores sociales y biológicos. El desarrollo cerebral no debe quedar fuera de la ecuación.


José Manuel Muñoz es investigador del grupo Mente-Cerebro en el Instituto Cultura y Sociedad (ICS) de la Universidad de Navarra, así como del Centro Internacional de Neurociencia y Ética (CINET) creado por la Fundación Tatiana Pérez de Guzmán el Bueno. Actualmente se encuentra realizando una estancia como Research Fellow en la Escuela de Medicina de Harvard.

Anuncio publicitario


Federico Mayor Zaragoza: “El conocimiento solo es importante si lo utilizamos para atrevernos a cambiar las cosas”

por 

Rodrigo Santodomingo

El exdirector general de la Unesco, Federico Mayor Zaragoza, no se cansa de citar a Francisco Giner de los Ríos, para quien educar solo tenía sentido si sirve para que el alumno aprenda a dirigir su propia vida. Cerca de los 90 años, Mayor Zaragoza ha endurecido su discurso hasta animar a un levantamiento pacífico contra la oligarquía. En su opinión, la codicia es el germen de un mal que amenaza con dejar a la Tierra echa trizas. Y la educación, nuestra única esperanza.

Durante los minutos previos a la entrevista, Federico Mayor Zaragoza (Barcelona, 1934) vuelca un torrente de anécdotas con espacio reservado en la historia contemporánea mundial. De su boca salen recuerdos de experiencias cercanas con figuras esenciales del siglo XX: Mijaíl Gorbachov, Nelson Mandela, François Mitterrand…

Al ser nombrado director general de la Unesco en 1987, Mayor Zaragoza fue el primer español en ocupar un cargo global al más alto nivel. Antes había alcanzado la excelencia en el campo de la bioquímica y había dejado su impronta —como consejero de Adolfo Suárez y ministro de Educación— en nuestra transición a la democracia.

Hace más de 20 años que Mayor Zaragoza promueve los valores de la concordia y el diálogo desde su Fundación Cultura de Paz, donde pone el acento en la educación como fuente de esperanza. El catalán recibe con ademanes de caballero vieja escuela en la sede de la fundación, ubicada en la Universidad Autónoma de Madrid.

Malos tiempos para educar en la paz. No tanto por la vuelta de la guerra a Europa en sí, sino por el furor belicista y armamentístico, aquí en España y casi en cualquier lado.

Hay que decirle al imperio —hoy norteamericano como antes fue británico, francés o español— que el mundo ha cambiado y que no podemos seguir pensando exclusivamente en armas y en bases militares, en la razón de la fuerza en lugar de en la fuerza de la razón. Como director general de la Unesco, impulsé en 1989 —en colaboración con personalidades como [Nelson] Mandela— una declaración sobre cultura de paz. ¿Por qué elegimos el término cultura? Porque se refiere al comportamiento cotidiano: mi cultura es cómo me comporto cada día. Los grandes poderes globales, los grupos G (G6, luego G7, G8, G20…) que mandan en el mundo desde los años 80 rechazaron la iniciativa. Así seguimos. Hemos aceptado la inaceptable: estar a las órdenes de esta gente.

¿Y cómo ha de plantearse la resistencia educativa?

Hay documentos de referencia que nos iluminan. La Constitución de la UNESCO, que es una preciosidad, empieza diciendo que hay que educar para elevar los baluartes de la paz donde nace la guerra: en la mente de los hombres. Allí hay que actuar, en la mente de los hombres. Y la única forma de hacerlo es a través de la educación.

Nuestra esperanza es que la educación se centre en cultivar aquellas capacidades que nos hacen humanos: pensar, anticiparse, innovar, imaginar, crear

Tampoco ayuda, supongo, uno de los mantras educativos de nuestro tiempo: formar a las nuevas generaciones para un mundo altamente competitivo. Competición no es guerra, pero tiene una connotación de lucha, en cierto sentido casi para-bélica.

Y en esa atmósfera de competición, ahora ha irrumpido con tremenda fuerza la inteligencia artificial (IA). Me preocupa profundamente ese discurso según el cual la IA va a ir sustituyendo la inteligencia humana. Me indigna que Elon Munsk diga que en poco tiempo podrá insertarnos un chip en el cerebro. ¿Nos quieren deshumanizar, robotizar? Nuestra esperanza es que la educación se centre en cultivar aquellas capacidades que nos hacen humanos: pensar, anticiparse, innovar, imaginar, crear. ¡Cada ser humano es un creador! Esta es nuestra confianza.

Se refiere con frecuencia al fin educativo primordial que fija la Unesco: hacernos libres y responsables.

Fíjese qué bonito. Libres y responsables. Nada más y nada menos. Como bioquímico, tuve el honor de trabajar en Oxford con un premio Nobel, el profesor Hans Krebs. Un viernes por la tarde vio que estaba haciendo acopio de datos y más datos en su laboratorio. A partir de entonces, me obligó a quedarme en casa los viernes. Y me dio un consejo: vea lo que otros también ven y piense lo que nadie ha pensado. Ser responsable es pensar, sin olvidar nunca que cada ser humano es único.

Y emprender, como suele repetir. Pero no en un sentido exclusivamente empresarial, como si todos los jóvenes tuvieran que ser fundadores de start-ups, sino más bien como el valor de atreverse.

Cuando cambié, armando un gran follón, el programa educativo de la Unesco—que durante 45 años se había limitado, dentro de su lógica colonial, a la alfabetización y la educación básica— me inspiré en don Francisco Giner de los Ríos, quien decía que hay que educar para que el alumno sea capaz de dirigir su propia vida. Hablé con Jacques Delors, que en aquel entonces presidía el Consejo de Europa. Juntos organizamos un Congreso Mundial de Pedagogía al que acudieron figuras como Paulo Freire. En sus conclusiones, se fijaron cuatro grandes objetivos en un marco de aprendizaje para toda la vida: aprender a ser (libres y responsables), a conocer (que no es lo mismo que informarse), a hacer y a vivir juntos. A estos cuatro pilares, yo añadí aprender a emprender. En su momento me había impresionado el famoso aforismo de Horacio: sapere aude, atrévete a saber. Reflexionando, le di la vuelta y me dije: más difícil aún es saber atreverse. Si te inhibes, el conocimiento es irrelevante. Solo es importante en la medida en que nos atrevemos a utilizarlo para cambiar las cosas.

También alude habitualmente a otra cita que le impactó en su juventud, en este caso de Albert Camus, quien escribió en La Peste: “Los desprecio porque, pudiendo tanto, se atrevieron a tan poco”. ¿Da miedo asumir la responsabilidad que conlleva la libertad?

La leí con 17 años y me marcó profundamente. Si podemos, debemos. La libertad es el don supremo de la condición humana. Nos tenemos que atrever a garantizar la habitabilidad del planeta. Nos tenemos que atrever a decirles a los grandes magnates que estamos cansados del PIB. Y que les vamos a ganar porque nosotros somos el pueblo.

La escuela ha de enseñar a dirigir la propia vida para que no nos la dirijan otros, para que no seamos sujetos pasivos ante la ambición de una oligarquía

Para las nuevas generaciones, ¿resulta difícil atisbar alternativas ante la fuerza omnipresente del pensamiento hegemónico: más consumo, más crecimiento…?

Yo estoy casi seguro de que we the people, nosotros los pueblos, vamos a abandonar la posición cómoda de espectadores y vamos a empezar a ser, por fin, actores. Aunque es cierto que, como dice Soledad Gallego-Díaz, las redes sociales e Internet se están convirtiendo en armas de distracción masiva. Y esto afecta especialmente a los más jóvenes. Tenemos el poder, pero estamos distraídos. Pero no tengo duda de que vamos a hacer frente a aquellos privilegiados que defienden sus intereses y nos tratan de convencer de que no hay remedio, de que las cosas son así y no pueden ser de otra forma.

¿Fomenta el sistema educativo español la iniciativa o más bien la pasividad?

Hay de todo. Pero mi posición es clara, déjeme que la repita: la escuela ha de enseñar a dirigir la propia vida para que no nos la dirijan otros, para que no seamos sujetos pasivos ante la ambición de una oligarquía. La libertad de comprar tal o de sentarse en una terraza a beber una cerveza es importante, pero no puede ser la justificación de la vida personal. Los pueblos tenemos que levantarnos, hacernos responsables y decir basta a que mueran miles de africanos en el Mediterráneo mientras unos cuantos multimillonarios viajan al espacio durante 10 minutos.

Permítame insistir en lo difícil que resulta hacer llegar a los más jóvenes mensajes que contradigan el engranaje de nuestro sistema económico. Quizá usted no lo recuerde, pero hace unos años le entrevisté para un blog sobre educación ambiental de Ecoembes, la empresa de reciclaje. Quise titular con lo que me pareció lo esencial de sus respuestas: hemos de enseñar a consumir menos. El titular fue censurado.

Sí me acuerdo. Quizá alguien pueda pensar que esto es un idea que se me ha ocurrido a mí. No es el caso. Ya en el año 68, un señor italiano llamado Roberto Peccei, del Club de Roma, dijo que estábamos creciendo indefinidamente en un contexto finito. Peccei también advirtió, hace décadas, de que nos dirigíamos hacia el abismo. Y en esa dirección seguimos, tan contentos [Mayor Zaragoza gesticula como si caminara alegremente]. Nos tenemos que dar cuenta de que solo podremos vivir en una Tierra saludable. Nos dicen que tal, que con cuatro parches esto se soluciona, que hay que cambiar algunas cosas para que todo siga igual. No puede ser. Tengo cinco bisnietos y, como comprenderá, estoy muy preocupado.

No se cansa de repetir que educación no es capacitación, que uno puede saber mucho inglés o matemáticas y ser un perfecto maleducado. No sé si en esa distinción subyace el dilema educar ciudadanos o formar trabajadores que alimenta gran parte del debate ideológico sobre educación.

No. De hecho, no me gusta esa separación entre ciudadanos y trabajadores. Lo que quiero decir es que capacitación es saber cosas, pero que uno puede saber muchas cosas y no ser libre ni responsable ni manejar su propia vida. Me gustaría que una ciudadanía consciente, que sabe lo que está pasando, se exprese, intervenga, actúe. Educación es que cada individuo tenga la certeza de que ahora ya puede y de que ahora ya debe.


El efecto tribu (parte I)

por David Bueno i Torrens | 

https://www.ub.edu/neuroedu/el-efecto-tribu/

El estado del ¿bienestar?

Vivimos en un entorno moderno, lleno de comodidades y avances científicos y tecnológicos. No tenemos que andar kilómetros y más kilómetros para conseguir comida, como tenían que hacer nuestros ancestros, y en general estamos protegidos de las inclemencias del entorno, incluido el riesgo de encontrar fieras al acecho. Desde el origen de la humanidad, hemos avanzado mucho. La esperanza de vida es actualmente muy superior a la de cualquier otra época de la historia; nuestro cerebro encuentra multitud de estímulos con los que ocuparse, incluido un sistema educativo rico y complejo (aunque, como cualquier otro aspecto de la vida, criticable y mejorable); el sistema sanitario nos ayuda a superar muchos contratiempos de salud que en otras épocas hubiesen sido fatales, y un largo etcétera de otras posibilidades y comodidades.

Sin embargo, algo no termina de funcionar bien. A pesar de todos estos avances, indiscutiblemente muy provechosos, el número de personas que dicen estar insatisfechas con su vida, que se sienten desanimadas y tristes, e incluso los casos de depresión y de otros trastornos que afectan a la vida mental, no solo son alarmantemente altos, sino que, además, según todas las encuestas, van en aumento. Incluso entre los niños y niñas y entre los adolescentes, cuando se les pregunta por cómo se sienten, se detecta una disminución preocupante de su percepción subjetiva de bienestar.

Sin duda hay muchos aspectos implicados, desde el estrés, incluyendo un entorno donde la sobreestimulación es casi constante y donde a menudo hay un exceso de expectativas, hasta una sociedad demasiado ocupada; especialmente, pero no exclusivamente, unos progenitores demasiado ocupados en satisfacer las necesidades de apoyo emocional de niños y adolescentes, a menudo a través de un exceso de satisfacción de las necesidades materiales. Estos son algunos, entre otros muchos factores, pero hay uno que a menudo no se considera, y del que quiero hablar en este post: el “efecto tribu”.

¿Cómo se vivía en el paleolítico?

Empezaba diciendo que vivimos en un entorno moderno, pero nuestro cerebro sigue siendo primitivo. Me explico mejor. Nuestro cerebro, como órgano biológico, se ha ido generando lenta y progresivamente a través de procesos evolutivos, desde nuestros ancestros primates y homínidos, de hace diversos millones de años, hasta los humanos actuales, que surgimos hace tan solo 200.000 años. Durante casi todo este tiempo hemos vivido como cazadores y recolectores. Y este ha sido el entorno de selección natural que ha favorecido que se mantengan determinados cambios genéticos azarosos que han propiciado que se haya ido formando el cerebro que tenemos.

El neolítico, el primer gran salto cultural de la humanidad, surgió hace tan solo 8000 años, y a pesar de que nos hemos adaptado este nuevo estilo de vida, por aprendizaje, nuestro cerebro sigue moviéndose de forma instintiva en los parámetros de una sociedad paleolítica de cazadores y recolectores. Somos capaces de aprender un montón de cosas nuevas, sin lugar a dudas, podemos adaptarnos a innumerables cambios, pero siempre sobre la base de la plasticidad neuronal de un cerebro que se forjó en el paleolítico. Lo mismo podemos decir con respecto a la revolución industrial, de hace 300 años, o la digital, tan solo 30 años.

Por consiguiente, para entender mejor cómo somos ahora, debemos preguntarnos también cómo se vivía en el paleolítico, en una época de cazadores y recolectores. Nos ayudará a entendernos un poquito más, a comprender mejor los procesos mentales y las capacidades cognitivas que surgen de nuestro cerebro. Todos los grupos humanos de cazadores y recolectores que se han estudiado durante el último siglo siguen unas pautas similares, que nos permiten extrapolar hasta cierto punto cómo debía ser la vida de nuestros ancestros.

Se movían mucho, para conseguir alimento suficiente para toda la tribu, que era la estructura básica de organización social. Pero se desplazaban muy lentamente, para poder ir recolectando comida: un bulbo aquí, un fruto allá, unas bayas algo más lejos, una lagartija o un roedor como fuente principal de proteína animal, etcétera. Ahora, en cambio, nos movemos muy poco y, cuando lo hacemos, solemos ir con prisas, lo que “contradice” los parámetros básicos de funcionamiento del cerebro. Nos adaptamos por aprendizaje, por supuesto, a condición de incrementar el nivel de estrés. Con esto no digo que se viviese mejor en el paleolítico. Creo que ahora se vive mucho mejor en general, pero analizar este componente primigenio de nuestro cerebro debería ayudarnos a disfrutar más de las comodidades y progresos de que disponemos, incluidos todos los relacionados con el mundo de la educación.

Además de todo lo dicho, hay otro aspecto de la vida paleolítica, que en parte forzaba este desplazamiento lento del que he hablado, y que tiene implicaciones todavía más profundas. Me gusta llamarlo el “efecto tribu”. Iban despacio no solo para ver todas las posibles fuentes de alimento, sino también porque se desplazaban todos juntos, desde los más ancianos (aquellos que llegaban a la vejez, que eran muy pocos) hasta los bebés, en brazos de sus progenitores, incluyendo niños y niñas de cualquier edad. Y al mismo tiempo que se desplazaban, los más pequeños iban aprendiendo de los jóvenes y los adultos, por imitación, manifestándolo y ensayando a través de sus juegos.

Salvo contadas excepciones, como por ejemplo cuando un grupo reducido de jóvenes y adultos se separaba del resto, a veces durante algunos días, para intentar cazar algún antílope, toda la tribu se trasladaba junta, sin dejar a nadie atrás.

Iban a cazar antílopes, ocasionalmente aquellos jóvenes que eran especialmente certeros con el arco y las flechas. Pero, insisto: la tribu permanecía junta, sin dejar a nadie atrás; apoyándose materialmente y, sobre todo, emocionalmente. Por supuesto, de vez en cuando también debían surgir diferencias entre sus miembros, pero la sensación de apoyo mutuo, de avanzar juntos, los mantenía unidos y les daba estabilidad, social y emocional.