Fuente: Pixabay/CC0 Dominio público
Los avances recientes en el uso de la inteligencia artificial para extraer pensamientos significativos de las ondas cerebrales han alarmado a los defensores de los derechos humanos y la privacidad, quienes dicen que la tecnología avanza más rápido que la ley. Este es el primer documento que considera si Australia está preparada para posibles aplicaciones de la neurotecnología.
Los avances en neurotecnología han atraído la atención de investigadores de derechos humanos, legisladores nacionales y organizaciones como el Consejo de Derechos Humanos de las Naciones Unidas, generando un intenso debate sobre si es necesario modificar los marcos legales nacionales e internacionales actuales para abordar cuestiones emergentes como los derechos humanos. y privacidad
Sin embargo, en Australia no se ha abordado el tema de la neurotecnología y su impacto en los derechos humanos, y aunque se ha incluido la ética, aún no se ha puesto el foco en el derecho de los derechos humanos.
Un destacado experto en derecho de la neurotecnología, el Dr. Allan McCay de la Facultad de Derecho de Sydney, dijo que la Declaración Universal de los Derechos Humanos, redactada antes del advenimiento de la neurotecnología, puede no tener plenamente en cuenta estas posibilidades tecnológicas.
Pide que la neurotecnología esté en la agenda de los abogados, los organismos de reforma legal, las organizaciones de derechos humanos y, en última instancia, los parlamentos de Australia.
Esto se describió en el primer artículo, que preguntaba si estamos preparados para las posibles aplicaciones de la neurotecnología y qué debería hacer Australia con respecto a los desafíos de los derechos humanos. Por el Dr. McCay, “Neurotechnology and Human Rights: Developments Overseas and the Challenge for Australia” se publica en Revista australiana de derechos humanos.
“Si bien se deben reconocer los efectos positivos de la neurotecnología, como ayudar a las personas con discapacidades y tratar afecciones crónicas, se deben abordar las posibles violaciones graves de los derechos humanos. Dado el ritmo del progreso tecnológico, los legisladores deben dar forma activa a la ley, en lugar de esperar pasivamente a que los tribunales aborden los problemas”, dice el Dr. Allan McCay.
El Dr. McCay dijo que en Australia toda el área es “insuficientemente teórica” y “hay una falta de respuesta de las instituciones reguladoras/de derechos humanos”.
“A medida que los humanos continúan conectándose con las máquinas, es importante considerar las desventajas de posponer el debate sobre la neurotecnología”.
El monitoreo directo de la actividad neuronal plantea una serie de problemas, el más evidente de los cuales es la privacidad. Si bien hemos perdido la mayor parte de nuestra privacidad en línea, el acceso neuronal directo es más preocupante que los problemas de privacidad relacionados con los datos recopilados del comportamiento en las redes sociales.
Como se demostró recientemente en un estudio de la Universidad de Texas, los participantes en un escáner de resonancia magnética funcional (fMRI) escucharon podcasts, generando datos que se utilizan para entrenar un modelo para decodificar su cerebro.
Después de entrenar el modelo, los participantes volvieron al escáner y escucharon una nueva historia, una que no se usó para generar los datos de entrenamiento. Mientras escuchaban, el escáner fMRI registró los niveles de oxígeno en la sangre en partes de sus cerebros.
Luego, los investigadores utilizaron un modelo de lenguaje grande, como GPT-4 de OpenAI y Google Bard, para hacer coincidir los patrones de actividad cerebral con las palabras y frases que escucharon los participantes.
En pocas palabras, el Dr. Shinji Nishimoto, neurocientífico de la Universidad de Osaka que no participó en la investigación de Texas, dijo: “La actividad cerebral es una especie de señal cifrada, y los modelos de lenguaje hacen posible descifrarla”.
El Dr. McCay dijo que debemos considerar el monitoreo del cerebro y la intervención directa del cerebro en contextos de justicia penal, políticos, laborales y de consumo. Por ejemplo, ¿sería una violación de los derechos humanos monitorear el cerebro de un sospechoso durante un interrogatorio policial?
La empresa estadounidense Brainwave Science ya vende un producto de neurotecnología para interrogatorios.
El Dr. McCay dijo que algunos lo harían y argumentó que el uso de la neurotecnología de inteligencia artificial y los dispositivos cerebrales implantables, incluso aquellos que intervienen en el cerebro de los delincuentes para cambiar su comportamiento, es algo positivo. Sin embargo, esto es preocupante desde el punto de vista de los derechos humanos.
En el extranjero, se han tomado medidas para abordar estos problemas a través de la formación de grupos de derechos humanos, incluida la Fundación Neurorights y Minding Rights Network. Los grupos dudan de la capacidad del marco internacional de derechos humanos para enfrentar los desafíos de la neurotecnología.
La Fundación Neurorights está presionando para que las empresas, los gobiernos y las Naciones Unidas reconozcan los derechos a la privacidad mental, la identidad personal, el libre albedrío, el acceso justo al aumento mental y la protección contra los prejuicios.
El Dr. McCay dijo: “Un debate público puede ser útil para informar a quienes producen neurotecnología sobre los próximos cambios legales. Como han señalado varias instituciones extranjeras, la discusión debe tener lugar ahora”.
Más información:
Allan McCay, Neurotecnología y derechos humanos: desarrollos en el extranjero y el desafío de Australia, Revista australiana de derechos humanos (2023). DOI: 10.1080/1323238X.2023.2221487