Las máquinas pueden leer tu cerebro. Poco hay que pueda detenerlos. – Politico

En 2019, Rafael Yusti Imágenes trasplantadas con éxito directamente en el cerebro de los ratones y controlar su comportamiento. Ahora, el neurocientífico advierte que hay pocas cosas que puedan impedir que los humanos sean los siguientes.

Si se usa de manera responsable, la neurotecnología, donde las máquinas interactúan directamente con las neuronas humanas, podría usarse para comprender y tratar enfermedades incurables como el Alzheimer y el Parkinson, y ayudar en el desarrollo de prótesis y terapia del habla.

Pero si la neurotecnología no se regula, también puede conducir a los peores abusos de las corporaciones y el estado, incluida la vigilancia policial discriminatoria y las violaciones de la privacidad, dejando nuestras mentes tan vulnerables a la vigilancia como nuestras comunicaciones.

Ahora, un grupo de neurocientíficos, filósofos, abogados, activistas de derechos humanos y legisladores se apresuran a proteger esa última frontera de la privacidad: el cerebro.

No buscan una prohibición. En cambio, activistas como Yuste, que dirige Iniciativa neurorita En la Universidad de Columbia, defiende un conjunto de principios que garantizan los derechos de los ciudadanos a sus ideas, la protección de cualquier intruso, mientras se aprovechan los posibles beneficios para la salud.

Pero ven muchas razones para preocuparse por algunas aplicaciones de la neurotecnología, particularmente porque atraen la atención de los militares, los gobiernos y las empresas tecnológicas.

porcelana Estados Unidos lidera la investigación en inteligencia artificial y neurociencia. Pentágono Desarrollo Tecnología que se puede utilizar para modificar memorias.

No son solo científicos; Las empresas, incluidos los principales actores como Facebook y Neuralink de Elon Musk, también están progresando.

Los wearables de neurotecnología ahora están ingresando al mercado. La empresa estadounidense Kernel ha desarrollado unos auriculares para el mercado de consumo que pueden registrar la actividad cerebral en tiempo real. Sitio de redes sociales de Facebook proyecto financiado Crear una interfaz cerebro-computadora que permita a los usuarios comunicarse sin hablar. (Se retiraron este verano). Neuralink está trabajando en un implante cerebral, y en abril de 2021 lanzó un video de mono jugando Juego mental utilizando el chip implantado de la empresa.

«El problema es para qué se pueden usar estas herramientas», dijo. Hay algunos ejemplos aterradores: los investigadores han utilizado escáneres cerebrales orgullo Los criminales pueden corresponder, los empleadores chinos monitorean las ondas cerebrales de los empleados Lee sus sentimientos. Los científicos también lograron investigación subliminal para obtener información personal utilizando dispositivos de consumo.

«Tenemos sobre la mesa la posibilidad de un ser humano híbrido que cambiaría quiénes somos como especie, y eso es algo muy serio. Esa es mi existencia. Ya sea que se trate de un cambio bueno o malo, argumenta Yusti, es hora de hacer una decisión.»

sus orígenes

La neurotecnología actual no puede decodificar pensamientos o emociones. Pero con la IA, puede que eso no sea necesario. Los potentes sistemas de aprendizaje automático pueden vincular la actividad cerebral con condiciones externas.

“Para plantear desafíos de privacidad, es suficiente tener una inteligencia artificial lo suficientemente fuerte para identificar patrones y establecer correlaciones entre ciertos patrones de datos y ciertos estados mentales”, dijo Marcello Ienca, bioético de ETH Zurich.

Los investigadores ya han podido utilizar el sistema de aprendizaje automático Deducir números de tarjetas de crédito de la actividad cerebral de una persona.

Los escáneres cerebrales también se han utilizado en el sistema de justicia penal tanto para el diagnóstico como para anticipación qué criminales probablemente volverán a ofender, y ambos en este punto, como las pruebas de polígrafo antes, brindan información limitada y, a veces, defectuosa.

Esto puede tener graves consecuencias para las personas de color, que ya tienen una probabilidad desproporcionada de sufrir discriminación algorítmica.

«[W]Por ejemplo, la detección de mentiras o la detección de memoria parece lo suficientemente precisa según la ciencia, entonces, ¿por qué un fiscal diría que no a este tipo de tecnología? dijo Sjors Ligthart, quien estudia los efectos legales de la lectura cerebral forzada en la Universidad de Tilburg.

Con los implantes cerebrales en particular, los expertos dicen que no está claro si los pensamientos serán estimulados o se originarán en el cerebro, lo que plantea dudas sobre la responsabilidad. “No se puede distinguir qué tareas está realizando usted mismo y qué ideas está logrando la IA, simplemente porque la IA se ha convertido en un intermediario para su cerebro”, dijo Enka.

¿dónde está mi cabeza?

La gente nunca ha necesitado hacer valer la propia autoridad sobre las ideas que tiene, pero la neurotecnología está instando a los legisladores a hacer precisamente eso.

Chile está trabajando en la primera ley del mundo que garantizará a sus ciudadanos los llamados nervios.

El senador Guido Girardi, quien está detrás de la propuesta de Chile, dijo que el proyecto de ley crearía un sistema de puntuación similar para las neurotecnologías como los medicamentos, y el uso de estas tecnologías necesitaría la aprobación tanto del paciente como de los médicos.

El objetivo, dijo Girardi, es garantizar que tecnologías como «la inteligencia artificial se puedan usar para el bien, pero no para controlar a un ser humano».

En julio, España adoptó una carta no vinculante de derechos digitales, destinada a orientar futuros proyectos legislativos.

dijo Paloma Linza González, una abogada de protección de datos que trabajó en Charter.

«Queremos garantizar la dignidad individual, la igualdad y la no discriminación, porque se puede distinguir a las personas en función de sus ideas», dijo.

La Organización para la Cooperación y el Desarrollo Económicos, un club de naciones ricas en París, acordó pautas no vinculantes sobre neurotecnología e incorporó nuevos derechos destinados a proteger la privacidad y la libertad de pensar en las propias ideas, conocido como libertad cognitiva.

El problema es que no está claro si la legislación actual, que no tuvo en cuenta la neurotecnología en su redacción, es suficiente.

“Lo que necesitamos es otra mirada e identificación de los derechos existentes para la neurotecnología”, dijo Legghart. Uno de los objetivos podría ser el Convenio Europeo de Derechos Humanos, que garantiza, por ejemplo, el derecho al respeto de la vida privada, que podría actualizarse para incluir también el derecho a la privacidad mental.

los Reglamento general de protección de datosEl estricto régimen de protección de datos de Europa protege los datos sensibles, como el estado de salud y las creencias religiosas. pero estudio Por Ienca y Gianclaudio Malgieri en EDHEC Business School en Lille, se descubrió que la ley puede no cubrir los sentimientos y pensamientos.

Yosti argumenta que se requiere acción a nivel internacional, y organizaciones como las Naciones Unidas deben actuar antes de que la tecnología se desarrolle aún más.

«Queremos hacer algo un poco más inteligente que esperar hasta que tengamos un problema y luego tratar de solucionarlo cuando sea demasiado tarde, que es lo que sucedió con Internet, la privacidad y la inteligencia artificial», dijo Yusti.

Los problemas de privacidad de hoy serán «cacahuetes en comparación con lo que vendrá».

Peter Hayek contribuyó al informe.

Quiere más análisis de Politico? Politico Pro es un excelente servicio de inteligencia para profesionales. Desde servicios financieros hasta comercio, tecnología, ciberseguridad y más, Pro ofrece inteligencia en tiempo real, conocimientos profundos y el conocimiento acelerado que necesita para ir un paso más allá. Email [email protected] Solicite una prueba gratuita.