El

 presente ensayo fue originalmente escrito en inglés y enviado a un concurso de ensayos académicos tematizado en tópicos de biología cognitiva, vida artificial, y por extensión inteligencia artificial, en el contexto del congreso sobre vida artificial del año 2021, organizado por la ISAL (International Society for Artificial Life). En dicho concurso se entregaron reconocimientos al mejor ensayo por 3 categorías distintas: Estudiantes de pregrado, Estudiantes de Doctorado y una categoría especial en conmemoración al centenario de la publicación de la obra R.U.R., por Karel Čapek, en la cual se acuña por primera vez el término Robot. Por decisión del comité evaluador, se incorporaron dentro de los reconocimientos a los “segundos lugares” («Runners-up»), instancia en la que la versión original de este ensayo fue incorporada dentro de dichos reconocimientos. Dicha versión está en el compendio de ensayos seleccionados publicado en la página de la conferencia, accesible a través del siguiente link https://www.robot100.cz/awards. La presente versión del ensayo adaptado al español y a un formato de divulgación más amplio, incorpora párrafos nuevos (incluidos por paréntesis numerados) orientados a explicar con más detalle la terminología académica, y también hay algunas reformulaciones inofensivas a la intención original del ensayo, que por cierto es bastante mejorable aún. Por lo demás, siempre me ha interesado la retroalimentación, de modo que si a quien lee estas palabras le resultara de interés lo que escribo, tuviera dudas o piensa que hay algo que pudiera quedar mejor explicado, me gustaría recibir dichos pensamientos. Con cariño, Poncho.

Por otra parte, la filosofía hermenéutica y la metafísica ocultista han simbolizado la existencia de entidades espirituales llamadas ’Egregores’. Los Egregores emergen a partir de una comunidad humana que participa de ciertos rituales que alimentan y le dan vida al ente psíquico. Propongo usar esta figura simbólica (el superorganismo/colonia) como una metáfora para formas de cognición distribuidas cuya existencia no es indicable por un grupo de personas, sino por sus rituales (interacciones). Estos rituales no se limitan a aspectos sociales, sino también con aquellos rituales que establecen con la matriz de artefactos tecnológicos y culturales. Estos superorganismos caracterizarían los comportamientos colectivos emergentes de sistemas de cognición distribuida en sistemas de múltiples agentes (Ricci et al. 2006) (Los múltiples agentes son personas, pero también pueden ser matrices de tecnologías de comunicación, por ejemplo chatbots).

 El asunto que me interesa resaltar con esta identificación de Egregores, con los sistemas de cognición distribuida, es sobre las consecuencias políticas de NO RECONOCER la agencia ética de los Egregores. La mente humana es fuertemente influenciable por las interacciones sociales y tecnológicas —argüiblemente— más ahora que ningún otro momento de la historia humana (Datta, Whitmore, and Nwankpa 2021). La propaganda, los sistemas educacionales y los medios de comunicación masiva son complejos tecnológicos e institucionales que surgen a partir de revoluciones industriales y las sucesivas modernizaciones de los estado-nación, moldeando las nuevas formas en las que las fuerzas políticas interactúan con las partes de la sociedad. Por supuesto, estas instituciones y complejos tecnológicos no son inherentemente buenos ni malos, sin embargo como tecnología extienden, restringen y forman la cognición humana. En este sentido, los Egregores tecnológicos implican consecuencias políticas distinguibles, las cuales deberían ser puestas bajo escrutinio público. Enfatizo nuevamente, esto es más importante hoy que ayer, dado el acceso masivo a tecnologías de comunicación interactivas para los sectores populares de las poblaciones urbanas, y específicamente para las nuevas infancias y juventudes, denominadas nativas digitales, pero que a la vez presentan altos grados de analfabetismo funcional.

Lo que yace a la raíz de este asunto es de alguna manera una reinvención del problema de la co-dependencia entre el individuo y la colectividad. Si lo concibiéramos como una paradoja, esto nos lleva a una regresión de causas infinitas que no nos sirve para situar coordenadas de acción concretas que nos permitan interrumpir los flujos de interacción predominantes y que nos dirigen hacia una crisis social y ecológica de magnitudes insospechadas. La noción de causalidad circular es clave para resolver los ahorcamientos regresivos del problema. Una mirada actualizada sobre este problema debe enunciar los problemas de nuestra sociedad forzosamente globalizada: El analfabetismo y la democratización tecnológica; La crisis climática en curso; La corrupción política de los estados-nación y su alianza con los gestores de la desigualdad económica.

Los roles que desempeñan artefactos tecnológicos como los algoritmos, agentes distribuidos, y redes comunicativas, varían tremendamente de acuerdo a la ética del diseño y los procesos que sostienen la agencia de los Egregores. Un ejemplo contemporáneo aparece en los sesgos raciales que las inteligencias artificiales (IA) exhiben en su comportamiento tras haber aprendido a clasificar información a partir de bases de datos que contienen datos incompletos, sesgados o que simplemente manifiestan procesos de segregación arraigados en la sociedad (Datta, Whitmore, and Nwankpa 2021). Cabe mencionar que ciertos comportamientos algorítmicos pueden inducir fenómenos sociales con manifiestas consecuencias políticas, tales como la propagación de noticias falsas y la configuración de cajas de resonancia sociales que exacerban la polarización política. Otro ejemplo de interés son las tecnologías informáticas de código abierto (open source), y su particular Egregor o filosofía (DeLanda 2001). En este caso lo que interesa es la capacidad que ha tenido de perseverar y volverse hegemónica un modo de producción tecnológica que descansa en principios de colaboración anónima y colectivista. Finalmente, me interesa mencionar brevemente un intento histórico de implementar una tecnología económica-política que pudo haber cambiado la historia humana en una escala tan grande como lo ha hecho la internet o la prensa. Tal es el caso del proyecto CyberSyn, concebido en Chile durante el gobierno de Salvador Allende Gossens. La idea detrás del proyecto se puede resumir en la creación de una red de comunicación basada en la red nacional de telégrafos que permitiese una transmisión de información económica a tiempo real que permitiese integrar los procesos productivos de las fábricas nacionales en un proceso de toma de decisiones que considere las necesidades reales de la sociedad, generando coordinación efectiva entre los distintos sectores productivos.
No quiero profundizar ni discutir más que lo mencionado de estos ejemplos, pero sí me gustaría recalcar la importancia de reconocer las consecuencias políticas que las tecnologías pueden ejercer sobre la sociedad, y enfatizar nuevamente cómo éstos Egregores tienen que ser mantenidos bajo escrutinio público si es que van a ser parte de nuestro espacio público de interacciones sociales. Al reconocer la agencia ética y política de los Egregores surgen varias preguntas abiertas a considerar: ¿Cuáles son sus repartos de lo sensible, o bien sus ’Umwelts’ (Nichos de sensibilidad y quehacer, ¿qué es lo que perciben?, ¿sobre qué cosas actúan?, y ¿cómo ambos ámbitos se retroalimentan?); ¿A qué repartos de lo sensible somos ignorantes? ¿Qué cosas se están gestando en los rincones inaccesibles para la vasta mayoría de quienes permanecemos técnicamente analfabetos?; ¿Cuál es el estatus legal/político de los sistemas de cognición distribuida? ¿Cómo podría extrapolarse tal estatus a Egregores ecológicos o superorganismos naturales?

Golems, máquinas autómatas y Robots comparten una identidad basada en la historia de un objeto inanimado que adquiere un cierto grado de autonomía derivada de un diseñador/creador, el cual espera que el objeto automatizado trabaje para beneficio personal o colectivo; luego el autómata problematiza su propósito, conduciendo a una rebelión, y a partir de allí las historias divergen. Escojo a los Golems como el objeto preferido de mis reflexiones debido a que encarna una interpretación más primitiva y espiritual del conflicto de la autonomía, en contraste con sus versiones más tecnológicas. Sin embargo, para efectos prácticos, me parece que estas distintas figuras son en cierta medida intercambiables, y representan diferentes acercamientos culturales a la misma situación.

En esta sección pretendo explorar los desafíos que implican reconocer la sensibilidad y autonomía que los Golems representan. Como ha sido previamente mencionado, las máquinas y los artefactos tecnológicos han retroalimentado y formado las nuevas formas de actividad y cognición humana. Este proceso se ha visto expandido y acelerado por las diferentes revoluciones científicas e industriales, no sin resistencia claro, como demuestran las revueltas luddistas (Darvall 1934). Es importante notar, sin embargo, que el conflicto de los luddistas es con el desplazamiento de las formas artesanales de producción y el desplome de sus economías por la competencia imposible contra las nuevas tecnologías de producción, y no contra la existencia de las máquinas por sí mismas.

Una interpretación contemporánea sobre el desarrollo de las tecnologías de automatización por cierto va a ser multifacética. Una de estas facetas es abarcada en la sección anterior, mientras que otra faceta de interés se vuelca hacia la robótica y las máquinas de funcionamiento automatizado, las cuales ya están hoy en día completamente imbricadas en el funcionamiento de las economías globales. Estas máquinas, sin embargo, poseen muy poca autonomía real, dado que dependen externamente de: Diseño, energía y materiales para la fabricación; Información, energía y materiales para la adecuada operación; y Revisión para la mantención. A pesar de ello, se han hecho avances interesantes en los últimos años sobre dinámicas de autoensamblaje (Pfeifer, Lungarella, and Iida 2007), algoritmos de aprendizaje automático y mecanismos de automantención. Es parte de nuestro horizonte imaginario y tecnológico que máquinas cada vez más sofisticadas y autónomas sean producidas en las próximas décadas, y esta progresión concibe la posibilidad de que eventualmente la producción de máquinas autónomas no contemple ninguna intervención humana directa. Para que las máquinas lograran dicho grado de autonomía operacional, éstas deberían ser capaces a su vez de enseñarse a sí mismas propósitos nuevos para lograr sus objetivos sin mediar intervenciones externas. Cuando ese día llegue, si es que llega, ¿Serán los Golems capaces de exhibir motivaciones propias o emociones? Cabe preguntarse aún, ¿Son las emociones (o las motivaciones propias) parte inherente de los sistemas cognitivos autónomos? ¿Cómo la sociedad reconoce y reconocerá la autonomía cognitiva de una mente ajena al estándar humano? En esta línea de interrogantes, no puedo sino recordar el escaso reconocimiento societal de los derechos, sensibilidades y autonomías de los animales, y su constante violación por diversas industrias y prácticas culturales. Hay gigantescas deudas societales y daños irreparables cometidos no sólo contra los animales en general, sino también contra partes de la propia sociedad, y contra ecosistemas enteros también. Epistemicidio es la marca de la civilización colonizadora, y su heredera, la sociedad globalizadora contemporánea. Una indagación honesta acerca de la naturaleza de la cognición debería tener que lidiar con las propiedades recursivas y autorreferentes de los sistemas autónomos, y tales propiedades pueden implicar la existencia de motivaciones propias, esto es, estados emocionales. Todo el asunto es bastante filosófico, pero no puede ser de otra manera, en tanto hay consecuencias políticas, espirituales y sociales para cualquier tipo de postura que considere las implicancias de la autonomía cognitiva.

El título de esta sección es una frase de Gabriela Mistral, poetisa chilena y la primera mujer latinoamericana en recibir el premio nobel en Literatura, y la utilizo pues refleja un problema propio de nuestros tiempos. A pesar de una enorme capacidad técnica, como sociedad globalizadora evidentemente estamos fallando de manera catastrófica en algún aspecto. El aspecto tiene que ser la organización, no los componentes. La organización societal de nuestras necesidades y capacidades ha demostrado estar indispuesta, o por lo menos es incompetente, a resolver los problemas de las vastas mayorías de la población mundial. Hay grandes desigualdades históricas irresolutas y que manifiestan sus acumuladas tensiones en casi todo los rincones del planeta. Pensar la relación de la humanidad para con Egregores, Golems y todo tipo de máquinas, debe afirmarse en algún tipo de meta-reflexión sobre su propia condición.

Las nuevas tecnologías deberían facilitar la condición humana en el mundo, sin embargo esta es una interpretación ingenua de que se supone que va a pasar si es que una nueva tecnología es descubierta o introducida en una sociedad. Las incesantes y endemoniadas guerras de los últimos siglos son los tristes y mutilantes testimonios de las consecuencias de los avances y acumulación tecnológica carente de prácticas reflexivas y regulatorias que le entreguen sentido y significado a las actividades y capacidades humanas. Instituciones modernas, tales como comunidades científicas y educacionales, partidos políticos y medios de comunicación masiva han jugado roles cruciales en procesos que han llevado a situaciones increíblemente ominosas e inhumanas, ayer y hoy. La actividad intelectual humana sostiene una gran deuda con la dignidad humana, y esto no tiene cómo ser ignorado al momento de reflexionar sobre la naturaleza de la cognición.

Los desafíos de este siglo pueden no tener relación con cómo crear vida artificial o robots autónomos, sino cómo utilizar nuestra matriz socio-tecnológica para preservar y nutrir la vida, abriendo un canal de comunicación entre la tecnología, la sociedad y la naturaleza que pueda cerrar las industriales heridas abiertas que desangran los sistema sociales y ecológicos en los cuales vivimos. Al decir esto, no es mi intención tomar una postura neoludista respecto de los procesos industriales, sino que evidencio la urgente necesidad de la sociedad de reorganizarse política, económica e intelectualmente a sí misma, de modo que nunca más el trabajo humano y la tecnología que produce tributen a la guerra ni a la devastación de la naturaleza.

¿Es necesario un proceso de reorganización radical para hacer frente a los desafíos de este siglo? ¿Cómo podría un proceso de reorganización así tomar lugar? ¿Qué tecnologías abrirán el paso para formas transitorias y nuevas de organización societal? ¿Cuánto gradualmente estos cambios pueden tener lugar? ¿Qué roles tendrán los Golems y los Egregores en estos cambios? Por cierto que no tengo respuestas definitivas para ninguna de estas preguntas, salvo la primera. Es necesario un cambio. Creo que tenemos que emprender una búsqueda colectiva que pretenda poner la actividad intelectual de las comunidades científicas, civiles y populares al servicio de enfrentar los desafíos de este mundo enfermo. Como persona individuada, me he sentido terriblemente impotente respecto de la crudeza y dimensión de los problemas humanos, pero he resuelto perseverar y seguir buscando nuevas formas de organizar nuestras necesidades y capacidades como comunidades que demuestren ser las soluciones que necesitamos, merecemos y podemos gestar. Puro amor para la gente, cuídense y sueñen bonito.