Publicado originalmente en Revolución 3.0 el 26 de julio de 2023.

Imagínese usted que sale a recoger a sus hijos a la escuela. Mientras va caminando tiene la necesidad de ir al baño. Se acerca a un baño público y en vez de insertar una moneda en las puertas giratorias, lo único que debe hacer para ingresar es mostrar su rostro ante una cámara. La puerta se abre en cuanto la cámara detecta sus rasgos faciales y, después de descontar automáticamente 5 pesos de su cuenta bancaria, una máquina le arroja únicamente 10 cuadritos de papel de baño.  Usted podría pensar que si necesita más papel higiénico podría depositar 5 pesos más para obtener otros 10 cuadritos porque evidentemente los primeros no le serán suficientes. Desafortunadamente, no hay cómo hacer un depósito de monedas a la máquina dispensadora. La cámara sólo le cobra para darle el ingreso y el papel higiénico es un regalo al ser “un derecho” que usted tiene por tener una necesidad biológica, sin embargo, durante los próximos 10 minutos únicamente tendrá derecho a usar 10 cuadritos en un baño público. Si está enfermo y tiene la necesidad de ingresar nuevamente a un WC público, más vale que lleve su propio rollo porque le darán el ingreso, le descontarán nuevamente sus 5 pesos, pero no tendrá sus anhelados 10 cuadritos.

Sale del baño, continúa su camino y al llegar a la escuela, la maestra le informa que su bendición estuvo entre soñoliento y triste en el 34% del tiempo pero que no fue culpa de la didáctica porque la cámara del salón mostró que el 94% de la clase estuvo de muy buen humor y prestó atención. La cámara de ingreso a la escuela también le notificó a la dirección que su hijo es el único niño de la comunidad escolar que aún no se ha aplicado la última vacuna designada por la OMS, por lo que a partir del día de mañana el ingreso a la escuela le será restringido hasta que los monitores del sistema muestran un cuadro verde alrededor de la cara del niño, lo que significa que ya se vacunó y que no pone en peligro al resto de sus compañeros.

Esto, que usted podría pensar forma parte de una historia de ciencia ficción, es algo que ya sucede todos los días en China debido a sus sistemas de vigilancia. Las calles están plagadas de cámaras que detectan a todos y cada uno de sus ciudadanos. El sistema va midiendo su nivel de “ciudadanía” y califica su comportamiento. Cada individuo se va ganando día a día una calificación y esta repercute en su crédito bancario, en el número de cuadritos de papel higiénico que puede recibir cada 10 minutos si va a un baño público, en la permisividad de ingreso a lugares de recreación, etc. Todo se mide todo el tiempo. ¿Le recuerda esto a la novela de Orwell? Pues no se equivoca.

El ejemplo que les exponía sobre la escuela es una realidad. En 2019 fui invitada a China para dar una plática sobre Tecnología e IA en educación. El evento hacía parte de una exposición de tecnologías digitales para la educación. Al llegar, pensaba encontrar herramientas que fomentan el aprendizaje a través de tecnología, pero mi sorpresa fue que en gran medida se ofrecía tecnología para medir el porcentaje de tiempo que el niño ponía atención en un aula, cuántas veces bostezaba, si tenía sueño, si se distraía o si no veía a la maestra. Aquí le dejo un video de como funciona esto^[1].

Todo este sistema de vigilancia comenzó con un “sueño” de mantener la paz y la seguridad de la nación. Detectar en las calles los rostros de delincuentes para poder seguirlos y ubicarlos fácilmente era el objetivo inicial. Claro que, para poder saber quiénes son los delincuentes, habría que controlar los biométricos de toda la población porque ni el estado ni la Inteligencia Artificial que controlará el sistema tienen la seguridad que usted no es un delincuente potencial, por lo tanto, todos sus datos y los de su familia, incluidos sus hijos menores de edad, deberán ser precargados en el sistema.

Hasta ahí pareciera que todo podría ser manejable. Usted es un buen ciudadano y como nada debe, nada teme; usted está tranquilo porque se siente seguro en la lógica de que el estado lo protege, sin embargo, qué pasaría cuando el estado lo encabece alguien que ambiciona el poder y tiene tratos cercanos con el crimen organizado. La IA no tiene la capacidad de discernimiento para decidir que las instrucciones que reciba están siendo usadas para tratar al ciudadano como un medio para alcanzar algún fin que beneficie sólo a quien tiene el control sobre esta tecnología. ¿Qué sería de un programa como estos si llegara a manos de alguien como Sandra Cuevas o Genaro García Luna? Es por este tipo de cuestionamientos que Elon Musk hizo un llamado a desacelerar el desarrollo de la Inteligencia Artificial^[2].

Por los últimos 15 años he estado involucrada en proyectos de tecnología para programas de nación. He visto cómo se seleccionan las tecnologías y la gran falsedad de las licitaciones. Los proyectos tecnológicos de nación son el sueño húmedo de gobernantes tecnócratas y empresas tecnológicas quienes cabildean y corrompen funcionarios públicos regalándoles viajes para toda la familia, departamentos en Polanco, y otros beneficios por debajo de la mesa. El funcionario debe, disimuladamente, elegir a la empresa que ganará millones de dólares entregando equipo que no incluye servicios de capacitación ni acompañamiento, por lo tanto los equipos no se usan porque nadie conoce su funcionamiento, quedan en el olvido y el siguiente sexenio no se usarán porque ninguna administración nueva quiere dar continuidad a los programas de otras administraciones. Eso sí, es posible que llegue nuevamente la empresa a cabildear el mismo proyecto “reloaded”.

Recientemente, haciendo el símil de un ejecutivo nivel C de empresa de tecnología reconocida, el Ex-Canciller Ebrad presentó, frente a una enorme pantalla de LED el Proyecto Ángel, su planteamiento de uso de la tecnología e IA para combatir la inseguridad, que no es otra cosa que los orígenes de aquella historia que describí al inicio de este artículo.

Más allá de los cuestionamientos que surgen de su presentación en términos de imagen pública, se unen las dudas sobre los peligros que un programa de vigilancia como este representa para los ciudadanos, aunado a los intereses detrás de bambalinas que podrían existir para quienes lo implementen.

Expongo algunos:

¿La bandera de la candidatura de Ebrad se centrará en la inseguridad más que en un proyecto de nación? ¿Esto significa que se está separando abiertamente de una continuidad del plan nacional actual?

¿Qué consultor recomendó a Marcelo cambiar la imagen de canciller serio por la de un intento de empresario tecnológico? Con todo el respeto que el canciller me merece por la gran labor que ha hecho en esta administración, pareciera que últimamente anda un poco perdido. Hay trabajadores que son excelentes cuando tienen un jefe pero que andan como gallina sin cabeza cuando no tienen esa dirección. Así se le ve a Marcelo, dando tumbos por todos lados, ya sea bailando, dando entrevistas a YouTubers, tratando de levantar estrategia por TikTok. Y si un hombre tan brillante y estratégico en la diplomacia internacional puede llegar a estar tan perdido ¿debería ser quien encabece un proyecto que involucra tecnología, IA para el escrutinio y alta vigilancia de la ciudadanía?

Si aún no sabe qué hacer con su imagen y la toma con tal ligereza, ¿cómo podría sortear la enorme responsabilidad que la IA representa, cuando tecnólogos y científicos estudiosos están pidiendo una pausa al uso de la misma?

¿Será él quien facilite esta tecnología a personajes que buscan el control y el poder? o será que ¿Desea Marcelo convertirse en el Ángel que todo lo ve?

^[1] https://www.dropbox.com/s/f9vnipf1gs6r9s4/MVI_2671.MOV?dl=0

^[2] Carta de Elon Musk y científicos en la que piden una pausa en la Inteligencia Artificial desata fuerte debate | El Financiero