La gobernanza pública de la IA es un asunto del máximo interés en innovación urbana. El pasado 7 de noviembre fui invitado por el CIDOB –think tank dedicado a la investigación en relaciones internacionales- y el Ayuntamiento de Barcelona a la sesión «Herramientas públicas para una gobernanza ética de la Inteligencia Artificial (IA)». El panel tuvo lugar dentro del «Smart City Expo World Congress» de Barcelona, el evento mundial de referencia sobre el fenómeno de las smart cities.
Para las personas interesadas en este asunto de la gobernanza pública de la IA en el ámbito de lo urbano, el propio CIDOB ha publicado recientemente un par de breves informes de interés, tanto la regulación algorítmica en las ciudades como acerca del impacto medioambiental y social de la IA urbana.
La carrera global para regular los algoritmos
Existen básicamente tres tendencias globales en cuanto a la regulación de la IA:
- China, cuya política tecnológica viene marcada por el doble objetivo del liderazgo tecnológico global, y del mantenimiento del férreo control estatal y social, hasta el punto de que se reconoce al algoritmo como herramienta para impulsar (y forzar) comportamientos sociales aceptables por el Gobierno.
- EE.UU., donde no existe una regulación federal como tal, siendo los estados quienes están desarrollando una normativa que, bajo el paradigma del capitalismo tecnológico, fomenta el desarrollo de la IA por encima de algunas de sus controvertidas consecuencias en el plano cívico o ambiental.
- Europa, por el contrario, pone el acento en sus implicaciones éticas -aún a costa de atemperar su potencial innovador y que divide los proyectos de Inteligencia Artificial en varias categorías en base a sus riesgos para los derechos humanos: aplicaciones prohibidas, aplicaciones que requieren de un informe de conformidad, aplicaciones sometidas a obligaciones de transparencia, y aplicaciones permitidas sin más obligaciones particulares.
IA y ciudades
Así las cosas, no es extraño que, si nos circunscribimos al ámbito urbano, las ciudades chinas sean el paradigma de la tecno-vigilancia -mediante, por ejemplo, un uso extensivo e intensivo de los sistemas de reconocimiento facial y/o biométricos-.
En EE.UU, donde el desarrollo de las smart cities ha tenido lugar en buena medida al amparo de las políticas de seguridad ciudadana, Silicon Valley ha producido las corporaciones líderes en IA.
Muchas de estas empresas han cimentado su liderazgo en IA gracias a la ventaja competitva de estar sentadas sobre vastos yacimientos de datos obtenidos mediante sus operaciones corporativas globales -bien en servicios digitales, como Google-Alphabet, Apple, Facebook-Meta o Microsoft, o físicos, como Amazon, Uber, o AirBnB-.
Por el contrario, es en Europa donde las ciudades están haciendo mayores esfuerzos por establecer límites normativos que salvaguarden derechos como la privacidad, la ausencia de sesgos en la relación entre ciudadanía y administración, o la transparencia. Existen redes internacionales de ciudades como Eurocities o la City Coalition For Digital Rights (con abundancia de ciudades miembro europeas) proporcionan valiosas herramientas para ello.
La cara oscura de la IA: su impacto medioambiental y social
La reciente aprobación de la directiva europea sobre IA (AI Act) hace hincapié en la huella medioambiental de los proyectos de Inteligencia Artificial, un aspecto clave no solo por lo íntrinsecamente negativo de las emisiones, sino porque éstas se conllevan una profunda injusticia social.
En ese sentido, aunque la IA no sea del todo bien comprendida en su funcionamiento interno, podemos analizarla en términos de “caja negra” y considerar sus entradas (datos, agua y energía) contra sus salidas: servicios -con sus beneficios e injusticias sociales- y deshechos -ya sean calor, emisiones, o basura-.
¿Nuevas herramientas de políticas públicas para la IA?
No cabe duda de que hacen falta nuevas herramientas políticas y jurídicas para lidiar con algo tan disruptivo como la Inteligencia Artificial. Pero quizás no tantas como parecen. En mi intervención nombré 4 (hay más):
- los planes metropolitanos,
- las cláusulas de contratación,
- los exámenes de acceso a la función pública,
- y los sandbox -de “areneros”-,
De ellas, sólo los sandbox es una figura relativamente nueva.
La planificación metropolitana
En mi intervención en la sesión advertí sobre la necesidad de incorporar la medición de la huella de carbono en los proyectos de Inteligencia Artficial en las ciudades. Recordé cómo,, ya en los años 60 del pasado siglo, el urbanista Ian McHarg popularizó el término “urbanismo ecológico” para referirse a la relación medioambiental entre la ciudad y su entorno.
De dónde obtiene una gran metrópolis sus recursos, y adónde van sus deshechos, son asuntos primordiales para esta concepción ecológica del urbanismo. Los planes metropolitanos deben incorporar una capa dedicada a la producción digital, indicando qué capacidad tiene cada ciudad, dentro de sus respectivas agendas 2030, para acoger servicios e infraestructuras, como los nuevos macro-centros de datos, ávidos de energía.
El poder de la contratación pública
Es evidente que las cláusulas de contratación son importantes, pues la contratación es la herramienta pública por excelencia. Si alguien dijo que la última revolución sería el consumo, el poder revolucionario de las administraciones es inmenso. Dime cómo compras y te diré cuáles tos tus prioridades políticas como gobierno.
Parte de la EU IA Act se puede implementar aquí, exigiendo en la contratación de proyectos, servicios y tecnología que la IA cumpla los requisitos “verdes” o “éticos” que cada ayuntamiento considere convenientes.
El acceso a la función pública
Tras casi una quincena de años de estancamiento y caída -debido a la “Ley Montoro”-, las administraciones públicas en España vuelven a convocar numerosos procesos selectivos. Procesos en los que, hasta donde conozco, no tienen en cuenta habilidades relacionadas con la IA.
Es decir, a las personas que ejercerán la gobernanza pública de la IA dirigiendo las administraciones en los próximos 10, 20 o 30 años no se les exige conocimiento alguno sobre la principal tecnología del futuro. A todas luces, parece una oportunidad perdida que será necesario suplir con grandes inversiones posteriores en formación y capacitación tecnológica.
El derecho de las administraciones a experimentar
Debería ser un derecho universal, y en el caso de las administraciones públicas una obligación. Muchas ciudades ya lo están implementando, a través de laboratorios cívicos en el plano físico, y mediante la figura del sandbox a nivel digital.
La IA encaja en estos sistemas mediante la posibilidad de realizar pequeños pilotos, para empezar en “pequeño” antes de crecer. Esto es aconsejable hacerlo así por muchos motivos; el principal, es que los propios empleados públicos tengan tiempo de comprender cómo funciona la tecnología que se quiere probar. Que puedan diseñar bien las preguntas y las pruebas, y deliberar sobre sus efectos.
Precisamente sobre algunos aspectos de la experimentación versaron las preguntas más interesantes del debate con el público. Alguien pidió una receta para probar y validar las sistemas de IA urbanos, y solo pude decepcionarle con mi respuesta, ya que no hay una medida técnica del éxito de un servicio social, sino que la medida del éxito es algo intrínsecamente político.
¿Cómo se mide, si no, el éxito de una política de vivienda, sanitaria, de seguridad pública, por poner solo algunos ejemplos? No es la función de los técnicos definir el éxito, mal que pese a muchos. O, en otras palabras, el gobierno de los datos no debería ni siquiera ser considerado en la gobernanza pública de la IA, o entregaríamos más poder a quienes tienen más datos. Y quien escribe no quiere ser gobernado desde Silicon Valley, al menos por ahora.
Artículo publicado bajo licencia Creative Commons de cultura libre. Algunos derechos reservados.
