Acuerdos Conferencia Sindical CGT – Palencia 25, 26 y 27 de Octubre de 2024
Para poder tomar una decisión sobre Inteligencias Artificiales (IA) primero debemos saber de qué estamos hablando para que todas hablemos de lo mismo, porque es un concepto que ha ido cambiando con el tiempo y el contexto. Por definición, las IAs son un sistema informático que simula la inteligencia humana, y es importante decir que “simula”, porque por mucho que se quiera vender, un ordenador está lejos de tener capacidad de aprendizaje o razonamiento. Por tanto, las IAs son unos algoritmos, algunos muy complejos, que realizan tareas automáticas en base a patrones previos. Las más avanzadas son capaces de ir ajustando sus respuestas según se le indique, pero decir que eso es “aprender” es útil para entendernos, pero también es incorrecto.
Actualmente podemos decir que por IA se entienden una serie de tecnologías y herramientas muy amplias que van desde los grandes modelos lingüísticos a redes neuronales para toma de decisiones y cubren un campo igualmente diverso de aplicaciones prácticas que van desde la generación de textos o imágenes a la investigación médica, predicción climática, organización de cosechas, etc. Por este motivo, al ser un campo tan diverso y con tantas aplicaciones, algunas buenas y otras claramente perniciosas para la humanidad, resulta complicado tomar una posición rotunda y generalista. “No a todas las IAs” puede ser una posición contraria, en ciertos casos, a los intereses de la clase trabajadora o, incluso, de toda la humanidad.
Por eso vamos a empezar por detallar varios impactos que tienen las IAs como efectos secundarios y que nos van a servir para posicionarnos y para tomar en valor a esta tecnología.
Impacto ambiental
Podríamos decir que en lo que son buenas las IAs frente a otros algoritmos es en encontrar patrones y operar en función de ellos, pero para ello algunas requieren una ingente cantidad de recursos, especialmente las que se llaman generativas, aunque no solo. Para que una IA reconozca un patrón se requieren muchas interacciones, pero para que sea ella la que genere soluciones, las interacciones son una infinidad. Se requiere el almacenamiento de inmensas bases de datos y la ejecución de complejísimos procesos informáticos de análisis de esta información que consumen grandes cantidades de energía. Recientemente NVIDIA, el mayor fabricante de procesadores GPU usados para las IAs, anunció un nuevo modelo que consumirá 1.875 vatios. Un centro de datos con un millón de estos procesadores, algo que nos puede resultar muy exagerado pero que es a la escala a la que se están moviendo los grandes centros de datos actuales, consumiría más electricidad de la que puede proporcionar una central nuclear promedio. Para que nos pongamos en situación, actualmente los centros de datos ubicados en la República de Irlanda consumen más electricidad que toda la población irlandesa. Todos los centros de datos que hay en el mundo consumen más electricidad que Francia. Aunque hay que explicar que estos consumos no son, ni mucho menos, exclusivos de las IAs, de hecho las criptomonedas o el propio funcionamiento de Internet está aquí metido.
Tal consumo de energía genera mucho calor que debe ser disipado para que los centros de datos no se frían literalmente. Para enfriar estos centros de datos se utiliza ingentes cantidades de agua que se evapora en el proceso de enfriamiento de las GPUs. Cada megavatio de consumo requiere de media 25 millones de litros de agua para enfriar la energía calorífica generada. Usando los datos de la nueva GPU de NVIDIA mencionada antes, una sola GPU de 1.875 vatios necesitaría 44.703 litros de agua en un año de funcionamiento.
El colectivo “Tu nube seca mi río” ha publicado el cálculo oficial de consumo diario de agua del centro de datos que Meta quiere abrir en Talavera de la Reina. Según esos datos oficiales el centro de datos se beberá 547.776 litros al día (más de una piscina olímpica a la semana). Dato que seguramente no sea el real como está pasando en los cálculos oficiales presentados por Microsoft para sus centros de datos que han abierto recientemente en Países Bajos y que luego se han quintuplicado al entrar en funcionamiento.
En el escenario de emergencia climática ante la situación de calentamiento global que estamos viviendo cabe preguntarse hasta qué punto podemos permitirnos, como sociedad primero y como sindicato después, estar a favor de una tecnología que está siendo tan dañina para el medio ambiente. Esta tecnología está motivando que empresas tecnológicas que llevaban años trabajando en reducir sus emisiones de dióxido de carbono y otros gases de efecto invernadero hayan dado la vuelta a esa tendencia y estén contaminando más ahora que hace cinco años.
Para resumir, los recursos que requieren son tales que solo grandes empresas o Estados pueden crear algunos tipos de IA. Es interesante explicar que, una vez entrenadas, muchas IA no requieren de muchos recursos para funcionar, por tanto es relativamente sencillo verlas en móviles u otros aparatos. Lo que significa todo esto es que podremos usar ciertas IAs, pero no podremos construirlas desde el principio aplicando los patrones que consideremos adecuados, teniendo que fiarnos de las que nos den.
Sesgos de género, etnia y otros
Se pretende que sean estas IAs las que tomen ciertas decisiones, bajo el engaño de que, como la decisión la ha tomado una máquina, esta decisión será objetiva, matemática, carente de subjetividad y, por tanto, justa. Como vivimos en una sociedad con multitud de sesgos, los datos y patrones utilizados normalmente contendrán esos sesgos y la IA los replicará. Las IAs son, por un lado, modelos y algoritmos diseñados y pensados por equipos de trabajo patriarcales, en su mayoría hombres blancos. Por otro lado, el combustible en forma de datos es generado en este mismo sistema de impregnada cultura patriarcal. Por lo tanto las IAs están igual de contaminadas por los valores que se imprimen desde estas personas que habitan el sistema patriarcal, racista, capitalista… Con toda su injusticia social, desigualad entre personas y sesgos de género, etnia, edad, orientación sexual, religión, clase económica… Y perpetuando los estereotipos asumidos por la sociedad. Además, la mayoría de las IAs funcionan como cajas negras: se pueden conocer los algoritmos usados, el diseño, la tecnología usada y el patrón de entrenamiento, pero la cantidad de datos manejados por la mayoría de las IAs hace inentendible cómo ha llegado a concluir una solución u otra.
Pongamos un ejemplo en el ámbito de la salud. Gracias a las IAs, se pueden recopilar una gran cantidad de datos que junto con los algoritmos adecuados ayudan a elaborar fármacos como vacunas que permiten salvar vidas. Pero la IA en cuestión, es alimentada en un contexto discriminatorio en el que las mujeres, personas racializadas, con menos poder económico, etc. no están representadas. Por lo tanto, esta vacuna que promete ser eficiente para la salud del hombre blanco puede ser nefasta para el sistema hormonal de una mujer (y de las disidencias de género ni hablamos, pues no existen para estos sistemas). A algune esto seguro les suena. Todas las personas que no corresponden a los perfiles o encasillamientos que el sistema algorítmico especifica pasan a ser consideradas una “desviación”, una irregularidad que, dependiendo de la programación, se marcará como inexistente o sospechosa.
Siguiendo con la salud pongamos otro ejemplo, si tenemos una IA que es capaz de detectar un tipo de enfermedad podrá ser usado para su diagnóstico facultativo y prevenir enfermedades. Pero también podría ser usada por las compañías de seguros para dejar sin cobertura a ciertas personas antes de que requieran el tratamiento.
Otro ejemplo en el ámbito laboral es el uso de la IA para selección de personas candidatas, una IA que como la sociedad en que vivimos, atribuye los trabajos de cuidado a las mujeres y los trabajos con más prestigio y salario a los hombres.
También hay sesgos con el lenguaje, si la IA trabaja con textos, por ejemplo relacionados con tecnología, la práctica totalidad están en inglés, por tanto la IA quedará totalmente vinculada a ciertos conceptos propios de ese idioma. De hecho, la práctica totalidad de las IAs que se utilizan en Occidente “piensan” en inglés, por lo que si las usamos en otros idiomas realmente traducirán los datos de entrada y salida. Esto produce que los idiomas con menor presencia no estén correctamente representados.
Existe un claro peligro en creer, que, por el hecho de que la decisión la tome una máquina, esta decisión será objetiva, matemática, carente de subjetividad y, por tanto, justa. Pero podemos encontrar miles ejemplos en todos los ámbitos en que las IAs operan de manera discriminatoria. La única manera en que esto deje de suceder que vemos posible es que la sociedad primero se vea transformada. Hasta entonces, desconfiemos de la IA y observemos sus resultados con espíritu crítico.
Impacto económico
En los últimos meses los mismos medios económicos, como la bolsa de Nueva York o empresas de inversión como Goldman Sachs, han creado cierta alarma entre las empresas tecnológicas al poner en tela de juicio la viabilidad económica de las empresas que se dedican al desarrollo y venta de las IAs. Es decir, después de todos los impactos nocivos que hemos visto, y más que hay pero no hemos querido entrar a valorar para no extender más esta ponencia, que tienen estas tecnologías sobre las vidas en nuestro planeta, no queda claro aún que vaya a ser económicamente viable el uso de Inteligencias Artificiales generalistas como son ChatGPT, Copilot, Dall-E y similares.
Licencias y derechos de autoría
Si afrontamos el debate sobre el uso de software libre y las licencias de uso vemos que también hay cosas que decir. Hay entornos completos para generar IAs con software libre y teniendo el control absoluto de lo que se hace, incluso en IAs comerciales muy conocidas. Diferente es conocer los “pesos”, que es como se llama a las conclusiones del entrenamiento que hacen que las IAs lleguen a una solución u otra frente al mismo problema. Dentro del mismo asunto hay que tener en cuenta que gran parte de las IAs no respetan licencias de uso o derechos de autoría, aunque realmente es más adecuado decir que, cuando se han programado y “enseñado”, se ha considerado que no deben tenerse en cuenta. Esto es un problema por dos lados, para quien considera que la autoría es importante porque se están utilizando sus datos sin su información, conocimiento o reconocimiento, y por otro lado sucede con licencias de uso libre condicionado, pues los resultados no lo serán. Lo que está claro es que quién ha gastado los recursos que comentábamos previamente para generar una IA generativa, no va a permitir que estas sean libres, ni la IA ni sus resultados.
Licencias abiertas
Con el nacimiento de internet aparecieron movimientos sociales que requerían el derecho al acceso libre al conocimiento, el derecho de usar y reproducir obras de arte o programas de ordenador sin tener que pagar por ello y, lo más importante, el derecho a crear contenidos y distribuirlos para su uso y disfrute al margen de las dinámicas capitalistas y evitar que ese mismo capitalismo se pudiera apropiar de esas obras y limitar el acceso público a las mismas.
Con esa idea se creó a finales de los años 80 la licencia GPL (GNU General Public License). Esta licencia es una licencia de derecho de autor ampliamente usada en el mundo del software libre y código abierto y garantiza a las usuarias finales (personas, organizaciones, compañías) la libertad de usar, estudiar, compartir (copiar) y modificar el software. Su propósito es doble: declarar que el software cubierto por esta licencia es libre y protegerlo (mediante una práctica conocida como copyleft) de intentos de apropiación que restrinjan esas libertades a nuevos usuarios cada vez que la obra es distribuida, modificada o ampliada. Siguiendo los pasos de las licencias GNU y otras similares aparecieron las licencias Creative Commons (CC). Las licencias CC son una herramienta legal de carácter gratuito que permite a las personas usuarias usar obras protegidas por derecho de autor sin tener que solicitar el permiso del autor de la obra. Fueron diseñadas en 2001 y publicadas en 2002 con el fin de servir de amparo legal para aquellas personas que quieren difundir sus creaciones (películas, música, obras escritas, imágenes, guiones de obras de teatro, etc.) de acceso público al margen de las licencias comerciales conocidas como Copy Right.
Hoy en día hay miles de personas trabajando a diario en la creación de software amparado bajo alguna de las licencias abiertas (GPL, MIT, Apache, BSD…) y otras tantas crean obras de arte de todo tipo bajo licencias CC.
El proceso de “entrenamiento” de una IA es un protocolo por el cual los algoritmos que componen estas IAs son puestos a prueba en base a una enorme serie de datos y se les proporcionan pautas con las que son capaces de reconocer objetos, palabras, secuencias, etcétera. Por ejemplo se ha estado usando durante años el sistema de reconocimiento de fotografías con un mismo patrón mediante el cual una página web te preguntaba si eras humano resolviendo qué trozos de una foto contienen partes de un autobús o una bicicleta. Los datos recolectados servían para entrenar a una IA en el reconocimiento de objetos.
Para este proceso, las empresas que desarrollan estas IAs necesitan millones de datos. Y han visto en Internet el filón de “datos gratis” que utilizar para su entrenamiento. El problema es que esos datos, webs, códigos fuente, imágenes, etc. no siempre están ahí de regalo. Muchos de ellos están licenciados bajo licencias CC, GPL o similar es que tienen como requisito que las obras derivadas deben tener la misma licencia y, en muchos casos, prohíben el uso comercial de las mismas. Es decir, las IAs están infringiendo las licencias Copyleft porque están usando las obras amparadas bajo esta licencia para su posterior uso comercial no mencionando a su autora o autor original, etc.
Esta práctica puede provocar que las personas entusiastas del software libre y de compartir su conocimiento y sus creaciones artísticas se sientan frustradas y desincentivadas para seguir con esta práctica al ver que el fruto de su pasión y que ellas aportan y comparten con toda la humanidad está siendo utilizado por unas pocas empresas para ganar dinero sin atribuirles ni el mérito, ni la autoría siquiera.
Impacto en el trabajo
Debemos entender las IAs como un cambio tecnológico similar a otros que hemos tenido previamente en la historia, pero que, debido al nivel acumulativo de tecnologías en las que se basa, será significativo y puede cambiar drásticamente las relaciones humanas como las entendemos hoy. De hecho, hay que contextualizarlas como una evolución más de la digitalización de nuestra sociedad que la ha transformado en los últimos años profundamente. El sistema intentará usar esta herramienta para generar un mundo aún más desigual. La cantidad de puestos de trabajo que pueden desaparecer o cambiar drásticamente pueden ser comparables a la revolución industrial.
Hay que decir también que, aunque se vende al público en general que las IAs son unos “grandes ordenadores tomando decisiones”, la verdad dista bastante. Detrás de estas compañías hay personas que tienen que hacer un duro trabajo para ayudar a “entrenar” a la IA. Este proceso pesado y mecánico de moderación de contenidos, valoración y corrección de las predicciones de los algoritmos se está realizando mediante empresas subcontratadas de países en vías de desarrollo, como es el caso de Kenia. Estas personas están realizando este trabajo por unos salarios inferiores a los 2€ a la hora.
Relaciones laborales
La Unión Europea ha legislado recientemente en matera laboral sobre el uso de algoritmos en las relaciones laborales. Se ha aprobado la directiva de la “Ley Rider” a semejanza de la ley española de 2021. El año que viene entrará en vigor una nueva directiva que restringirá la aplicación de las IAs en función del riesgo que puedan suponer para los derechos fundamentales de las personas de la UE. Aunque estas legislaciones son un buen punto de partida no debemos bajar la guardia y debemos ir más allá en nuestras reclamaciones.
El estatuto de los y las trabajadoras fue modificado en la Ley Rider añadiendo el siguiente punto en el artículo 64.4, letra d:
“El comité de empresa, con la periodicidad que proceda en cada caso, tendrá derecho a: d) Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, acceso y mantenimiento del empleo, incluida la valoración de perfiles”.
Esto deja en un limbo a aquellas empresas en las que no hay representación legal, que sabemos que son muchas.
Pese a estas legislaciones, el uso de las IAs en las relaciones laborales se están implantando con fuerza y debemos estar ahí para forzar a las empresas a cumplir con la Ley. A continuación, describimos dos ejemplos donde se están utilizando IA:
- Para los procesos de selección de personal, haciendo que la primera criba en el proceso la realice un algoritmo en base a unos patrones que no están a disposición de las personas que optan al puesto y que, aunque lo estuvieran, son suficientemente complicados como para su evaluación por personas sin un profundo conocimiento de desarrollo de estos tipos de sistemas. Ejemplo: Amazon utilizó una IA para selección del personal que discriminaba sistemáticamente a las mujeres.
- Empleo de algoritmos para la valoración del desempeño en el trabajo. Como ejemplo: Ecodriving es un desarrollo de una empresa española que monitoriza en todo momento al conductor o conductora, su forma de conducir y a la cual observa constantemente para luego realizar una valoración de su desempeño. Este sistema está implantado en múltiples empresas de transporte por carretera y de autobuses.
Podemos concluir que el uso de la IA tanto para selección de personal, como para
valoración del desempeño o cualquier otra cuestión a la que se le ocurriera aplicar a la empresa sobre su plantilla, pueden ser altamente dañinas para las personas trabajadoras, ya que todos los algoritmos tienen sesgos de género, etnia, orientación sexual, posición económica… Esto se explica porque los modelos IA han sido desarrollados en su mayor parte por una fracción pequeña y muy endogámica de la sociedad: hombres blancos con una posición económico-social elevada y que las empresas de desarrollo de software tienen también este claro sesgo. A estas IAs se les está permitiendo que tomen las decisiones de selección de perfiles, despidos, aumentos o no de salario, etc.
Usos positivos de las IA
Como cualquier algoritmo, hay multitud de funciones que hacen que los trabajos más repetitivos y tediosos se automaticen. Esto puede llevarnos a reducir la jornada laboral y que podamos centrarnos en tareas más gratificantes personalmente. Se trata de una aspiración clásica en la relación de la tecnología y la clase trabajadora, pero que hasta ahora ha sido perdida por nuestra clase. En un debate internacional actual en el que se habla sobre la necesidad de reducir la jornada laboral, la aparición de esta tecnología puede ser utilizada a favor de nuestros intereses. Una de nuestras máximas aspiraciones ha de ser la de trabajar menos.
Por otro lado, si bien es cierto que desaparecerán determinadas profesiones o puestos de trabajo, o sufrirán una reconversión, el desarrollo tecnológico de las IAs así como su infraestructura ya está abriendo una nueva rama de la profesión tecnológica que ofrece nuevos puestos de trabajo bien remunerados. Hay que tener esto en cuenta para no caer en discursos erróneos que desconecten con los trabajadores del sector.
Recapitulando
Con todo esto en la cabeza debemos conocer y luchar contra estos y otros problemas de las IAs, pero sin caer en la posición de negar su uso total pues no es una posición realista. No podemos posicionarnos en contra de utilizar un algoritmo igual que, ahora mismo, no tendría sentido posicionarnos en contra del uso de un ordenador o de la corriente eléctrica, principalmente porque no podemos permitirnos luchar contra el sistema sin ciertas herramientas. También, porque no tenemos capacidad para detener su uso, si alguna vez la clase trabajadora ha tenido esa capacidad de influir en el mundo, desde luego no es ahora. Esto no significa, ni mucho menos que tengamos que tener una posición a favor de su uso generalista, pues muchas de ellas están acarreando ya problemas a la humanidad y al planeta. Lo que sí debemos hacer es localizar los efectos más dañinos, señalarlos y buscar alternativas a cada una de ellas separando cada uno de los usos que se dé a esta tecnología. De otro modo, el sistema económico y político hará uso de las IAs del peor modo que podamos imaginar llevándonos a replicar las peores atrocidades de la historia y generando un mundo aún más desigual.
Propuestas
Realizar una campaña a nivel confederal para explicar bien los usos, tipos, riesgos y alternativas a las Inteligencias Artificiales haciendo hincapié sobre el uso de las IAs en las relaciones laborales.
Buscar IAs que no tengan los riesgos descritos más arriba para fomentarlas.
Potenciar alternativas a las IAs más traumáticas usadas por las empresas o los Estados.
Exigir a los diferentes gobiernos que la legislación en torno a las IAs cumplan las siguientes condiciones:
- Imponer medidas de autogeneración energética renovable a los centros de datos existentes para minimizar su impacto en la contaminación generada por su consumo eléctrico.
- Velar para que los algoritmos se desarrollen sin implementar sesgos de género, etnia, sexo y otros que puedan afectar a la vida privada de las personas.
- Prohibir todos los sistemas de vigilancia basados en reconocimiento de imágenes que, mediante IA, se usan para identificar personas en espacios públicos.
- Velar por la privacidad de los contenidos digitales de todo tipo creados por las personas, especialmente por las menores de edad, en redes sociales y medios de comunicación en internet como chats o correo electrónico y que éstos no sean usados para el entrenamiento ni explotación de las IAs.
- Implantar lo antes posible estas medidas, y otras que puedan surgir, sin esperar a que entre en vigor una medida a nivel europeo.
Como CGT:
CGT defiende el derecho a la transparencia y el derecho de las trabajadoras y la ciudadanía a no ser objeto de decisiones por medio de procedimientos secretos. Si una empresa o la Administración toma decisiones que afectan a los derechos laborales, sociales o civiles con procedimientos automatizados (algoritmos tradicionales o algoritmos de inteligencia artificial), exigimos el derecho a conocer los algoritmos con los que se toman las decisiones y en el caso de que se trate de algoritmos de inteligencia artificial, también exigimos conocer los datos con los que se entrenan los algoritmos.
- CGT se opone a la utilización de algoritmos de inteligencia artificial que no se pueden auditar (analizar) si afectan a los derechos laborales, sociales o civiles.
- CGT se opone al uso de la IA generativa entrenada sin respetar los derechos de autor de sus creadoras.
- Considerando que la IA es una tecnología más, CGT defiende que los fondos públicos que los gobiernos dedican a esta tecnología se utilicen para mejorar la vida de las personas y para reducir las desigualdades sociales en vez de para criminalizar la pobreza, discriminar a las personas racializadas o aumentar la represión policial. Algunos ejemplos del uso social de la tecnología de las IAs podrían ser el desarrollo de algoritmos que detecten el fraude fiscal de los empresarios, o las horas extras no pagadas en sectores concretos o la falta de medidas de seguridad y salud en las empresas.
- CGT se opone a la creación de centros de datos (donde entrenan los sistemas de inteligencia artificial) que supongan un impacto ecológico negativo en cuanto a consumo de agua y consumo de electricidad.
- CGT se opone al uso de algoritmos de IA en la industria militar, de acuerdo con la campaña “Alto a los robots asesinos”.
- CGT reclama que se reconozcan los mismos derechos de protección frente a los sistemas de IA y algoritmos en general a las personas migrantes, especialmente en las fronteras y a las solicitantes de asilo.