El think tank del socialisme català

Publicacions Activitats

Activitats

21/06/2022

Seminari: Intel·ligència Artificial ètica en un món geopolític

Dimarts passat, 22 de juny, la fundació va organitzar, junt amb la Fundació Europea d'Estudis Progressistes (FEPS) i la Fundación Pablo Iglesias, la jornada "Intel·ligència Artificial ètica en un món geopolític".

Podeu tornar a veure la jornada sencera al YOUTUBE de la fundació.

La benvinguda va córrer a càrrec del primer secretari del Partit dels Socialistes de Catalunya i Cap de l'Oposició, Salvador Illa, que plantejà 5 qüestions. La primera, "la necessitat de posar llums llargues, de parar al replà d'aquesta escala per a pensar i seguir pujant els graons de l'escala. I per això són molt convenients les jornades com les d'avui". La segona, que "vivim moments de molta incertesa i d'atac als valors europeus, de canvis de gran importància amb la guerra, la pandèmia però també de la disrupció digital. Davant d'això, l'important és posar a la ciutadania en el centre, no a les empreses o la tecnologia". La tercera qüestió segons Illa és que "estem davant la 4rta revolució industrial, i la IA té un paper d'accelerador molt important", i si bé "la IA ajuda a generar prosperitat no hem d'oblidar la reconfiguració de les relacions laborals que comporta, i per tant, dels drets laborals". La quarta és que "la IA ha de tenir límits. Estem a favor del progrés, d'avançar, a tenir tecnologies que ens millorin la vida, però ha de tenir límits ètics i d'equitat. I aquests límits els ha de fixar les institucions públiques, no les empreses". Per acabar, va fer una referència a Catalunya, dient que "té bona ciència, magnífiques universitats, molt bons investigadors i empreses punteres, però és necessari que les institucions els acompanyin".

En aquesta benvinguda també participà la presidenta de la FPI, María Luisa Carcedo, que començà fent referència a la sala on es realitzà l'acte, 'Ernest Lluch', doncs "es un honor, porque abrió el camino del prestigio de la sanidad en nuestro país, el servicio público mejor valorado por la ciudadanía i una de las políticas públicas más exitosas de la democracia española". Carcedo parlà dels riscos que poden generar els avenços en IA, com ara "la acumulación obscena de riqueza en algunos empresarios de este sector y que son los más poderosos del mundo, en comparación con la situación de pobreza y de desigualdad que se está generando en el mundo". Així doncs, va plantejar com "des de la socialdemocracia podemos influir para que esto no genere desigualdades", i que "tenemos la obligación y responsabilidad de analizar los cambios digitales, situarlos en nuestra orbita, enfocarlos con nuestros valores y objetivos para crear la sociedad que queremos, que sea un motivo de progreso y no de regresión".

L'encarregat de la conferència inaugural va ser l'editor de 'AI for Everyone?' i professor de la Universitat de Westminster, Pieter Verdegem, que va explicar i introduir la temàtica de què és i com funciona la IA, els riscos que comporta i com es pot gestionar de forma democràtica. Així doncs, defensà "un acceso equitativo a la IA y los beneficios que ofrece. En una sociedad decente todas las personas deberían tener el mismo acceso a las ventajas que pueden ofrecer", i que "la producción y la aplicación de la Inteligencia Artificial se deben democratizar para que todos los grupos de la Sociedad sean consultados y representados, evitando así la exclusión. Por lo tanto, la IA debe representar a todo el mundo". Amb tot, segons Verdegem apuntà que "necesitamos un debate más serio, con más matices sobre los riesgos y oportunidades de la IA. Necesitamos perspectivas críticas sobre IA y preguntarnos qué es y qué no es, qué visiones existen y qué tipo de IA queremos y cuál tenemos".

La primera taula de debat de la jornada, titulada "Desmuntant el mite de la regulació de la IA. Està Europa quedant-se enrere?" va ser moderada per Justin Nogarede, analista sènior de Polítiques Digitals de la FEPS, que introduí als ponents i plantejà preguntes pels ponents.

La primera en parlar va ser Laia Bonet, tercera tinenta d'alcaldia de l'Ajuntament de Barcelona, que va començar afirmant que "la IA puede liderar el cambio en cómo la administración pública se relaciona con sus ciudadanos. Con la IA seremos capaces de imaginar administraciones proactivas, anticiparnos a las necesidades de los ciudadanos y ofrecer un mayor apoyo a los servicios públicos", però també que "también hemos visto como la IA puede discriminar contra comunidades y grupos de la población que históricamente han sido discriminados". Per evitar això, "Barcelona presentó su propia estrategia municipal de IA, que regula la IA en los servicios municipales y promueve estándares éticos para las empresas que operan en la ciudad en base a valores democráticos", ja que "tenemos que asegurarnos de que la IA y los derechos fundamentales vayan de la mano". Segons Bonet, "la UE se ha establecido como un agente que está generando normativas de supervisión i tiene un poder enorme para diseñar qué es lo que es normal. Tiene una capacidad reguladora muy grande. Esta es nuestra arma para proteger nuestro mercado y nuestras regulaciones, pero también nuestros valores".

Brando Benifei, membre del Grup de l'Aliança Progressista de Socialistes i Demòcrates, Parlament Europeu, explicà que "es muy importante que conectemos el trabajo legislativo y ejecutivo nacional y europeo para ver cómo podemos aplicar normas que generen confianza y que los actores privados no utilicen la IA para causar perjuicios a la ciudadanía o para abusar de los datos o discriminar". No obstant, "eso significa que hay que cambiar muchas cosas, y sobre todo tener una gobernanza fuerte". Segons Benifei, doncs, "necesitamos que el ecosistema de la IA se desarrolle, que sea fuerte y potente, pero también que los ciudadanos sepan que hemos hecho todo lo que estaba en nuestra mano para que se sientan seguros".

La directora del think tank de Digital Future Society, Carina Lopes, començà plantejant "hem d'entendre i plantejar quines normes s'han de dissenyar per una tecnologia que té molt potencial disruptiu i que pot canviar la forma d'interactuar i monitoritzar molts aspectes de la nostra vida". A més, apuntà que "uno de los mayores retos de la IA en cuanto a su implementación social es la discriminación de grupos específicos y colectivos vulnerables. Es un gran reto. En todos los casos que se han llevado a juicio en ninguno de ellos se ha basado en la ley de discriminación". Així doncs, "lo primero que tenemos que hacer es concienciar a las personas sobre qué son los sistemas IA. Primero, que la gente entienda que son cosas que están en su día a día, que no es algo abstracto, y debemos tener más conocimientos técnicos en las instituciones".

Helena Malikova, economista a la Direcció General de la Competència de la Comissió Europea, va començar explicant que "hay la narrativa de una Guerra Fría en cuanto a la IA, y que nos dicen Europa no tiene las capacidades de IA que tienen China y Estados Unidos, y que tenemos que escoger un bando. Pero esta imagen es errónea". Segons Malikova "¿quién se beneficia de esta narrativa? Las empresas, que van a querer minimizar las normativas que vengan de Europa, pero también la administración de Biden". Per últim, aclarà que "Europa ha estado siempre exportando una normativa digital brillante y de calidad".

La segona i última taula de la jornada va dur el lema de "És possible un altre enfocament? Descentralització i inversió pública en Intel·ligència Artificial".

La primera intervenció va ser la de Iban García del Blanco, membre del Grup de l'Aliança Progressista de Socialistes i Demòcrates al Parlament Europeu, que apuntà que "la UE aspira convertirse en una economía moderna, justa, sostenible, eficiente en el uso de los recursos y competitiva en el escenario global, de ahí que haya señalado la transformación transversal de todos los sectores y su adaptación al entorno digital como el gran objetivo para estos años". A més, matisà que "nuestro mundo es hoy día, para bien o para mal, digital. Precisamente por eso es tan importante para la UE fomentar el potencial que tienen las tecnologías para el bienestar y la competitividad de Europa, y para controlar los riesgos y prevenir las posibles consecuencias negativas". Segons García del Blanco "tanto en el sector público como en el privado se debería hacer uso de la IA con el objetivo de beneficiar a las personas y las sociedades, fomentando una implementación y un uso inclusivo de la tecnología".

Jesús Herrero Poza, cap de gabinet de la secretària d'Estat de Digitalització i IA d'Espanya, començà dient que "deberíamos valorar la importancia del reto que tenemos ante nosotros, y es que tenemos que iniciarnos en la IA de forma diferente. Los gigantes americanos y asiáticos lo han hecho a fuerza de su musculo propio. Nosotros no tenemos capacidad de competir si no unimos fuentes de datos, empresas, innovación, aprendizajes o profesionales. Es una oportunidad, por lo tanto, para mostrar que hay otro modelo de desarrollo de IA". Segons Herrero "des del progresismo perdimos el vocabulario, la capacidad de generar ideas y de generar ideas. Tenemos la oportunidad que des de las universidades incorporemos el valor humano en el impacto del desarrollo tecnológico. Tenemos que regularlo porque el mercado no ha hecho su trabajo. El producto que puso en circulación impacta de forma nociva, y en el lejano oeste que se ha creado no vale todo. El mercado ahora mismo está basado en la eficiencia del producto o la mejora del servicio. Ahora nosotros tenemos que diseñar esto en dimensión ciudadana". Herrero afegí que "los progresistas cuando estamos en los gobiernos enfocamos los retos des de la construcción de derechos. No podemos hacer que el avance de la lógica de mercado y económico, esta carrera por la innovación nos nuble de lo importante: el anhelo de la felicidad, de una sociedad más sólida, de sociedades que se protegen y se cuidan. Y en eso España tiene mucho que decir".

Per la seva part, Pieter Verdegem matisà que "tenemos que ser conscientes que la IA es una tecnología de uso general, que impacta también en otras tecnologías y estructuras de la sociedad, como la electricidad. Una característica de estas tecnologías es que se generan ganadores y perdedores. Los ganadores son las grandes empresas tecnológicas, y con esta pandemia han aumentado mucho sus beneficios". Així doncs, segons Verdegem, "tenemos que reinventar y buscar alternativas. Vivimos en un sistema en crisis y tenemos que trazar alternativas que reimaginen las posibilidades y caminos posibles, especialmente a nivel local".

La cofundadora i directora general de Big Onion Tech, Montse Guardia Güell defensà que "la gente joven quiere trabajar en alternativas, en empresas más pequeñas y ecosistemas locales, no en multinacionales", és a dir, regint-se més pels valors que pel benefici econòmic. A més, explicà que des de Barcelona "estamos utilizando el Centro de Supercomputación que tenemos en Barcelona para empezar a trabajar en el desarrollo de nuevos semiconductores, de fotónica, en hardware. Esto es importante, porque el poder informático va a ser menos caro y más útil para todo el mundo. Cuando pensamos en IA pensamos en software, pero este software solo puede funcionar si hay grandes infraestructuras, y quien las posea tendrá más voz".

A mode de cloenda de la jornada va parlar la presidenta de la Fundació d'Estudis Progressistes Europeus (FEPS), Maria João Rodrígues, que va fer referència a Barcelona dient que "es un nodo europeo con una creatividad digital que es la que necesitamos para inventar un futuro mejor utilizando las herramientas digitales". A més, apuntà que "estamos en un momento especial. La IA nos añade una fase nueva de transformación digital con muchos potenciales para mejorar nuestras vidas, pero también con riesgos importantes. Así que es algo que debe preocuparnos y debemos tomar decisiones. La IA no es una tecnología neutra, y requiere que tomemos decisiones sociales y políticas". En aquesta línia, "debemos preguntarnos cual es el tipo de IA que deberíamos desarrollar para proporcionar un mejor acceso al bienestar para todos nuestros ciudadanos, y para garantizar nuestro camino hacia un desarrollo sostenible y la transición verde. Para lograr esto necesitamos gobiernos democráticos potentes con sistemas de participación ciudadana fuertes".

Finalment parlà el president de la Fundació Rafael Campalans, José Montilla, segons el qual "el mercado es muy eficiente para asignar bienes y servicios pero no lo es para garantizar derechos. Y ahí es donde tiene que estar Europa. Y nuestro modelo de IA, de uso y de regulación tiene que ver con ese modelo europeo; un modelo que hay que regular". En aquesta línia, per Montilla "para garantizar derechos debe haber regulación, y eso Europa seguro que lo sabrá hacer bien. De una manera lenta, porque Europa es lenta en su toma de decisiones con su sistema de cogobernanza, pero también es una garantía de que se hará bien". No obstant, "la regulación no debe limitar el desarrollo ni la innovación, no debe ser desincentivadora, pero tiene que tratar de combatir la desinformación y la discriminación, que sirva para generar una sociedad mejor". Per tancar, per Montilla "tenemos que aprovechar las tremendas oportunidades que nos proporciona y nos puede proporcionar la IA en todos los planos de la vida: trabajo, salud, educación, ocio... para contribuir a que la sociedad sea más libre, más democrática y, también, más feliz".