Problemas en el Sistema de sostenibilidad y costes de la Inteligencia Artificial.

Los problemas ligados a la ciber seguridad siguen manifestandose como muy relevantes. En este caso, una simple actualización de un antivirus bloquea servicios esenciales en todo el planeta, el jueves 18 de julio de 2024, al generar la caida del sistema operativo de Microsoft. Como señalan diversos medios, resulta dificili de entender que incluso sin la existencia de procesos deliverados de boicot, la actualización de un programa de una sola empresa pueda desencadenar una vulnerabilidad tal del sistema, poniendo en evidencia la concentración de la industria de ciberseguridad, donde las quince mayores compañias de sector controlan el 62% de las tecnologías, los productos y los servicios de protección informática.

Pocos días después, el 7 de agosto de 2024, la sentencia del juez Amit Metha dictamina en EEUU que Google es un monopolio ilegal, desencadenando un proceso que podría durar años. 

Simultaneamente cada vez más el llamado “ backlast “, el sistema de sostenibilidad y costes de la IA, produce también repercusiones desfavorables, dado los excesos en los tratamientos de datos, en el entrenamiento de modelos, el propio big-data y el uso del denominado dataísmo, que puede no favorecer que los mismos datos se encuentren supeditados a su sentido más estricto, ya que no todo lo que pueda ser medido, precisa serlo, más alla de su relevancia económica y técnica. Medir y entender no tienen por que ser a menudo sinónimos.

Más allá de limitaciones operativas, los factores de sostenibilidad, productividad, seguridad,impactos sociales y económicos de sus usos, resultan para algunos expertos cada vez más importantes y puede resultar estrategicamente distorsionadores, precisandose una transición respecto del empleo más programada y dilatada, la necesidad de mantener consistente la vertiente del cambio energético,dados los procesos centralizados de refrigeración de una “nube inmensa” de información y datos, cada vez más centralizada y potencialmente mas costosa y con escesivos riesgos.



Respecto del empleo, matizar según sectores y considerar los efectos de complementariedad y/o sustitución de mano de obra resultan imprescindibles, no solo para una transición más ordenada, sino para que el uso estratégico de la IA en el futuro, provengan de sectores que puedan maximizar las muchas oportunidades para la humanidad que puede brindar la IA.

Esta iniciativa, promovida por la Asociación Europea para la Transición Digital, ha sido respaldada por numerosas asociaciones y fundaciones, entre las que se encuentran Save The Children, Unicef España, IC Media y cuenta con el apoyo institucional de la Agencia de Protección de Datos.

Fue presentada el día 22 de Junio en el Ateneo de Madrid. Interviniendo en el acto la presidenta de la Sección de Derechos Humanos, Francisca Sauquillo.

Esta iniciativa parte de la preocupación por los riesgos que afrontan los menores en los entornos digitales y su limitada regulación efectiva. El Vicepresidente de ALGOVERIT, Ignacio Gonzalez, forma parte del Grupo de expertos seleccionados por el gobierno y las entidades promotoras del pacto, para el estudio de esta problemática.

ALGOVERIT también considera adicionalmente la necesidad de alcanzar un gran pacto nacional para combatir las brechas digitales y un compromiso social amplio por los derechos digitales.

José María Alvarez Pallete, presidente de Telefónica, se preguntaba recientemente si dada la creación por parte de la humanidad de máquinas capaces de pensar por sí mismas, y actuar de modo consecuente ¿Estamos preparados para este nuevo mundo? ¿Podemos permitir a la tecnología que evolucione autónomamente? ¿Es algo aceptable socialmente? ¿Qué derechos básicos queremos proteger?” y reclamaba un nuevo contrato social, en el que se pongan por delante los principios y valores fundamentales.

Cartel anunciador del acto celebrado en Daimiel el 23 de Septiembre de 2023 sobre la Inteligencia Artificial: Como nos afecta y qué hacer. Dentro del Foro Daimiel Siglo XXI” con asistencia de numeroso público.

Después de la carta firmada por Elon Musk, Yuval Noah Harari y Steve Wozniak, junto con otros cientos de científicos y expertos, fue más notorio para el gran público que el tejido de investigación en Inteligencia Artificial, se encuentra lleno de incógnitas respecto su desarrollo. 

Las numerosas y destacadas declaraciones, debates y noticias de expertos que están cuestionando o defendiendo, con las cautelas precisas, su despliegue, han alcanzado una amplia difusión en la prensa y las redes sociales. 

La disponibilidad masiva de la IA generativa a través de plataformas como ChatGPT, Bard y otras, se llega a plantear asimismo como riesgo emergente empresarial y no sólo, como oportunidad en diversas áreas productivas. El reciente conflicto, a finales del mes de noviembre de 2023 de Open AI, vuelve a situar en la agenda los importantes riesgos de seguridad existentes en los avances acelerados de investigación y aplicación de la IA, tal como se presentan en medios solventes de comunicación y en informes de distintos institutos de investigación y expertos. 

Es, por tanto, el momento de recordar la complejidad y diversidad técnica que contiene esta tecnología y su uso, así como que el contexto de su aplicación, resulta fundamental para emitir juicios éticos precisos, que no pueden dejar de ser prudentes, acerca de su realidad y contar con buenos análisis y evaluaciones al respecto. Sin olvidar nunca, que los intereses existentes y el apetito de riesgo subyacente, influyen decisivamente en la emisión de los juicios de valor que estamos recibiendo.

Se plantean problemas de ciberseguridad que hacen cada vez más compleja la defensa de los sistemas ante ataques planificados, lo que puede redundar en gravísimos riesgos, e incluso caos en las ciudades e infraestructuras, haciendo cada vez más dependientes de estos sistemas de IA su funcionamiento, así como en instituciones públicas, hospitales y empresas.

Pero esta es solamente la punta del iceberg, aunque sea preocupante. Lo que realmente importa a la ciudadanía es el progresivo deslizamiento hacia una IA de la que ignoramos su funcionamiento, una vez que ella misma adopta sus propias decisiones de aprendizaje y la gestión o el uso de éste, produciendo nuevos outputs sobre los que no tenemos capacidad para calibrar su veracidad o coherencia, que pueden perjudicar individual o colectivamente a los ciudadanos.

Esta situación plantea nuevos problemas éticos y cívicos sobre el uso de la IA.

La Asociación ALGOVERIT pretende hacer consciente a la ciudadanía de esta problemática y trasladar a la sociedad, así como a científicos y legisladores, la preocupación acerca de esta temática y la necesaria transparencia y rigor en sus usos

Te invitamos a asociarte a través de nuestra página WEB y también escribiendo al correo info.algoverit@gmail.com

Elisa Mateos

España ha alcanzado en el último periodo, un buen resultado en digitalización, pasando de ser uno de los países peor posicionados en Europa hace poco más de una década, a uno de los más avanzados, según los indicadores publicados por la propia Unión, diez puntos por encima de la media europea. 

Esto ha sido posible gracias al esfuerzo realizado por las empresas y por la ciudadanía y a los planes puestos en marcha por los poderes públicos. Ahora, con los recursos contemplados en los planes “next generation “ disponemos de una ventana de oportunidad para seguir progresando en desarrollo digital. 

Tenemos unas infraestructuras bien posicionadas y apoyos significativos a la innovación en sectores como telecomunicaciones, 5G, fibra, entre otros. También estamos bien – comparado con el resto de países europeos – en servicios públicos digitales. No obstante, estamos en la media en el uso de las tecnologías por parte de las empresas y en competencias digitales especializadas. 

Poseemos importantes brechas digitales entre colectivos socioeconómicos y sociodemográficos y entre empresas y sectores, algo que también ocurre en el resto de Europa, pero que no por ello deja de ser un problema que debe afrontarse.

ALGOVERIT considera, la necesidad de alcanzar un Gran Pacto Nacional para combatir las brechas digitales y un compromiso social amplio por los derechos digitales ciudadanos. También se precisa mejorar en los planes de formación tecnológica de los jóvenes y la relación de la Universidad y la FP, con el mercado de trabajo y las empresas. Desde otra vertiente, resolver los problemas de la insuficiente calidad que en ocasiones aflora en el uso de la gestión digital y el traslado indebido al ciudadano y al consumidor, de numerosas ineficiencias subsanables.

LIBROS RECOMENDABLES

La singularidad está cerca. Cuando los humanos transcendemos la biología. Raymond Kurzweil (Lola Books, 2005)

Super inteligencia: Caminos, peligros, estrategias. Nick Bostrom (2014)

La cuarta revolución industrial. Klaus Schwab (2016)

Inteligencia Artificial: Lo que todo el mundo debe saber. Jerry Kaplan (Teell Editorial, 2017)

El mito de la Inteligencia Artificial. Enrik J. Larson (Harvard University Press, 2020)

El mito del Algoritmo. Cuentas y cuentos de la I.A. Richard Benjamins e Idoia Salazar (Anaya Multimedia, 2020)

Inteligencia artificial, naturalmente. Nuria Oliver (Red.es, 2020)

The Age of AI and Our Human Future (La era de la IA: y nuestro futuro como humanos). Henry A. Kissinger, Eric Schmidt y Daniel Huttenlocher Little (Brown and Company, 2021)

The Work 0f the Future; Building Better Jobs In AGE OF Inteligent Machines. David Autor. David A. Mindell. Elisabett B. Reinolds

Fore wod by Robert M S Solow. MIT

La revista digital Argumentos Progresistas publica en su número de junio-julio de 2024, un artículo, del Presidente de la Asociación ALGOVERIT, acerca de “la Inteligencia Artificial y la Cultura Humanista

 A modo de referencia , propone adoptar como concepto de “Cultura” un enfoque civilizatorio y de valores de carácter global, resultado de la trayectoria desplegada por los seres humanos a lo largo de su historia como acervo de conocimientos, incluyendo los derechos humanos y referencias democráticas. Propone también la incorporación de constructos artísticos, de filosofía, morales, económicos y políticos, así como los conocimientos procedentes de las ciencias y la tecnología.

Conjuntados como “cultura humanista”, se trata de una concepción polisémica y en evolución permanente y también de una gran diversidad según el ámbito territorial y contexto cultural y temporal elegido, que en nuestro caso correspondería al pensamiento occidental.

La ética de la Inteligencia Artificial integraría, la ética de la gobernanza y uso de los datos; también la desplegada en el ámbito más específico de la digitalización, así como de forma más precisa, la que podemos considerar como estrictamente algorítmica. Esta última adquiere una especial complejidad, cuando el sistema posee capacidades de aprendizaje y auto manejo autónomos, sin posibilidad de supervisión efectiva humana.

La principal finalidad de esta ética es cerciorarse de que se está creando un sistema seguro no sólo bajo control de los seres humanos, también al servicio de sus derechos, que alcance un aseguramiento adecuado de que el sistema pueda alinearse con los valores socialmente compartidos, las leyes, demostrando su robustez técnica y por tanto que sus resultados sean fiables.

Por inteligencia artificial, más allá de debates y definiciones académicas, tecnológicas o incluso regulatorias, viene a considerar el autor, que en realidad la IA integra un conjunto de conocimientos vinculados a las matemáticas, la neurobiología, la informática, la ciencia de datos, la estadística y la cibernética, que pretende imitar las capacidades cognitivas de los seres humanos.

Incluso, de forma aún más pragmática, podríamos definirla, como la disciplina de aprender a construir, programar y hacer un uso fiable de las máquinas que realizan tareas complejas que se catalogarían como “inteligentes”, si fueran realizadas por humanos.

Es el resultado de un acarreo histórico del conocimiento humano dentro de la sociedad, que ha sido posible a través de métodos científicos diversos, con referencias metodológicas distintas, empleadas por escuelas diferentes, a lo largo de siglos. Su atmosfera se encuentra en la digitalización y la información, un espacio predominante para su imparable despliegue actual.