Inteligencia Artificial: Desafíos que plantea su avance – Por Enrique Amestoy
Inteligencia Artificial: Desafíos que plantea su avance
Por Enrique Amestoy*
Si bien la inteligencia artificial lleva a imaginar máquinas capaces de pensar y actuar como personas, la realidad es que refiere a programas que pueden definir patrones, problemas y, hasta cierto punto, aprender: muy útil cuando de clasificar o interpretar gran cantidad de datos se trata.
El término “Inteligencia Artificial” (AI por su sigla en inglés) fue acuñado por el informático John McCarthy en la Conferencia de Dartmouth en 1956. Allí se propuso un estudio que duraría “2 meses, para 10 personas. El estudio es para proceder sobre la base de la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, ser descrito con tanta precisión que puede fabricarse una máquina para simularlo. Se intentará averiguar cómo fabricar máquinas que utilicen el lenguaje, formen abstracciones y conceptos, resuelvan las clases de problemas ahora reservados para los seres humanos, y mejoren por sí mismas.”
Las ideas más básicas de la AI se remontan al año 250 a.C. cuando el matemático e ingeniero hidráulico Ctesibio de Alejandría construyó una máquina de regulación de flujo de agua autocontrolada. A mediados del siglo XX se desarrollaron diferentes lenguajes de programación y sistemas informáticos como LISP, primer lenguaje de procesamiento simbólico. El desarrollo exponencial de la informática de fines del siglo XX hizo también exponencial el desarrollo de herramientas que intentan realizar procesos y razonamientos imitando el humano.
El computador Deep Blue creado por IBM a fines de los años 90, que venciera al experto ajedrecista ruso Garri Kaspárov, dio cuenta de que se podrían sustituir razonamientos o secuencias de pensamiento humano con sistemas informáticos. En 2019 Google presentó un Doodle (alteración del logotipo del buscador para recordar fechas, eventos o personas) que rendía homenaje a Bach y permitía crear música con la introducción de una melodía de dos compases, apoyado en IA.
Sin duda alguna el chatbot ChatGPT, prototipo de la firma OpenAI lanzado el 30 noviembre del 2022, es uno de los modelos de lenguaje basados en IA que ha llamado más la atención del mundo entero. Tal ha sido el impacto de esta herramienta que a fines de marzo de 2023 un grupo de ejecutivos de grandes firmas tecnológicas, encabezados por Elon Musk (Tesla, Twitter, SpaceX y cofundador de OpenAI, de la que se desvinculó), junto a académicos y expertos en IA firmaron la carta abierta emitida por el “Future of Life Institute” donde se solicita pausar el entrenamiento de chatGPT por entender que su desarrollo descontrolado supone un “riesgo para la sociedad y la humanidad”. Al 7 de abril de 2023 la carta superaba las 17.000 adhesiones. El texto señala que si la pausa no puede ser implementada y verificada rápidamente, “los gobiernos deberían intervenir e instituir una suspensión».
El pasado 26 de marzo la banca de inversión Goldman Sachs presentó un informe en el que señala que la AI podría reemplazar el equivalente a 300 millones de empleos de tiempo completo y podría reemplazar una cuarta parte de las tareas laborales en EE.UU. y Europa y eventualmente podría aumentar el valor anual total de los bienes y servicios producidos a nivel mundial en un 7%.
Fechado en abril de 2021, la Unión Europea presentó un documento base para lo que será la primer “Ley de Inteligencia Artificial” con un ámbito de aplicación que abarca a todos los sectores (a excepción del militar) y todos los tipos de inteligencia artificial. Al igual que el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, la Ley de IA podría convertirse en un estándar mundial. En efecto: en
setiembre de 2021, la Cámara de Diputados de Brasil aprobó un proyecto de ley de marco legal para la AI. El proyecto de ley 21/2020 se encuentra aún a estudio del Senado de Brasil.
Con el objetivo de poner los sistemas de Inteligencia Artificial al servicio de la humanidad, las personas, las sociedades y el medio ambiente y los ecosistemas, así como para prevenir daños, los 193 Estados miembros de la Conferencia General de la UNESCO adoptaron, en noviembre de 2021, la “Recomendación sobre la Ética de la Inteligencia Artificial”, primer instrumento normativo mundial sobre el tema. Del 6 al 10 de marzo se llevó a cabo en Montevideo el Encuentro Latinoamericano de Inteligencia Artificial Khipu 2023, del que surge la Declaración de Montevideo sobre AI y su impacto en América Latina.
Convocado por la organización sin fines de lucro Khipu se llegó a una declaración final donde se promueve que la AI debe ser puesta al servicio de las personas, que su implementación debe cumplir con los principios rectores de los DDHH, donde la IA no debe dañar a personas y minimizar el impacto ambiental, mejoras en las condiciones de trabajo, diversidad cultural y fortalecer la soberanía de los países latinoamericanos.
De proyectos de ley, recomendaciones éticas o declaraciones de la sociedad civil se desprende que hay acuerdo en que los avances en la implementación de Inteligencia Artificial deben tener grandes consensos globales, con la participación de gobiernos, empresas tecnológicas y trabajadores, para que sean respetados los DDHH, cuidado el medio ambiente, garantizada la inclusión en la diversidad, logrando avances tecnológicos que tiendan a ser inocuos, donde no exista discriminación por raza, género o condición económica o social, con proyectos sustentables que garanticen la seguridad de los datos respetando su intimidad e integridad. Todo en el marco de la convocatoria a múltiples partes interesadas en la toma de decisiones.
Automatización, robots y la IA están cada día mas presentes en el mundo del trabajo: automatización de los procesos industriales, teleoperarios de primer nivel sustituídos por chatbots, cajeros automatizados en supermercados, porteros y vigilantes sustituídos por pantallas y cámaras son sólo algunos ejemplos. Con el advenimiento de la tecnología 5G, seguramente encontraremos cada día mas automatizado el mundo del transporte, por ejemplo: son varias las empresas de vehículos que esperan a la generalización en el uso del 5G para lanzar vehiculos que se conduzcan solos.
La mesa de entrada de la mayoría de las empresas está automatizada con chatbots, IA que aprende sobre el funcionamiento de la empresa y gustos y necesidades de clientes. La OCDE estimaba en 2017 que en pocos años mas de un 10% de las fuentes de trabajo humano fueran sustituídas por procesos autómatas. En la medida que la automatización crece en el mundo, también crece la certeza de que se perderán miles de puestos de trabajo y la alentadora esperanza de que se generarán nuevos en
otras áreas.
¿Estamos preparados a nivel global para capacitar en mantenimiento, testing o programación a los miles de trabajadores que hoy son desplazados de tareas poco cualificadas? ¿Cómo impactará todo esto en los países no centrales, en particular de Latinoamérica? El economista español Santiago Niño Becerra responde a la pregunta ¿cómo cree que el big data o la inteligencia artificial va a transformar este negocio?: “la tecnología cara ya está realizando tareas de valor, y a medida que se vaya abaratando irá complementando las de menor valor. Esta es una de las razones por la que la clase media se está evaporando”.
También Niño Becerra daba cuenta desde su cuenta de Twiter en julio del 2020 que la Unión Europea intentaba invertir en IA la cantidad que Google (Alphabet Inc) invertía por si sola ese año. Atravesamos sin dudas momentos de disrupción tecnológica, la tercera en la historia de la humanidad. Si es que existen, están organizados y tienen real capacidad de acción: ¿qué papel tendrá el neoludismo (heredero del ludismo, corriente filosófica británica del siglo XIX que alertaba y actuaba por el peligro que significaba la pérdida de trabajo menos cualificado por la introducción de máquinas en los procesos industriales) en esta tercera revolución industrial?
Sobre tecnología y softwares de inteligencia artificial debemos tener en cuenta, además de sesgos de raza o género, los eventuales sesgos ideológicos que puede sin duda tener cada una de las herramientas implementadas o en desarrollo. Podemos definir como icónico el caso del afroamericano Robert Julian-Borchak Williams, detenido en junio del 2020 en la puerta de su casa en Michigan por un supuesto delito de hurto.
La detención se basó en un error del software de inteligencia artificial de reconocimiento facial de la policía, utilizado por más de 20 años a sabiendas de que el sesgo de raza en dichos sistemas es porcentualmente alto y por lo tanto induce a graves errores y hay decenas de recomendaciones de dejar de utilizarlos. De igual forma recordar el caso de estudiantes del Reino Unido que debido a la pandemia Covid-19 fueron calificados por un software.
Para determinar qué calificación hubieran obtenido si se hubieran presentado a examen, el programa tomó calificaciones existentes y también tuvo en cuenta el historial de su escuela a lo largo del tiempo. Esto terminó penalizando a los mejores estudiantes de barrios pobres y de minorías raciales, que por lo general obtienen calificaciones promedio más bajas que en escuelas donde asisten estudiantes de mayor poder adquisitivo. Los sistemas de inteligencia artificial son alimentados por datos de personas de todo el mundo. En la mayoría de los casos sin el conocimiento y posterior consentimiento expreso de los mismos sobre la forma en que son almacenados y utilizados.
La prevalencia de hombres blancos occidentales al frente de las firmas y el desarrollo de las herramientas y que la mayoría de las empresas sean de Estados Unidos, hace poco probable pensar en la no existencia de sesgo en los resultados. En este multimillonario negocio también ha entrado a jugar fuerte China: la respuesta de occidente ya ha sido contundente: Reino Unido, Estados Unidos, Canadá, Unión Europea, Taiwán, India (que también ha ido contar otras apps chinas como WeChat), han prohibido el uso de la aplicación TikTok en teléfonos asociados con sus gobiernos alegando invasión a la privacidad y la preocupación de que Beijing se haga de datos privados de los usuarios, organizaciones o para tratar de promover fake-news.
TikTok, empresa china propiedad de Bytedance, niega recopilar más datos de usuarios que otras empresas de redes sociales (Facebook, Twitter, Instagram, etc.) y dice no compartir información con el gobierno chino.
En 2020 la Unión Europea intentaba invertir en IA la cantidad que Google invertía por si sola. ¿Cuánto invierten los países y como se posicionan a nivel mundial en materia de innovación y tecnología? La Organización Mundial de la Propiedad Intelectual (WIPO por sus siglas en inglés) realiza desde hace 15 años el Indice Global de Innovación donde revela cuáles son las economías más innovadoras del mundo, clasificando los resultados de la innovación de 132 economías y destacando sus puntos fuertes y débiles. Desde 2011 los 10 paises que lideran dicho indice son: Suiza, Estados Unidos, Suecia, Reino Unido, Paises Bajos, Corea del Sur, Singapur, Alemania, Finlandia y Dinamarca. El primer país latinoamericano que aparece en 2022 el indice de WIPO es Chile ocupando el puesto número 50.
En tanto la carrera por el desarrollo de inteligencias artificiales parece no detenerse, debemos analizar también las posibilidades reales de paises o regiones de participar e incidir en desarrollo, legislación y contralor de herramientas actuales y las que estén por venir. Es sencillo suponer que no habrá posiblidad de soluciones soberanas que logren dar verdadero sustento a la Soberanía Tecnológica, si los Estados no legislan para poder participar, controlar y auditar los desarrollos así como el uso de
los datos colectados para entenar sistemas de AI o cualquier tipo de manejo de datos personales.
Parece también simple deducir que puedan ser los países menos desarrollados quienes entreguen soberanía a manos de países o empresas que logren detentar el control de dichas tecnologías. Estados Unidos, China y los gigantes tecnológicos tienen todas las de ganar. La velocidad de los desarrollos obliga a acelerar medidas que incrementen los porcentajes de PIB destinado a I+D, legislación en la línea de los planteos hechos en los textos citados mas arriba, proyectos colaborativos regionales en materia de desarrollo y férreo control de máquinas y programas que las diferentes empresas tecnológicas intenten introducir en el mercado.
La participación de múltiples partes interesadas, con acento en la academia y la sociedad civil, es indispensable en tanto podrá medir el sesgo y priorizar el enfoque humano que tengan los avances en innovación y la forma en que se continuarán utilizando los datos personales así como la sustitución de diversos puestos de empleo.
*Socio de la primera Cooperativa de Tecnologías Libres en Uruguay Libre. Fundador del Centro de Estudios de Software Libre Uruguay (CESoL) y la Red Iberoamericana de SL (RISOL), miembro del Consejo Asesor Honorario de Seguridad AGESIC. Publicado en Internet Ciudadana.
