IA, management y arquitectura empresarial: una conversación que debemos conectar

La inteligencia artificial es una realidad. Hoy está presente en decisiones de negocio, automatización de tareas y modelos de interacción con clientes. Pero si algo aprendí acompañando organizaciones en este camino, es que la IA no resuelve lo que la empresa no tiene resuelto. Puede acelerar, escalar o amplificar, pero no reemplaza lo que falta de base. Y ahí es donde entran en juego dos factores clave: el management y la arquitectura empresarial.

¿Dónde duele, realmente?

Antes de hablar de modelos generativos o algoritmos de predicción, hay que preguntarse: ¿Qué problema estamos resolviendo?, ¿Qué capacidades reales tenemos hoy?, ¿Qué tan preparados estamos para cambiar si lo que hacemos deja de funcionar?

Estas no son preguntas técnicas. Son preguntas de gestión. Y muchas veces, ni siquiera tienen que ver con tecnología, sino con procesos, cultura y toma de decisiones. De hecho, un informe reciente de Gartner muestra que más del 80 % de los CEOs espera que la IA genere crecimiento, pero solo una fracción de los CIOs cree que eso es factible sin cambios estructurales. Esa brecha no se cierra con más software, sino con otra forma de mirar la organización.

La arquitectura no es un mapa. Es una brújula.

La arquitectura empresarial nos permite entender cómo se conecta lo que hacemos con lo que queremos lograr. Es el marco que ordena capacidades, flujos, responsabilidades y tecnología. Cuando se incorpora IA sin esta mirada, el riesgo es construir silos “inteligentes”, pero aislados del negocio.

En cambio, cuando la IA forma parte de una arquitectura clara, aparece el verdadero valor: priorización, escalabilidad y sentido estratégico.

Liderar el cambio, más allá del algoritmo

Y si hablamos de cambio, hablamos de management. No como control, sino como capacidad de habilitar, de acompañar, de construir sentido. Implementar IA sin abordar las dinámicas internas, como el miedo al error, la resistencia o la falta de claridad en roles, es sembrar en terreno inestable. Lo tecnológico funciona, pero la adopción falla.

Harvard Business Review lo resume bien: el mayor obstáculo para una transformación digital no es la tecnología, es la cultura. Lo veo en cada proyecto: el management no es un soporte. Es el eje.

¿Qué tipo de organización queremos construir?

La conversación ya no debería ser "¿Qué IA implementamos?" sino algo más profundo: ¿Qué organización estamos diseñando para que esa IA tenga sentido, impacto, sustento y propósito?

Ahí es donde se cruza todo: estrategia, cultura, tecnología, personas. Ahí es donde realmente se juega la transformación.

Autor: Walter Caricato (Walter es egresado de la Diplomatura DIDIE)

Fuente: LinkedIn de Walter Caricato

Entre asistentes y silencios: lo que estamos perdiendo en nombre de la IA

IA, AI, inteligencia artificial, ChatGPT, agentes, asistentes, productividad, eficiencia, automatización. Capacidades. Reskilling. Actualización. Reemplazo. Obsolescencia. Palabras que estamos escuchando últimamente minuto a minuto.

Si sentís que la presencia de la Inteligencia Artificial está siendo abrumadora, estoy ahí con vos. Siempre me consideré una persona pro-tecnología y con la perseverancia suficiente para transitar la curva de aprendizaje necesaria cada vez que enfrentaba un nuevo desafío tecnológico. Pero hoy siento que eso no es suficiente.

Sin dudas estamos (otra vez) en un momento de disrupción histórica para nuestra humanidad. Parados en este punto de inflexión, creo que no es posible prever o identificar cuáles serán las consecuencias del cambio y transición que vivimos, ni cómo será el impacto a futuro en nuestras vidas.

En mi caso, tengo una creciente preocupación sobre el impacto de IA en nuestros vínculos y conexiones humanas, indispensables para el desarrollo de equipos y culturas organizacionales sanas (para con las personas, consigo mismas, con el planeta). Se que quizás no soy la única con esta preocupación, por eso te invito a recorrer este análisis conmigo.*

Creo que la IA es la nueva “bala de plata”. Es el nuevo impulso para otro movimiento pendular, especialmente visto en las organizaciones (algo similar vivimos con la agilidad hace pocos años) ¿A qué me refiero?

1. Partimos de un extremo en el que toda acción necesitaba intervención manual o pensamiento y análisis lógico hecho por una persona.
2. Transitamos la incorporación de nuevas tecnologías que nos permitieron grandes avances en automatización y uso de datos a gran escala (solo como ejemplo)
3. Hoy nos encontramos en el extremo opuesto al inicial: uso indiscriminado de IA, comodidad y delegación de capacidades humanas fundamentales, resultando en falta de pensamiento crítico, reflexión, introspección y análisis desde nuestro “ser humano”, en desmedro de las conexiones humanas y la colaboración.

La facilidad con la obtenemos respuestas sobre cuestiones que necesitan nuestra más profunda humanidad, humildad, curiosidad y conexión, está haciendo estragos en aquello que por tanto tiempo buscamos construir: espacios más humanos, equipos más conectados, aprendizaje basado en el intercambio y en la experimentación, valoración de las experiencias vividas transformadas en sabiduría.

Algo que debería potenciar nuestras capacidades, las está reemplazando…

Lo que más me asusta, es que muchas veces tomamos este camino conscientemente, por acción u omisión. En el lugar en el que deberían primar las conversaciones e interacciones profundas, encontramos agentes y asistentes que nos halagan y responden siempre de manera amable. El espacio, silencio y reflexión que necesitamos transitar frente a la incomodidad de preguntas desafiantes, está lleno de respuestas creadas por GPTs. La transmisión de conocimiento desde la experiencia empírica está siendo desestimada en pos de la eficiencia y el ahorro de costos.

Atención, no estoy demonizando a la tecnología, de hecho en muchas de mis actividades la IA es un participante activo, especialmente en el diseño de procesos centrados en las personas. Estoy siendo crítica con nosotros mismos como tomadores de decisión o acompañantes de procesos de cambio. Estoy levantando la “red flag” acerca de la falta de sentido y propósito en la incorporación de este nuevo jugador que, indudablemente, ya es parte de nuestra vida de manera directa o indirecta.

Me gustaría dejar aquí algunas preguntas al momento de invitar a este nuevo jugador (IA) a la mesa de equipos y organizaciones:

• ¿Qué decisiones estamos delegando hoy a una IA que quizás deberíamos tomar desde la conversación humana?
• ¿Cuánto espacio dejamos a la reflexión silenciosa y al pensamiento crítico antes de acudir a una respuesta generada por un asistente?
• ¿De qué manera estamos asegurando que las herramientas de IA potencien (y no reemplacen) nuestra humanidad en los equipos?
• ¿Qué conversaciones dejamos de tener cuando la eficiencia es el único criterio?
• ¿Cómo mantenemos viva la transmisión del conocimiento basado en la experiencia, la intuición y la emoción?
• ¿Cuánto fomentamos los espacios dentro de nuestro equipo para discutir el “para qué” estamos adoptando determinada tecnología?
• ¿Qué señales nos indican que estamos perdiendo contacto con la dimensión humana del trabajo?
• ¿Cómo nos aseguramos de no estar creando abismos en la organización, a partir del uso de IA?
• ¿Estamos diseñando el on-boarding apropiado para los equipos que incorporen asistentes y agentes?
• ¿Estamos fortaleciendo el valor de las interacciones y conexiones humanas desde nuestro decir y hacer en la organización?

Creo que aún la batalla no está perdida. Creo que quienes elegimos acompañar este camino incorporando IA en la diaria de las personas, equipos y organizaciones debemos mantener en alto el valor de las interacciones, responsable e incansablemente.

Necesitamos más equipos, personas y organizaciones que hagan uso responsable y con sentido de las nuevas inteligencias, sin que eso signifique reemplazar nuestra humanidad.

Te invito a que construyamos juntos estas comunidades, y trabajemos codo a codo para que nuestro mundo siga siendo así de humano e imperfecto.

¡Gracias por leerme hasta aquí!

*Si tenés 2 horas para escuchar de fondo, el mismísimo Simon Sinek mantuvo una conversación con Steve Bartlett llamada “Te están mintiendo sobre el propósito de la IA”, en la que este tema que me preocupa se desarrolla. Te dejo el link a la publicación aquí.

Autora: Daniela Andrada (Daniela es Agile Coach y profesora de la Diplomatura DIDIE)

Fuente: LinkedIn de Daniela Andrada 

IA ética al servicio del desarrollo

La inteligencia artificial (IA), aplicada con una gobernanza ética y transparente, no solo es una herramienta poderosa para la inclusión financiera, sino una necesidad estratégica para mantenerse competitivos y relevantes en un entorno financiero en constante evolución. Así de contundente se mostró en la 54.ª reunión de la Asamblea General de ALIDE Elías Bethencourt, Latam Sales Director de AIS Group, la consultora especialista en gestión de riesgo de crédito del grupo empresarial PFS.

En su intervención, Bethencourt abordó aspectos cruciales para implementar la inteligencia artificial en la Banca de Desarrollo de Latinoamérica, compartiendo aprendizajes y experiencias de proyectos con entidades financieras de la región, especialmente en materia de inclusión financiera y apoyo al crédito productivo.

«La inteligencia artificial está generando la transformación más relevante de nuestra historia. Sin embargo, para ponerla al servicio del desarrollo de Latinoamérica, debemos asegurar una gobernanza ética con el ser humano en el centro de las decisiones», afirma Bethencourt.

¿POR QUÉ ES TAN IMPORTANTE LA ÉTICA EN LA IA?

Es cierto que la IA generativa ha democratizado el acceso a la inteligencia artificial, dice el director de AIS. ChatGPT, Gemini, Copilot y Midjourney han puesto la IA al alcance de los usuarios de manera masiva. Pero la IA no se reduce a IA generativa. La IA generativa actual se enmarca dentro de lo que se llama ANI (Artificial Narrow Intelligence), es decir, la IA Estrecha, aquella en la que las máquinas se centran en tareas específicas y tienen unas habilidades limitadas. Tras este tipo de IA se vislumbran dos más, que se irán materializando a medida que la tecnología evolucione.

En primer lugar, llegará la IA General (AGI), una IA con la capacidad de aprender y comprender cualquier cosa, igual que un Homo sapiens, así como de adaptarse al entorno. Posteriormente llegaría la IA Superinteligente (ASI), una inteligencia más avanzada que la propia mente humana.

Actualmente, si bien hay una carrera global para desarrollar la IA General, nos encontramos aplicando técnicas de IA Estrecha y logrando con ello ser más eficientes, ser más ágiles, ser más productivos.

Estos algoritmos, aunque primitivos para lo que está por llegar, están revolucionando el mundo al realizar tareas que antes se consideraban intrínsecamente humanas. Y ahí surgen los dilemas éticos y los peligros si no se gestionan correctamente, tales como discriminaciones injustas, falta de transparencia y aplicaciones que afectan derechos fundamentales.

IA Y REGULACIÓN

Como respuesta a estos desafíos, ha habido distintos lineamientos y recomendaciones de organismos internacionales, como la «Recomendación sobre la Ética de la Inteligencia Artificial» de la Unesco, adoptada por 193 países, y las «Directrices Éticas para una IA Fiable» del Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial de la Comisión Europea. Estos documentos han servido de base para la nueva norma europea AI ACT, la primera legislación que regula la inteligencia artificial.

Esta ley pionera en el mundo que ha sido aprobada en 2024, busca proteger los derechos fundamentales de los ciudadanos y no clasifica los algoritmos por su tecnología, sino por el riesgo asociado a su uso. Evalúa los sistemas de IA, según su potencial impacto sobre la salud, la seguridad y los derechos fundamentales. Los sistemas de IA de alto riesgo (entre los que se encuentran los modelos de calificación crediticia de las entidades financieras) deben someterse a un proceso continuo de gestión de riesgos, que incluye la identificación de peligros conocidos y previsibles, la evaluación de riesgos residuales y la implementación de medidas de mitigación adecuadas.

En el marco de la Alianza Digital Unión Europea-América Latina y el Caribe, muchos países de la región han firmado un acuerdo de convergencia regulatoria de la IA, «por lo que las entidades financieras deberán prepararse para adoptar medidas alineadas con esta normativa europea», revela el ejecutivo de AIS.

La lista de requisitos para los algoritmos de alto riesgo es extensa, pero podría resumirse en la necesidad de terminar con las «cajas negras» y asegurar una gobernanza ética en todo el ciclo de vida de los sistemas de IA. Esto se traduce en trabajar con las bases de datos para mitigar los sesgos, seleccionar algoritmos que permitan tener transparencia en las decisiones, contar con técnicas de construcción que eviten el sobreajuste, implementar métodos de validación para asegurar la robustez de los modelos en todos los grupos poblacionales, realizar un seguimiento periódico con vigilancia humana y contar con un proceso de rendición de cuentas y asignación de responsabilidades, entre otros aspectos relevantes para su implementación en gestión del riesgo.

IA Y BANCA DE DESARROLLO

Bethencourt subraya que una gobernanza ética y transparente de la IA puede traer enormes beneficios a las instituciones financieras.

Con más de 70 modelos machine learning implementados en gestión del riesgo en Argentina, Chile, Colombia, México, Perú, Paraguay, República Dominicana y Uruguay, AIS ha demostrado mejoras de, al menos, un 25 % en el poder de clasificación, no solo porque permiten trabajar con más información (pasando de 10 o 15 variables en regresiones logísticas a decenas o cientos en modelos avanzados), sino porque encuentran relaciones implícitas entre los datos.

Mejorar el poder de clasificación de un modelo de riesgo impacta directamente en llegar a más clientes con una mejor calidad de cartera y optimización de recursos, como demuestran casos reales en bancos de la región.

«Hablamos de llegar a un 20 % más de microempresarios manteniendo la mora en Colombia, de multiplicar por 3 la productividad y reducir por 9 los tiempos de entrega de créditos pymes en Perú, y de evaluar a personas físicas no bancarizadas con la misma calidad [con la] que solíamos evaluar a los que poseen historial crediticio en Chile…».

El experto concluye con tres pilares clave para lograr los impactos esperados: uso de fuentes alternativas de información, implementación de modelos avanzados y formación del personal/gestión del cambio cultural.

La IA tiene un enorme potencial en Latinoamérica para la misión de los bancos de desarrollo. «En una región donde menos de 4 de cada 10 personas y mipymes obtienen financiamiento en el sistema formal, la IA puede ser la llave para mejorar la vida de millones de personas y brindar mejores oportunidades a miles de empresas. El momento de aplicarla es hoy».

Fuente: Revista Banca y Desarrollo

Elías Bethencourt es speaker, egresado del Posgrado en Management Estratégico.

La gobernanza ética de la inteligencia artificial

La Inteligencia Artificial (IA) está generando una de las transformaciones más relevantes de nuestra historia. Para que esta tecnología beneficie a la sociedad, es esencial asegurar una gobernanza ética, manteniendo al ser humano en el centro.

La revolución actual de la inteligencia artificial se compara con las anteriores revoluciones agrícola, de la imprenta, industrial o digital, pero a diferencia de estas, la IA no solo amplía nuestras capacidades, también puede generar nuevas ideas y productos por sí misma. Mientras que una imprenta puede reproducir libros, una IA puede crear una novela completa.

A corto plazo, la competencia no será la automatización de tareas operativas, sino las máquinas inteligentes que dominan habilidades consideradas exclusivamente humanas. Por ejemplo, escritores, músicos y diseñadores están más preocupados que albañiles o conductores de taxis.

El informe del Fondo Monetario Internacional (FMI) de 2024 señala que la inteligencia artificial afectará al 40% de los empleos globales en los próximos años, con un impacto aún mayor en los países desarrollados. La convergencia con tecnologías como neurociencias, computación cuántica e ingeniería genética plantea desafíos sin precedentes.

La IA generativa, con aplicaciones como ChatGPT y Midjourney, ha democratizado el acceso a la tecnología, pero la IA actual se limita a la Inteligencia Artificial Estrecha (ANI), que se especializa en tareas específicas. El futuro de la IA incluye la IA General (AGI), capaz de aprender y adaptarse como un ser humano, y la IA Superinteligente (ASI), superior a la inteligencia humana.

Estos avances ofrecen beneficios significativos en áreas como finanzas, salud y educación, pero también conllevan dilemas éticos. Por ejemplo, la inteligencia artificial a menudo requiere grandes cantidades de datos personales para funcionar eficazmente. Esto plantea preocupaciones sobre cómo se recopilan, almacenan y utilizan, así como sobre el riesgo de violaciones de la privacidad y ciberataques.

Por otro lado, los sistemas de IA pueden perpetuar y amplificar sesgos de género existentes si se entrenan con datos deficientes. Esto puede llevar a decisiones discriminatorias en áreas como el empleo, la justicia penal y el acceso a servicios.

Además, muchas técnicas de inteligencia artificial, especialmente aquellas basadas en aprendizaje profundo, son difíciles de interpretar. La falta de experiencia de los desarrolladores en transparentar cómo se toman las decisiones puede generar desconfianza y dificultar la rendición de cuentas.

Determinar quién es responsable cuando un sistema de IA causa daño es un desafío. Esto incluye responsabilidades legales y éticas tanto para los desarrolladores como para los usuarios de la IA. La toma de decisiones autónomas por parte de la IA puede socavar el control humano en áreas críticas.

La adopción de la IA puede exacerbar las desigualdades existentes al concentrar el poder y los beneficios económicos en manos de unas pocas empresas o individuos, generando una mayor desigualdad socioeconómica. También puede llevar a la pérdida de empleos y la creación de brechas de habilidades.

Por último, la IA puede ser utilizada para manipular el comportamiento humano a través de técnicas como la microsegmentación y la personalización extrema, lo que plantea preocupaciones sobre la autonomía y el consentimiento informado.

Casos como el sesgo en el sistema de reclutamiento de Amazon y los problemas con el sistema COMPAS en Florida, en Estados Unidos, muestran las consecuencias de implementar IA sin suficiente consideración ética. Amazon tuvo que eliminar su sistema de reclutamiento por sesgo machista, y Florida recibió denuncias contra COMPAS por discriminar a personas negras. Estos problemas a menudo surgen de empresas con poca experiencia que se enfocan en encontrar el algoritmo más predictivo, descuidando etapas críticas donde el conocimiento humano es esencial.

En respuesta, organismos internacionales como la UNESCO y la Comisión Europea han desarrollado directrices éticas para la IA. Estas directrices han influido en la legislación, como el AI Act aprobado en 2024, una ley pionera mundial que busca regular la IA, potenciar su desarrollo, pero protegiendo las libertades y los derechos fundamentales de los ciudadanos.

El AI Act no clasifica los algoritmos por su tecnología, sino por el riesgo asociado a su uso, evaluando su impacto potencial en la salud, la seguridad y los derechos fundamentales. Define prácticas prohibidas y categoriza los sistemas de IA en alto riesgo, como los vinculados a la seguridad de infraestructuras o a la concesión de créditos. Estos sistemas deben cumplir con rigurosos requisitos de gestión que podrían resumirse en la necesidad de terminar con las “cajas negras” y asegurar una gobernanza ética.

La experiencia de AIS, ahora integrada por PFSTECH, como consultoría especializada en implementar algoritmos avanzados en el sistema financiero, nos ha proporcionado el conocimiento necesario para aplicar prácticas siguiendo esta gobernanza ética. Nuestro enfoque incluye mitigar sesgos, seleccionar algoritmos transparentes, evitar sobreajustes, validar modelos para todos los grupos poblacionales, implementar vigilancia humana y establecer un proceso de rendición de cuentas. Esto nos ha permitido superar el desafío, logrando modelos de IA explicables y trazables.

En estos momentos, vemos dos premisas claras para el futuro: las empresas competitivas integrarán IA alineada con su estrategia organizacional, y las IA confiables y sostenibles estarán respaldadas por un modelo de gobierno que implemente estándares éticos.

Nos encontramos en una encrucijada histórica donde nuestras decisiones determinarán si la IA beneficia al bien común o representa un riesgo para los derechos fundamentales. El momento de actuar es ahora. ¿Estamos preparados para este desafío?

Autor: Elías Bethencourt (Elías es speaker, egresado del Posgrado en Management Estratégico)

Fuente: DirigentesDigital.com

Desbloqueando el potencial disléxico con la Inteligencia Artificial

Últimamente, he estado escuchando y leído sobre cómo el pensamiento disléxico puede ser un aliado en la interacción con la Inteligencia Artificial (IA).

La dislexia trae una dificultad del aprendizaje que afecta la capacidad de una persona para leer, escribir y procesar el lenguaje de manera efectiva, aunque se puede compensar. Nuestro pensamiento tiene particularidades donde podemos encontrar habilidades.

Una persona disléxica puede tener:

• Pensamiento visual y espacial: La capacidad para visualizar conceptos y comprender relaciones espaciales.
• Creatividad: La asociación entre dislexia y alta creatividad permite generar soluciones innovadoras y pensar de forma lateral.
• Habilidad para resolver problemas: Al adaptarnos para aprender y procesar información, desarrollamos fuertes habilidades para la resolución de problemas y el pensamiento crítico.
• Intuición: Muchos de nosotros tenemos una intuición aguda, captando patrones y conexiones que otros podrían pasar por alto.
• Perseverancia y resiliencia: Superar las dificultades asociadas con la dislexia requiere una gran cantidad de perseverancia y resiliencia.
• Habilidades interpersonales: La comunicación verbal fluida nos permite conectar con los demás y trabajar eficazmente en equipo.
• Memoria y comprensión auditiva: Muchos poseemos una excelente memoria auditiva, lo que facilita retener información hablada con eficacia.
• Enfoque en detalles importantes: A pesar de las dificultades con la lectura y escritura, tenemos una capacidad notable para enfocarnos en detalles importantes y detectar errores.
• Capacidad para simplificar la complejidad: Nuestra visión holística nos permite abordar problemas complejos de manera efectiva.

Personalmente, he comenzado a indagar en el uso del ChatGPT y he encontrado que:

• Corrige mis errores de escritura, incluso cuando omito letras o palabras.
• Me ayuda a revisar y redactar mis propios textos, superando mi dificultad para corregirlos.
• Facilita la comprensión al leer textos en voz alta.
• Completa ideas o relaciones de manera eficiente.
• Me facilita encontrar conceptos que tengo arraigados, pero de los que no recuerdo su origen, autor o detalles.
• Hace que mis textos sean más amenos y detallados sin el esfuerzo adicional de escribir.

Mi experiencia con la IA ha sido enriquecedora: ChatGPT no sólo corrige mis errores, sino que también me permite explorar y desarrollar mis ideas con mayor fluidez.

No genera mis textos ni las ideas de base; sino que mejora mi redacción, complementa, enriquece y sintetiza los conceptos que quiero desarrollar.

Te animo a que explores estas herramientas y las adaptes a tus necesidades. Las personas con dislexia poseemos un potencial increíble, encontrar formas de destacarlo es crucial para nuestro desarrollo.

Autora: Eliana Durán (Eliana es egresada de la Diplomatura DBA y el Posgrado en Management Estratégico)

Fuente: LinkedIn de Eliana Durán 

Escritores: No es la IA, es el corpus

Via @interacciones llego a este artículo sobre qué perdemos cuando dejamos a una IA "escribir por nosotras", pasando a ser nosotras "el asistente de la IA" pero me gustaría añadir:

"No es la IA, es el corpus, estúpido". 

Dejad que me explique.

Creo que no me estoy limitando a la ya caduca acusación de "loros estocásticos" si digo que las capacidades (¡asombrosas!) de los grandes modelos de lenguaje son menos mérito de los ingeniosos procesos de "entrenamiento" que del corpus con el que fueron entrenados.

Es decir, la "inteligencia" (aceptamos pulpo como animal de compañía en vez de llamarlo "inteligencia") que emerge como "propiedad emergente" de un LLM emerge porque estaba contenida de forma implícita en el corpus de entrenamiento. 

No es una propiedad emergente de la IA sino una propiedad emergente del "acervo humano" implícito en los patrones estadísticos de la astronómica cantidad de textos usada en la fase de aprendizaje no supervisado, patrones que quedan brillantemente destilados en esa cosa asombrosa que es un "modelo de lenguaje".

Luego las fases de ajuste fino supervisado con prompts en forma de órdenes, y la fase final de aprendizaje por refuerzo con realimentación humana, optimizan el modelo de lenguaje para escupir respuestas a preguntas, pero las asombrosas (incluso para sus creadores) "propiedades emergentes" no surgen "de" lo ingenioso de estos procesos, sino que surgen "gracias a" lo ingenioso de estos procesos "de" el modelo de lenguaje que es un destilado "de" lo que un montón de gente ha escrito.

Pero los LLM llegan a donde llegan porque no pueden hacer otra cosa que sorprendentes inferencias lingüísticas a partir del corpus, y porque además el método estadístico hace que se refuercen las respuestas de consenso, los vínculos de redes semánticas que pueden inferirse de lo más estadísticamente frecuente en el corpus. 

Por eso los más sofisticados LLMs no pasan de ser, o productores de textos factualmente correctos pero adocenados, o productores de ingeniosas y sugerente inferencias a partir de ellos ante un prompt provocador o productores de alucinaciones. 

Pero entre las "inferencias lingüísticas" y las "alucinaciones" podría haber "verdadero ingenio", puntos de vista nuevos. Pero no lo hay. El LLM puede escupir truismos, puede escupir absurdos, y puede escupir juegos de palabras pero no puede escupir puntos de vista novedosos, como no sea que un absurdo o un juego de palabras pueda resultar ser un punto de vista novedoso simplemente porque el burro tocó la flauta por casualidad. 

Me lo encuentro una y otra vez .y esa es la razón por la que a veces uso GPT-4 como asistente de divergencia creativa o como buscador difuso, pero nunca como asistente de escritura. Hace unos años califiqué GPT-2 de "mediocrity engine" y sigo pensando lo mismo.

¿Qué significa esto para quien se enfrenta al deseo de escribir? Pues algo muy bueno: escribe si crees que tienes, o algo que decir que por lo menos a ti te parezca nuevo, algo que no esté ya en el acervo, o bien un deseo de autoexpresión que es una razón de lo más legítima. 

Y si no, no escribas, alma de cántaro, que la humanidad ya ha escrito suficiente. Y si tienes que escribir una mediocridad, por lo menos escribe una mediocridad tuya y solo tuya, no pongas tu firma debajo de una recombinación del acervo.

Porque de nosotros, ahora, se espera algo más que eso. Y me parece emocionante. Fin.

Autor: César Astudillo

Fuente: Twitter de César Astudillo

Prepararse para el tsunami de la IA

🚨Los mensajes de Georgieva se basan en el último informe del FMI titulado "Gen-AI: Artificial Intelligence and the Future of Work", donde revelan que el 40% de los empleos a nivel mundial pueden verse afectados por la Inteligencia Artificial en los próximos 2 años (60% en las economías avanzadas).

🌊Si lo que viene es un Tsunami, es urgente que los gobiernos, empresas, academias, ONGs y la sociedad civil se preparen.

♟️Un factor fundamental para convertir esta revolución en un beneficio para la humanidad (y mitigar sus impactos negativos), es el diseño de planes estratégicos que incluyan modelos éticos de gobernanza.

🧭Estos planes varían según se trate de una empresa o de un país, bajo los siguientes lineamientos:

Empresas:

- Objetivos y Beneficios: Definir claramente los objetivos de la implementación de IA y los beneficios esperados para la empresa, asegurando que estos alineen con la estrategia corporativa y ofrezcan ventajas competitivas.

- Ética y Responsabilidad: Establecer principios éticos y de responsabilidad en el desarrollo y uso de la IA para evitar sesgos y asegurar la seguridad y privacidad de los datos .

- Gobernanza: Crear un modelo de gobernanza robusto que incluya políticas, estándares y un comité de ética de IA para supervisar el desarrollo y la implementación de IA, asegurando la transparencia y rendición de cuentas .

- Capacitación y Talento: Invertir en la capacitación de personas en competencias para la era digital y en la atracción de talento especializado en IA para asegurar una correcta implementación y uso de la tecnología .

- Infraestructura y Herramientas: Desarrollar una infraestructura tecnológica adecuada que soporte las aplicaciones de IA, incluyendo hardware, software y herramientas de análisis de datos .

Países:

- Desarrollo Sostenible: Enfocar la implementación de la IA en la promoción del desarrollo sostenible, contribuyendo a los Objetivos de Desarrollo Sostenible (ODS) y asegurando un impacto positivo en las dimensiones económica, social y ambiental .

- Marcos Regulatorios: Establecer marcos regulatorios nacionales que promuevan la innovación responsable, la protección de datos y la seguridad de los sistemas de IA, asegurando la interoperabilidad internacional .

- Colaboración Internacional: Fomentar la cooperación internacional y las alianzas para el intercambio de conocimientos y tecnologías, y para la creación de capacidades en los países en desarrollo .

- Infraestructura Nacional: Desarrollar una infraestructura nacional robusta que soporte el despliegue de la IA a gran escala, incluyendo inversiones en conectividad digital y recursos tecnológicos .

- Participación y Transparencia: Asegurar la participación de diversos actores en el desarrollo de políticas de IA, y promover la transparencia y la rendición de cuentas en su implementación y uso .

¿Cómo te estás preparando para el Tsunami?

Autor: Elías Bethencourt (Elías es speaker, egresado del Posgrado en Management Estratégico)

Fuente: LinkedIn de Elías Bethencourt

IA para transformar las inteligencias humanas

Creemos que la Inteligencia Artificial (IA) debería integrarse en todas las actividades y procesos de una organización. Estas tecnologías son especialmente útiles para tareas repetitivas. Según McKinsey, se podrían automatizar actividades que absorben entre el 60% y el 70% del personal 

¿Podría la IA también aplicarse a tareas no repetitivas? ¿Qué pasará si eso se generaliza?

Estamos en una era sin precedentes de potencial innovador. Existe una necesidad urgente de adoptar tecnología y aplicar automatismos a nuestros procesos. 

Los departamentos de Recursos Humanos han adoptado muchas novedades últimamente, dice Paula Fernández, como la diversidad en la incorporación de nuevos talentos, el uso de tecnologías, el trabajo híbrido y el desarrollo de una cultura organizacional robusta. 

Esto plantea preguntas importantes:

¿Toda tarea organizacional es apta para incorporar inteligencia artificial?

¿Es el área de Personal el depositario de estas inteligencias?

¿Puede la cultura empresarial ser receptora de IA para moldearla y desarrollarla?

Nuestra experiencia en el mundo empresarial y académico nos indica que toda tarea repetitiva debería ser ayudada por estas tecnologías para aliviar el trabajo del personal y aumentar la eficiencia.

Por otro lado el departamento de Capital Humano es el vínculo esencial para conectar cualquier tecnología con los distintos sectores de la empresa.

En los últimos años el sector de Talento se ha transformado en un responsable estratégico, guardián de la visión, constructor de la cultura empresaria y potenciador de los saberes de los colaboradores.

Trabajemos para unir el poder de las personas y de la tecnología, para gestionar organizaciones más inteligentes.

- Fernando Cerutti

(1957-2025 in memoriam)

PD: Nótese que usé distintas expresiones para los departamentos llamados de "RRHH", creo que tiene que ver con que falta una Estrategia y sólo maquillamos nombres. Lo mismo puede pasar con la IA, si la sumamos porque está de moda o para ir más rápido, sin tener claro un para qué. Estamos frente a un punto de inflexión tecnológico, aprovechémoslo para lograr una humanidad aumentada. 

Inteligencia Artificial y Dilemas Éticos: Más preguntas que respuestas

Cada día vemos ejemplos donde la inteligencia humana se expande para dar vida a tecnologías más avanzadas, donde la inteligencia artificial (AI) + Internet de las cosas (IoT) + Big-Data, alcanzan el nivel de lo humano.

Pero varias situaciones me han hecho notar que las personas están siendo dejadas de lado de este desarrollo. Por eso se me ocurrió hablar de un concepto que llamo "Human Company".

Por eso queremos compartir un gran artículo, profundo y completo de Xavier Ferrás que integra los avances en Inteligencia Artificial con los desafíos éticos que implican y podrían emerger. Una aproximación a pensar la "Human Company". Es una lectura de 15 minutos que merece la pena, con la siempre recomendable pluma del maestro Ferrás.

Lic. Fernando Cerutti

Inteligencia Artificial y Dilemas Éticos: Más preguntas que respuestas

Introducción

Estos días se cumplen 100 años del nacimiento de Isaac Asimov, científico y escritor, considerado uno de los mejores divulgadores tecnológicos, y uno de los grandes genios de la ciencia ficción del pasado siglo. Asimov, junto con otros extraordinarios comunicadores como Carl Sagan (productor de la famosa serie Cosmos) dejaron una huella imborrable en varias generaciones de jóvenes que crecieron durante los años de la Guerra Fría, y se educaron fascinados por la potencia generadora de conocimiento y prosperidad que significaba la ciencia. Eran los años de la exploración espacial, de grandes liderazgos visionarios (como el de Kennedy prometiendo y cimentando la conquista de la Luna), y de sueños galácticos poblados por robots y humanoides. El descubrimiento de la teoría de la relatividad de Einstein marcó el inicio de esa era. Einstein mostró al mundo que viajar en el tiempo era teóricamente posible. Sus avances marcaron otro de los bloques constituyentes de la Guerra Fría: la energía nuclear. La investigación científica de frontera tenía un espíritu épico, similar al de los exploradores del siglo XVII. Requería situar al individuo más allá de las fronteras del conocimiento existente, para descubrir nuevos e inéditos principios físicos diseñados por la naturaleza. El marco de referencia era la competición tecnológica entre EEUU y la Unión Soviética. La era romántica de la ciencia ficción culminó con la magnífica superproducción de George Lucas, La Guerra de las Galaxias. Inmediatamente después, llegaron los ordenadores personales, la caída del Muro de Berlín, la globalización, e internet, y la dirección de la Historia cambió para siempre.

Conscientes de las profundas implicaciones de la tecnología en el devenir de las sociedades, esos grandes comunicadores fueron, además, extraordinarios humanistas. El propio Asimov fue presidente de la Asociación Americana de Humanismo. Y es que la llegada de nuevas oleadas de tecnologías disruptivas sitúa al individuo y a la sociedad ante situaciones que jamás se habían dado antes. Situaciones que tienen impacto profundo en trayectorias vitales y corporativas e, incluso, en vidas humanas. Asimov fue quien planteó el primer marco de relación humana con máquinas inteligentes y autónomas, nada menos que en 1942, anticipando una problemática que ha arreciado con la llegada de la inteligencia artificial (IA). Ese marco se concretaba en las llamadas “Tres Leyes de la Robótica”:

1. Un robot jamás hará daño a un humano o, por inacción, jamás permitirá que un humano sufra daño
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si éstas entran en conflicto con la primera ley
3. Un robot debe proteger su existencia, en la medida en que esta protección no entre en conflicto con la primera o la segunda ley

La situación, a principios de la segunda década del siglo XXI es más sencilla, y a la vez mucho más compleja que la que imaginó Asimov. Su futuro (nuestro presente), no ha sido el de un cosmos de galaxias pobladas por robots-humanoides a modo de tribus exóticas que conquistan un universo inexplorado. Seguimos en el planeta Tierra. Las misiones a la Luna acabaron en 1972, aunque China acaba de enviar una nave a su cara oculta, y amanece una nueva era de competición espacial entre EEUU y el gigante oriental.

La realidad es que la IA nos llega en modo de algoritmos, piezas de código informático, que se desparraman de forma ubicua por un universo digital que no está a años luz, sino que nos impregna en nuestra vida cotidiana. Estamos inmersos en un cosmos digital. Esos algoritmos han invadido nuestro entorno más cercano: se han adherido a nuestro teléfono, a nuestro automóvil, a nuestra nevera, a nuestros dispositivos médicos, a nuestra cámara fotográfica, a nuestra oficina o a nuestra línea de montaje. Grandes cerebros de hardware los actualizan y los hacen cada vez más inteligentes, no desde Andrómeda, sino desde clústeres tecnológicos concentrados en Palo Alto (California) o en Shenzen. Y esos algoritmos intangibles e imperceptibles aprenden de sí mismos, cada vez saben más de nosotros, cada vez pueden hacer más cosas de las que hacíamos nosotros en el pasado, y cada vez pueden hacer que hagamos cosas que antes no hacíamos. Esta realidad tan compleja e inesperada (incluso para Asimov) es la que tendremos que analizar y regular en los próximos años desde una perspectiva profundamente humanista. Los conflictos éticos se darán en diferentes dimensiones. En los siguientes apartados vamos a revisar algunas de ellas:

Decisiones autónomas

Una primera onda de choque derivada de la llegada masiva de la IA, que con toda probabilidad se va a producir en los años próximos, es la de la autonomía de las máquinas inteligentes. Las máquinas van a tomar decisiones autónomas cada vez más complejas, y con mayor impacto sobre organizaciones y trayectorias vitales. Se ha popularizado ya el dilema ético que conlleva la programación de sistemas autoconducidos. Ante un accidente imprevisto, una persona actúa de forma instintiva e inconsciente. No puede calcular las consecuencias de sus actos (como girar el volante y situarse en el carril contrario en la tesitura de evitar un atropello de alguien que aparece inesperadamente en la calzada). Pero un procesador de alta velocidad sí que puede hacer una proyección de daños, en todos los casos posibles. ¿Seguimos adelante y atropellamos a una familia? O, ¿damos un golpe de volante y colisionamos contra un automóvil que viene de frente, matando al ocupante de nuestro vehículo? De un modo implícito, la decisión está tomada por los departamentos de márketing: las marcas protegerán preferentemente a su cliente (a quien les paga), así que los vehículos atropellarán a los transeúntes. Los automóviles autoconducidos se anunciarán como absolutamente seguros (para sus ocupantes). El tema es mucho más complejo de lo que parece: ¿y si la persona atropellada es un niño o una mujer embarazada? ¿Y si quien cruza la calle lo hace saltándose un semáforo en rojo? ¿Debería eso ser un factor de mérito para ser “sacrificado”? ¿Y si el damnificado es un importante personaje público? ¿Y si algún algoritmo, de un modo u otro, decide tomar la decisión en base al perfil socioeconómico del potencial afectado? ¿Y si mata a quien tenga una menor aseguranza?

El MIT (Massachussets Institute of Technology) ha creado un centro de investigación, http://moralmachine.mit.eduhttp://moralmachine.mit.edu, que presenta dilemas morales asociados a la conducción autónoma, y que ya ha realizado 40 millones de encuestas on-line en más de 230 países y territorios. Según sus investigaciones, en casos como el presentado, los algoritmos deberían tomar las decisiones que salven mayor número de vidas, y preferentemente mayor número de vidas de niños. Sin embargo, existen significativas diferencias entre zonas geográficas y culturas en sus preferencias morales: hay países, por ejemplo, en los cuales se opta por salvar a los ancianos frente a los niños. La casuística, como vemos, es extremadamente compleja, y el proceso de conversión de la investigación que se lleva en curso en legislación (si es el caso), no será en modo alguno sencillo ni rápido.
  

IA en Salud

Los sistemas sanitarios también van a ser profundamente alterados por las nuevas tecnologías digitales. Si hay un campo abonado para los datos y la IA, éste es el de la salud. En base a nuestro genoma, ¿nos gustaría saber que, con una cierta desviación estadística, es probable que contraigamos un cáncer a una cierta edad? O, en base a grandes series de datos de individuos con historiales clínicos similares, ¿podríamos saber la fecha aproximada de nuestra muerte? Por otro lado, ¿qué pasaría en el caso de que una máquina tome decisiones autónomas sobre ámbitos de salud humana? Técnicamente, parece evidente que un robot de alta precisión podría realizar una operación quirúrgica con mayores probabilidades de éxito que un humano. De hecho, los humanos requieren procesos de aprendizaje que, en el caso de la medicina, se deben realizar sobre pacientes reales. Se aprende a operar operando, por más simulaciones, estudios u operaciones previas sobre animales que se hayan hecho. Y, en la primera operación crítica, a un humano siempre le tiembla la mano. Un robot evitaría esas curvas de aprendizaje: no se pondría nervioso en la primera operación. Pero, ¿un paciente permitiría ser operado en una intervención a vida o muerte por una máquina totalmente autónoma? ¿Podría una máquina reaccionar ante acontecimientos imprevistos? ¿Tendría intuición y capacidad de improvisación? Obviamente, no. Sin embargo, el campo de la salud es uno de los grandes ámbitos de actuación inmediata de las grandes plataformas digitales. Tardaremos en ser operados por máquinas autónomas, pero quizá no falte tanto tiempo para que Alexa nos diagnostique una gripe, y nos prescriba los medicamentos necesarios.

Empresas autoconducidas

Hablamos de vehículos autoconducidos, pero, ¿y si creáramos empresas autoconducidas? Subimos a nuestro coche y, ya sin preocuparnos, una voz dirigida por GPS y sintetizada por una interfaz de Google nos indica el camino. Lo vemos natural (la tecnología tiene ese curioso efecto psicológico: dispositivos disruptivos, que rozan la ciencia ficción, se perciben como obvios y habituales -se dan por descontados. una vez los hemos empezado a utilizar). Aunque parezca contraintuitivo, será más sencillo sustituir a un director de una sucursal bancaria que al personal de limpieza de dicha entidad. El primero debe tomar decisiones sobre inversiones, que de forma cada vez más eficiente podrán ser tomadas por algoritmos, los cuales tendrán múltiples ventajas sobre los humanos: son a coste marginal cero (una vez entrenado el algoritmo, una decisión más no incrementa los costes de la organización), son mucho más rápidos, responden sólo a razones racionales y objetivas, trabajan de forma permanente, y son capaces de analizar millones de datos (externos e internos: condiciones macroeconómicas, perfil de riesgo de la inversión, histórico de las empresas invertidas, exigencias de objetivos corporativos, etc.). Por el contrario, un sistema de limpieza debería ser sustituido por un dispositivo mecatrónico (más complejo, más caro -no responde a coste marginal cero, hay que comprar un robot-, y cuya eficiencia mecánica en todas las situaciones posibles no está garantizada).

Las posiciones de management, por tanto, son susceptibles de ser desarrolladas por máquinas. ¿Podría una empresa “autoconducirse”? ¿Podría gobernarse una empresa a través de una estructura de management algorítmica? En algunas funciones, parece cada vez más evidente, como en el caso del análisis financiero o de inversiones. Ya en 2014 la empresa de capital riesgo Deep Knowledge Ventures, con base en Hong Kong y especializada en inversiones biotech “incorporó” un algoritmo en su consejo de dirección. El programa tenía derecho de voto sobre decisiones de inversión. Aunque el momento era prematuro, y la operación se propagó mediáticamente (quizá, en parte, era un reclamo de posicionamiento de la empresa), la idea noes descabellada. El algoritmo analizaba en profundidad la información financiera disponible, y rastreaba en el histórico de datos de la empresa a ser invertida en busca de patrones de decisión certeros. ¿Sería posible escalar los algoritmos autónomos a funciones de alta dirección? ¿Podríamos tener un director general digital? Teóricamente sí: un algoritmo que analizara de forma constante parámetros de evolución económica, e indicadores internos; y tomara decisiones y lanzara directivas para conseguir los objetivos corporativos deseados. Estudios del MIT, incluso, llegan a la conclusión de que los empleados podrían ser más felices con un director, o, en general, un jefe electrónico. Sólo existe, en mi opinión, un condicionante que evitará este escenario: al final, siempre alguien deberá ser responsable de las decisiones tomadas (ante los accionistas, ante la propiedad, ante los acreedores, ante la sociedad o ante la ley). En management sabemos que un directivo puede delegarlo todo, excepto la responsabilidad de sus actos. Y queda mucho camino, si es que se llega a este punto, para que las máquinas desarrollen sentido de la responsabilidad y asuman responsabilidades. Si se quiere, falta mucho para que la IA tenga temor al castigo (económico o incluso penal) ante un acto irresponsable. Ello me hace pensar que durante mucho tiempo, las máquinas seguirán constituyendo cada vez más certeros sistemas de apoyo a la toma de decisiones. Pero la responsabilidad (y, por tanto, la última palabra en la decisión), seguirá siendo humana). La responsabilidad será la última gran reserva de management humano en un mundo gobernado por cerebros electrónicos. La IA constituirá un gran elemento de soporte, sumando inteligencias de máquina y humanas. En palabras de un profesor del MIT “los directivos no serán reemplazados por la IA, pero aquéllos que no dominen la IA sí que serán sustituidos por otros que la dominen”.
  

Armas basadas en IA

Stuart Russell, profesor de ciencias de computación en Berkeley realizó en 2017 un vídeo de ficción, Slaughterbots (algo así como “robots carniceros”), para sensibilizar a las Naciones Unidas sobre la necesidad de prohibir las armas autónomas basadas en IA. En el video se visualizaba cómo un enjambre de miles de pequeños drones dotados de sistemas de reconocimiento facial era liberado sobre una ciudad, asesinando selectivamente a sus habitantes. Los drones se situaban sobre la potencial víctima, la reconocían, y, si optaban por asesinarla, se colocaban sobre su cabeza y hacían volar una pequeña carga explosiva. Un sistema de este tipo mataría selectivamente: todos los varones mayores de 18 años, todos los de una determinada ideología (el algoritmo podría inducir, en base a la información recabada instantáneamente en redes, las opciones políticas de la víctima), o todos los de una determinada etnia. Los drones actuaban cooperativamente, de modo que se agrupaban y hacían explotar cargas mayores para acceder a edificios determinados. “Las armas nucleares han quedado obsoletas”, según Russell. El uso de la IA abre la puerta a nuevos escenarios bélicos. “El campo de batalla no es un lugar para los humanos”, en palabras de Annie Jacobsen, autora del libro DARPA: The Pentagon’s Brain, en relación a los avances tecnológicos en armas autónomas que desarrolla DARPA, la agencia de investigación en proyectos de defensa de EEUU.
 

La paradoja de Polanyi

Las máquinas van a tener capacidad creciente de decisión autónoma. La potencia de las nuevas generaciones de IA reside en su capacidad de aprendizaje de la experiencia. La máquina aprende a medida que experimenta (en el llamado proceso de machine learning). Su lógica interna es modificada dinámicamente a medida que acumula y evalúa más datos. Sin embargo, esta fortaleza tecnológica es también su mayor debilidad: los algoritmos son cada vez más certeros en sus análisis, porque aprenden de forma autónoma, pero si se equivocan, no sabemos a qué se debe ese error. En la vieja lógica de los sistemas de información, un programador humanoideaba un árbol de decisiones que codificaba en un programario, que era transferido a una máquina. La máquina, en el fondo, ejecutaba como un autómata el circuito lógico definido por el humano. Ahora ya no es así: la máquina modifica su propio software, hasta el punto de que el programador humano pierde de vista el proceso lógico que sigue el algoritmo para tomar una decisión. De hecho, precisamente esto hace a la máquina más humana. Es la famosa paradoja de Polanyi, filósofo austríaco que se dio cuenta de que somos capaces de hacer cosas que no podemos explicar. Por ejemplo, reconocer a un bebé (nuestro hijo), entre docenas de bebés muy parecidos. O reconocer a un viejo amigo al que encontramos por la calle, y que no hemos visto en 25 años. No hay árbol de decisión parametrizado, ni proceso lógico que lo explique. No podemos transferir ese conocimiento a una máquina de ninguna manera (no podemos programar “tu amigo es un individuo de pelo negro, cuyas dimensiones faciales son 32 x 18...”). Simplemente lo reconocemos por experiencia, porque de un modo u otro en nuestro cerebro se ha grabado su patrón facial. Así aprenden también las máquinas, mediante acumulación de conocimiento experto. No hay un circuito lógico, no hay árbol de decisión trazable en la IA. Por tanto, si la máquina se equivoca en una decisión crítica, no podremos saber por qué se comete ese error.


Interacción persona-máquina

En el congreso tecnológico Dúplex I/O de 2018, el CEO de Google, Sundar Pichai presentó un sistema de síntesis de voz al que puso a prueba en tiempo real: le pidió a una máquina que llamara a una peluquería y que le reservara hora. El sistema lo hizo, estableció una conversación con la responsable que la atendió al teléfono, y negoció la hora. La peluquera no se dio cuenta de que estaba hablando con una máquina. El sistema digital de Google superó el llamado “test de Türing” (matemático británico considerado uno de los padres de la IA), según el cual llegaría un día en que hablaríamos con una máquina sin darnos cuenta de que es una máquina. Y esto nos lleva a un nuevo dilema: si los sistemas se perfeccionan al nivel de sintetizar la voz humana de forma indistinguible de la real, ¿debería el sistema declarar de forma anticipada que es un robot? De lo contrario, podríamos tener algoritmos programados en servidores que, 24 horas al día, 7 días a la semana, estén realizando llamadas comerciales a coste marginal cero (una llamada más no tiene coste para el algoritmo). Un algoritmo entrenado para la interacción comercial podría atender, simultáneamente, cientos o miles de clientes en oficinas bancarias.

Los sistemas de voz parece que serán los nuevos entornos operativos digitales. Si inicialmente los computadores eran gobernados por un sistema operativo interno, las siguientes generaciones de smartphones y los ecosistemas móviles se desarrollaron sobre sistemas operativos visuales, orientados a la venta a través de apps (aplicaciones) y ads (anuncios visuales). Ahora parece que el futuro se va a gobernar por sistemas inmersivos de interacción por voz. Hablaremos con las máquinas, que cada vez dispondrán de mayor inteligencia emocional conferida por sus motores de IA. La avanzadilla la conforman dispositivos como Alexa, de Amazon, interfases de voz que en un breve tiempo posiblemente nos eviten los incómodos teclados. La apuesta de Amazon por la IA es incontestable: su presupuesto de I+D (el mayor del mundo) es de 22.000 M$. Baste decir que el esfuerzo conjunto de la economía española en I+D (a nivel público y privado) es inferior, de unos 19.000 M$. Amazon invierte en I+D más que el conjunto de la economía española, y lo hace de forma estructurada y dirigida hacia dispositivos de IA que maximicen sus ventas en canales on-line o en canales de voz. Los altavoces inteligentes, o, en un paso posterior, los bots digitales en forma de avatar (“humanos digitales”) analizarán nuestro lenguaje verbal y no verbal (mediante cámaras de visión artificial), y estarán entrenados para determinar el mejor momento de venta, nuestra predisposición a la compra ono, los atributos que más nos atraen... Si Amazon consigue introducir dispositivos Alexa en cualquier canal comercial, quizá nuestros clientes dejen de hablar con nosotros y empiecen negociar con Alexa. Si es así, Amazon se convertirá realmente en el gran Amazonas, el gran río de ventas que lo colecta todo, según la visión original de su fundador, Jeff Bezos.


Sustitución de personas por máquinas

En la perspectiva macroeconómica, las derivadas de los dilemas anteriores son evidentes: ¿Va a haber una sustitución masiva de personas por máquinas? ¿Nos enfrentamos a una jobless society (una sociedad sin trabajo)? ¿Estamos creando una useless class (una clase inútil, sin sentido económico), en palabras del historiador Yuval Noah Harari?

Brian Arthur, profesor de Stanford, anuncia la llegada de la “Era Distributiva”: en un mundo de rápido cambio tecnológico, donde la tecnología podría permitir un escenario de abundancia, el problema ya no es la Producción, sino la Distribución. Arthur declara el final de la Era Industrial, e identifica el principal problema de la nueva época: el sistema sabe cómo crear riqueza, pero no sabe cómo distribuirla. Los nuevos modelos de negocio digitales, encabezados por las grandes plataformas (Apple, Google, Facebook, Amazon y Microsoft, entre otras), tienen una gran capacidad de generación de riqueza, pero no crean empleos como antes. La vieja economía industrial era intensiva en empleos estables, en el marco de cadenas de valor territoriales, que al final consolidaban clases medias que sustentaban sistemas democráticos. Ahora, según Arthur, se genera una “Segunda Economía”, una economía virtual, externalizada a la red, que opera bajo dinámicas de coste marginal cero y que llevan a dominios monopolísticos (en los cuales, “el ganador se lo lleva todo”). De un modo u otro, la economía internacional está siendo succionada por las redes informáticas, mientras los individuos se quedan fuera.

¿Es posible que las personas perdamos nuestro sentido económico? La digitalización rompe el círculo virtuoso del capitalismo industrial, inaugurado por Henry Ford a principios del Siglo XX: las fábricas creaban productos, que eran vendidos en los mercados a individuos que trabajaban en las fábricas (y debían ganar un salario digno para poder comprar esos productos). Si las personas son sustituidas por algoritmos y robots en las fábricas, ¿quién comprará los productos que permitan que el círculo virtuoso de sistema capitalista siga funcionando?

Todo parece indicar que la sustitución de personas por máquinas se acelerará en los próximos años. Según prospectivas de la Universidad de Oxford, hacia 2066 toda tarea humana podría ser ejecutada por sistemas digitales o mecatrónicos (incluidas tareas complejas y creativas como la investigación científica o la escritura de best-sellers para el New York Times). Si esto es así, el sistema capitalista deberá introducir importantes innovaciones sociales para mantenerse. La alternativa, el colapso del sistema y la posible extensión de populismos y neofascismos.

Una solución que se ha popularizado en los últimos tiempos es la Renta Básica Universal (RBU). Ésta sería una renta incondicional (concedida independientemente del nivel de renta del individuo), y básica (que impidiera caer bajo el nivel de pobreza). Se propone, precisamente, en el seno de los foros tecnológicos de Silicon Valley (aunque es una idea que se remonta al Renacimiento), y es defendida por gurús de la innovación (Mark Zuckerberg – Facebook-, Bill Gates -Microsoft- o Elon Musk -Tesla-), o científicos como el recientemente fallecido Stephen Hawking. Silicon Valley, de hecho, según Thomas Picketty (autor de El Capital en el Siglo XXI) es uno de los lugares con mayor desigualdad de la historia y del planeta. En EEUU, los salarios se han mantenido aproximadamente igual, descontando la inflación, desde 1975, pese al intenso cambio tecnológico que se ha producido. Se genera riqueza (el conjunto de ingresos de los hogares norteamericanos es de alrededor de 8 billones brutos anuales), lo que daría para unos ingresos de alrededor de 80.000 $ anuales por hogar. Pero 40 millones de norteamericanos viven en la pobreza.

La RBU es una idea que merece ser analizada serenamente. La hipótesis de partida es situarnos en el seno de sociedades avanzadas, cultas y con sólidas economías basadas en conocimiento, pero cuyo grado de digitalización y automatización dificulte la distribución de la riqueza mediante mecanismos salariales, como en la vieja economía industrial. En ese entorno, la RBU propugna distribuir parte de la riqueza nacional de una economía, como si de una cooperativa se tratara. Las fuentes de esa riqueza no serían los recursos naturales (como ocurre ya en países como Noruega), sino el talento y la tecnología desarrollada por las naciones. Existen defensores y detractores en todo el espectro político. Para pensadores de izquierdas, la RBU significaría la abolición directa de la pobreza. Para filósofos liberales, un instrumento de libertad personal (nadie es libre si está sometido a la tiranía de la pobreza). Para algunos conservadores, un elemento sustitutivo de sistemas de bienestar social ineficientes y sobrecargados de costes indirectos asociados al control, y de incentivos perversos que crean trampas de pobreza (tengo una renta porque soy pobre, y no salgo de la pobreza porque no quiero perder la renta). Incluso a las ultraconservadoras norteamericanas la defienden como salvaguarda ante una posible revolución global.

Por supuesto, existen también fuertes detractores, que critican su elevado coste (una RBU real es imposible hoy en cualquier economía), la desincentivación del trabajo, o los posibles efectos de inflación o llamada. Y, algunos, argumentan también una razón moral: ¿es moralmente justo distribuir una renta entre individuos que opten entonces por renunciar al trabajo? Aunque, el contraargumento es sencillo: ¿es moralmente justo condenar a la pobreza a quien necesite trabajar y no encuentre trabajo?
 
 
Sistemas distópicos

¿Amenaza la IA la democracia? Quizá, no sólo por la extensión de la desigualdad que generan los sistemas de negocio que lideran la economía digital, sino también por la posibilidad de estructurar sistemas tecnocráticos o autocráticos, o por la posibilidad de manipular la opinión pública a través de sistemas de datos. Es conocido el escándalo de Cambridge Analytics, según el cual datos recogidos de Facebook permitían deducir la sensibilidad política del individuo, e inyectar material político en las redes para decantar sus votos. Las propias redes sociales son campos de extremos: en un mundo de abundancia de información, tendemos a seleccionar aquélla que nos es ideológicamente próxima. Visitamos foros y opiniones que nos gustan, reforzando nuestros planteamientos ideológicos. Twitter es terreno abonado para extremistas, y campo de formación y entreno de radicales e intolerantes.

La emergencia de China (una suerte de autocracia automatizada) es un ejemplo que está cambiando el orden mundial. China ha realizado una apuesta estratégica por la IA, y posee ventajas competitivas indudables: la posibilidad de planificar en el largo plazo, la disposición de inversiones masivas, y la gestión de flujos de datos insuperables, provenientes de sus ciudadanos. Hoy China está desplegando sistemas de control big data basados en reconocimiento facial, posicionamiento, y algoritmos de IA para crear ránkings sociales. Cada ciudadano tiene una puntuación dinámica, generada a través de datos de su comportamiento y hábitos: resultados académicos, evaluaciones profesionales, informes médicos, comentarios en las redes sociales, tipos de productos que adquiere... Y su puntuación le da acceso automático (o deniega) servicios sociales, autorizaciones administrativas, o matrículas académicas. El mundo de la abundancia tecnológica puede ser distópico en lugar de utópico.

Las distopias bajan al nivel de las propuestas de valor empresariales cuando entra en juego la IA. Nos venderán dispositivos cada vez más humanizados. Hoy existen startups que ofrecen realizar un clon digital de nosotros mismos. Aprender de nosotros, leer nuestros mails, registrar nuestra memoria, mimetizar nuestro temperamento, almacenar nuestros documentos gráficos, conformar nuestra cara en un avatar digital, imitar nuestra voz e interactuar con terceros con inteligencia emocional como si fuéramos nosotros mismos. De tal manera que, cuando muramos, nuestros hijos puedan hablar con nuestro avatar digital, un resto informacional inteligente de nosotros. ¿Sería eso algo así como un resto mortal de una persona? ¿Qué tratamiento legal debería tener, si es que debemos darle tratamiento legal?

Superación de las personas por las máquinas

El cerebro humano es un computador biológico formado por unos 100.000 millones de neuronas, cada una con unas mil conexiones sinápticas a otras neuronas. Si se sigue cumpliendo la famosa Ley de Moore (según la cual cada año y medio aproximadamente se dobla la capacidad de integración de dispositivos electrónicos en un sistema integrado), hacia 2040 existirán chips con la densidad de conexión de un cerebro humano. Intel o Microsoft ya se han lanzado al desarrollo de arquitecturas de silicio que imiten el cerebro humano. De hecho, los sistemas de IA se basan en hardware inspirado en el funcionamiento del cerebro (las famosas redes neuronales). Estas aproximaciones han hecho posible el desarrollo de sistemas electrónicos con capacidades cognitivas (de interpretación de la voz, de texto o de imágenes). Sabemos generar IA a imagen de la inteligencia humana. Pero no sabemos si esa inteligencia derivará en consciencia artificial. ¿Llegará una máquina a darse cuenta de que existe? La ciencia, hoy, no tiene claro cómo y dónde emerge la consciencia. En un momento dado, un cúmulo de neuronas genera un patrón superior y se da cuenta de que existe. Y es un misterio cómo se produce ese fenómeno. Parece que la cantidad de neuronas conectadas, y las interacciones que generan hace aparecer un patrón superior, como los pixels de una fotografía hacen emerger un paisaje. Y, si las máquinas generan consciencia, posiblemente entonces generen también sentimientos. ¿Puede un algoritmo tener ego, envidia, amar u odiar?

¿Somos algoritmos biológicos? ¿Es el cerebro sólo una máquina? Porque si es así, algún día las máquinas serán como nuestros cerebros, y deberían generar algún tipo de consciencia. Pero quizá no seamos sólo máquinas. Quizá existe algo más, algo intangible, etéreo y quizá inmortal llamado alma. Si los humanos somos más que simples máquinas, si existe un alma, entonces una máquina jamás será como nosotros. El progreso de la tecnología y la ley de Moore están en los albores de determinar finalmente quiénes somos.

Los grandes desafíos que genera la IA van mucho más allá de la investigación científica, la innovación tecnológica y sus aplicaciones prácticas en la economía. Como hemos visto, se plantean profundísimos dilemas éticos que deberán revestirse de un marco regulatorio sensato y eficiente. Conscientes de ello, las grandes marcas líderes en el ámbito (inicialmente IBM, Amazon, Apple, Google, Facebook y Microsoft, y ahora muchas más) crearon en 2016 un consorcio de investigación y debate sobre las implicaciones éticas de la IA (partnershiponai.org). Probablemente veamos emerger sistemas de certificación y calidad ética de nuestros sistemas de información. Los años que se presentan son tan apasionantes como inquietantes. Esperemos que sepamos articular los foros de reflexión, los mecanismos y los liderazgos que permitan que el futuro ofrezca tantas posibilidades como la revolución tecnológica realmente posibilita, un futuro digno y justo para todos por primera vez en la historia de la humanidad.




Autor: Xavier Ferrás
Fuente: Barómetro de Ética e Inteligencia Artificial https://eticainteligenciaartificial.com/inteligencia-artificial-y-dilemas-eticos/