El recientemente creado Podcast "Da Para Más" convocó a Mariano Morresi para una entrevista sobre estrategia, negocios y gestión en el actual contexto de covid-19 y aislamiento.
Este podcast es una iniciativa de nuestro colega y egresado Martín Machado, basado en Uruguay y con horizontes internacionales. Este fue su segundo episodio, que se transmite en Spotify y YouTube.
Inicialmente describieron el momento en Argentina y las sensaciones personales. Luego entraron al tema de la educación en este contexto y los cambios en las instituciones, profesores, alumnos y didácticas. El centro de la charla fueron las claves del Management en tiempos de coronavirus y el desafío de hacer nuevas estrategias. Analizaron si existe “la estrategia de la estrategia”
y si las empresas tienen que redefinir su visión. Conectado a esto también revisaron cómo planificar con el factor incertidumbre y cómo se altera la toma de decisiones. Cerraron conversando sobre el cambio cultural, el liderazgo de equipos remotos y la nueva importancia de la confianza. Por último Mariano recomendo libros, lecturas y fuentes de información para este momento.
Pueden escuchar este episodio del Podcast "Da Para Más" a continuación:
Spotify
YouTube
Para seguir los nuevos capítulos de esta iniciativa de aprendizaje y comunicación, conéctense en Twitter, YouTube, Spotify.
En tiempos de "caos únicos", cuando nos permitimos tomar un poco de aire, notamos que es sólo otra piedra en la pared. Dura y contundente, pero otra discontinuidad en el mar de discontinuidades. Pero esto no debería llevar a resignarnos y a entregarnos al "todo pasa", sino a ver cómo podemos hacer nuestro el caos. Cuando estamos bajo o sobre la ola, no deberíamos dedicar muchos recursos a la proyección de futuro sino a la supervivencia o al aprovechamiento del momento. Pero si nos corremos un poco de la turbulencia, notamos que las lecciones para estos escenarios ya han sido forjadas en experiencias pasadas, que la historia es gran maestra y que la realidad es cíclica. Lo que ocurre es que aplicábamos modelos como si fueran válidos a una realidad que ya se había movido. Nos basábamos en buenas prácticas para un mundo complicado, cuando necesitábamos experimentación para un mundo complejo. Esto ya nos ocasionaba bastantes problemas de desajuste, disrupción y reacomodamiento estratégico, marcario y generacional. Hoy, que el contexto es caótico, necesitamos otro punto de vista, un marco para la adaptabilidad.
Para abrir el juego a este tema, compartimos un extracto de "Competir al borde del caos", un libro de Shona L. Brown y Kathleen M. Eisenhardt. Es del año 1999, cuando la crisis era provocada por la digitalización y la globalización.
No podés parar las olas pero sí podes aprender a surfear
Competir al borde del caos contrasta con otras propuestas estratégicas que suponen fronteras definidas en la industria, una competencia previsible o un futuro reconocible. Como tales, estas otras propuestas son pertinentes para establecer una dirección estratégica amplia en los mercados donde el cambio es lo suficientemente lento para identificar una posición defendible o una ventaja sostenible durante un largo período, quizás incluso "una década o más" (Porter). Una propuesta más dinámica, como la "teoría de los juegos", se aproxima más a la realidad competitiva del cambio rápido que enfrentan muchas empresas. Sin embargo, es incompleta porque se concentra en "¿Adónde quiere ir?" y descuida la otra mitad de la estrategia: "¿Cómo llegar hasta allí?". En contraste, la competencia sobre el borde supone que las industrias cambian rápida y impredeciblemente y, por lo tanto, que el desafío estratégico fundamental es manejar el cambio.
La idea implícita detrás de la competencia sobre el borde del caos es que la estrategia es el resultado de cómo la empresa se organiza para cambiar permanentemente y permite que una dirección semicoherente emerja de esa organización. En otras palabras, consiste en combinar las dos partes de la estrategia concentrándose simultáneamente en el hecho de adónde se quiere ir y cómo llegar hasta allí. Una dirección estratégica semicoherente es muy distinta de lo que tradicionalmente se llama estrategia. ¿Qué es lo singular e incluso provocador acerca de esta dirección? Que es...
- IMPREDECIBLE. Competir sobre el borde del caos tiene que ver con la sorpresa. No consiste en planificar un enfoque y saber cómo se desarrollará. El futuro es demasiado incierto para planificar con precisión. Más bien se trata de hacer algunos movimientos, observar lo que sucede, y continuar con las que parecen surtir efecto. Si bien el pasado y el futuro importan, el foco de atención es el presente.
- INGOBERNABLE. No puede ser comandada ni planificada con precisión por los directivos. Simplemente ocurren demasiadas cosas en las industrias rápidamente cambiantes para que un sólo grupo instrumente cada medida. Más bien, muchas personas en la empresa deben tomar varias medidas por su cuenta. Competir sobre el borde significa hacer estrategias basadas en la unidad de negocios, no en las oficinas centrales de la compañía.
- INEFICIENTE. Competir sobre el borde del caos no es necesariamente eficiente en el corto plazo. Se trata de tropezar con los mercados equivocados, cometer errores, recuperarse y caer en los correctos. Significa duplicación, desajuste y error. A veces incluso se suma la casualidad. No es ser la empresa más eficiente ni la más rentable en un momento particular. No es crear encaje. Más bien consiste en usar el cambio para recrear inflexiblemente la empresa, descubriendo las oportunidades para crecer que permitan las ganancias consecuentes.
- PROACTIVA. Competir sobre el borde del caos no consiste en observar pasivamente la discontinuidad ocasional ni esperar que otras empresas procedan antes de emprender la acción. Se trata de llegar temprano, intentar anticiparse y, cuando sea posible, liderar el cambio.
- CONTINUA. Consiste en un ritmo de movimientos a través del tiempo, no en una serie de acciones inconexas. No comprende unas pocas medidas muy importantes, como las transformaciones empresariales masivas o las megafusiones. Por el contrario, significa un cambio repetido, inflexible, que llega a ser endémico para la empresa.
- DIVERSA. Finalmente, competir sobre el borde del caos implica una variedad de movimientos en diferentes escalas y riesgos. De modo que la clave para el desempeño exitoso no es una estrategia genérica única, una competencia particular ni una medida sorpresiva. Más bien, es la creación de una estrategia sólida y variada. Significa hacer muchos movimientos. Algunos serán brillantes, la mayor parte serán buenos y unas pocos serán fracasos.
Fuente: Brown, Shona L. & Einsenhardt, Kathleen M: Competir al borde del caos. 2002. Granica.
Luego de la alta convocatoria e interés de nuestro primer encuentro (más de 350 participantes), decidimos profundizar en esta espacio de interacción, pensamiento e ideas. Por eso queremos invitarlos a participar del CONVERSATORIO ESTRATÉGICO #2.
Se trata nuevamente de una actividad online y gratuita que proponemos para
reflexionar y actuar estratégicamente en un momento de cambio como
este.
Será facilitado por Fernando Cerutti, experto internacional en Estrategia y Crisis y director de posgrados. Es coordinado por Mariano Morresi, consultor estratégico y coordinador de programas académicos.
Algunos
temas que trabajaremos serán el Caos y Complejidad en el Contexto que llevan a tener que trabajar simultáneamente en la Construcción de Escenarios futuros y la Adaptabilidad para la Gestión actual.
Combinaremos una presentación con un conversatorio con los concurrentes, de modo de aportar mayor cantidad y diversidad de enfoques para los puntos propuestos.
La semana pasada facilitamos el primer Conversatorio Estratégico virtual. Se trató de un espacio para encontrarnos en tiempos de aislamiento, compartiendo ideas de apoyo estratégico y discutiendo problemas, reflexiones e intentos.
Participaron más de 300 personas, de 8 países, tanto dentro de la plataforma Zoom como en YouTube donde se transmitió en vivo dada la gran cantidad de inscriptos.
Luego de la exposición de Fernando Cerutti, que sirvió como punto de partida para abrir 3 grandes ideas estratégicas de pensamiento, acción y reacción frente al punto de inflexión que estamos transitando, se abrió el conversatorio. Allí muchos de los participantes pudieron intervenir reflexionando sobre sus situaciones particulares y empresariales, compartiendo ideas para pensar cómo atravesar este vórtice y proponiendo iniciativas a tener en cuenta. La participación fue tanto vía streaming como en textos y chats. Una experiencia muy rica de intercambio multimedia que se complementó con la presentación.
A continuación compartimos la Exposición de Fernando y las principales ideas sobre cómo la Estrategia puede ayudar a atravesar los Puntos de Inflexión.
La intención de esta actividad fue conversar sobre cómo el pensamiento estratégico nos ayuda a traspasar un momento de crisis como el actual y a desarrollar un futuro diferente.
Los temas que tratamos fueron:
Estrategia: como introducción, para ver de qué depende la misma.
Puntos de inflexión: para ver qué sginifica esta situación que estamos viviendo.
Prospectiva: para salir de la urgencia diaria y empezar a encontrar un futuro distinto.
El inicio de toda reflexión de importancia tiene que ser la Estrategia. Pero más que dar una definición, quisimos exponer de qué depende la misma, qué es lo que condiciona la estrategia de una empresa. Y los 3 pilares son:
El Líder: sus Modelos Mentales y Paradigmas, sus Sesgos e Ideología. El más importante. Son todos ustedes, somos todos nosotros. Es el punto de partida.
El Entorno: Este el pilar que está en jaque hoy. Lo que desestabiliza todas las estrategias. El mundo, el país, la ciudad. La sociedad, la economía, las regulaciones, la salud.
El Negocio: donde hay Industrias que se ven muy afectadas y otras que son favorecidas.
Entonces con un contexto disruptivamente diferente, nuestras estrategias cambian y deben cambiar. El cómo y para qué cambiar dependerán del líder y del negocio.
Primero debemos entender de que se trata de qué se trata un Punto de Inflexión, que representa la disrupción del contexto.
En un punto de inflexión como el actual, la situación ha sido alterada por un Cisne negro. Un Cisne Negro es un suceso altamente improbable con impacto muy grande. Que sea improbable depende de nuestra información previa o de nuestros modelos mentales. Como no tenemos precedentes pensamos que no es posible y no podemos predecirlo. Y cuando lo inesperado ocurre nos mueve el piso sin que podamos entender qué ocurre.
La información ya estaba, precedentes había. ¿Entonces fue un cisne negro? Bill Gates en una charla TED en 2015 dijo que el próximo gran cambio se podía predecir y era un virus muy infeccioso de escala global el que lo iba provocar. El mismo creador del concepto del Cisne negro, Nassim Taleb, dijo en su libro del 2007 que el mundo era mucho más frágil a un virus global por su excesiva conectividad.
Una vez ocurrido los efectos se disparan en un "Efecto mariposa". Un pequeño suceso en Wuhan desató una crisis global.
Quizás deberíamos hablar de "Efecto murciélago" (u otro animal). Alguien comió un animal infectado en una ciudad en China, al principio no pasó mucho y hoy no sabemos donde estará el final de esta pandemia. Todo tiene un tiempo, no debemos presionar al sistema sino entender qué pasa y por qué pasa. Dar pequeños pasos, probar y aprender. Ningún cambio es inocuo.
Un Punto de Inflexión, estratégicamente hablando, significa un cambio brusco del comportamiento de un sistema, que logra que éste explote hacia una complejidad de nivel superior. El antiguo cuadro estratégico de una empresa desaparece para dar lugar a uno nuevo. Se entra en el "Valle de la muerte" y no funciona nada de lo anterior ni hay claridad para decidir. Este es el contexto actual. De acá en más, vistas las graves consecuencias que atravesamos, debemos pensar que al próximo punto de inflexión lo debemos producir nosotros. Con la innovación en productos, procesos, estrategia, management. No necesariamente significa que es negativo.
Para muchas industrias es totalmente nocivo: Turismo (aerolíneas, hoteles, atracciones, agencias de viajes), Automotriz, Entretenimiento, Gastronomía, Bienes raíces, Publicidad, Automotriz, Eventos, Minoristas no esenciales. Pero para otras es un boom: Formación online, Salud, Juegos, Streaming, Logística de última milla, Alimentación online/cercana/local, Servicios en la nube.
Hoy se habla de que estamos en un contexto VUCA, que en castellano es VICA (Volatilidad, Incertidumbre, Complejidad y Ambigüedad) Y queda totalmente claro frente a este Punto de Inflexión. ¿Cómo podemos hacer para defendernos y aprovecharlo? Propongo hablar de VACA. Un antídoto contra la volatilidad es contar con una Visión clara. Comprender e intuir lo que viene, imaginar nuestro propio futuro permitirá a las organizaciones y a sus dirigentes anticiparse, prepararse y adoptar nuevos enfoques. La mejor manera de afrontar la incertidumbre es con Aprendizaje. Se trata de entendimiento, conocimiento y empatía. La capacidad de un líder para detenerse, observar, escuchar bien, hablar con otros y colaborar en la búsqueda de perspectivas diferentes y/o complementarias. Frente a la complejidad, buscar la simplicidad, analizar y comprender la complejidad en sus diferentes perspectivas desde un enfoque holístico de los problemas que nos permitirá tomas decisiones más eficaces. El Caos tiene leyes que nos pueden ayudar. La ambigüedad se puede contrarrestar con Agilidad, capacidad de comunicarse a través de la organización y moverse rápidamente para experimentar soluciones parciales, ver los resultados y mejorar las ideas.
A partir de las palabras de Benedetti y de la gran ilustración de Bernasconi, pregunto ¿vamos a enfocar solamente hacia abajo? Tenemos que lidiar con el Cisne negro COVID-19, pero qué otros temas hay, qué otros tiempos nos quedan, qué otros escenarios planteamos.
Porque esto también va a pasar. Y mientras nos ocupamos para atravesar el Punto de Inflexión, debemos ir más allá. Visualizar el futuro, de eso se trata la Prospectiva.
A diferencia de la forma tradicional de pensar el futuro (proferencia), la prospectiva construyendo un futuro deseable y para eso se alimenta de la creatividad y la imaginación, rompiendo con los bloqueos y las tendencias por fuera de nuestro control. Santiago Bilinkis dice que: El desafío de los Estados Unidos, el Reino Unido y el resto del mundo es desarrollar líderes con entendimiento del presente, visión prospectiva e ideas de esta época. Líderes que, en vez de pelear contra las tendencias actuales, se monten sobre ellas y utilicen la tecnología para construir un futuro nuevo, deseable e inclusivo. Líderes que en vez proponer "Make America Great Again" de nuevo como en el siglo XX, abracen el desafío de construir el American (British, etc.) way of life del siglo XXI. En definitiva, líderes que logren entusiasmarnos con lo que viene y ayudarnos a perder el miedo al futuro en vez de hacernos añorar volver el tiempo atrás. Tener prospectiva y poder entender el mundo del futuro nos permitirá, inclusive, analizar mejor el presente. ¿Algún ejemplo? “El problema de los taxistas no es Uber sino la aparición de autos autónomos que, en no más de 10 años, dejarán obsoleto su rol en la sociedad”. El problema no es el CoronaVirus sino lo que esta situación mostró que es posible o innecesario.
En la Prospectiva, al pasado sólo lo usamos para aprender, pero no lo proyectamos. Hacemos un salto cuántico de la realidad actual y con una actitud anticipatoria nos imaginamos un futuro deseable (más allá de lo posible). Luego vamos retrocediendo hacia dónde deberíamos estar en los años previos hasta llegar al presente. Y después planteamos las trayectorias estratégicas para alcanzar esos hitos que nos llevamos a nuestro propósito. No es lineal, es creativo. ¿Dónde queremos estar el año próximo, la década próxima? ¿Qué deberíamos lograr antes para llegar allí? ¿Qué podemos hacer cada año para ir cumpliendo el proyecto?
Primero vamos al futuro a crear, de ahí retrocedemos al presente conocido y luego vamos construyendo ese futuro, que no es prolongación del pasado sino deseo moldeándose.
Tanto en el presente como en el futuro no debemos seguir apuntando a la eficiencia sino a la diferencia. Qué puedo hacer yo por el mundo, no cómo me salvo. No alcanza con ser eficiente y hasta puede ser contraproducente. Necesitamos probar, intentar, experimentar, dejar algo valioso, desarrollar la comunidad, colaborar.
Más que eficientes, diferentes.
Como síntesis de esta presentación:
Uno de los 3 pilares de la Estrategia está en jaque, el Contexto atraviesa un Punto de Inflexión.
Tenemos que entender de qué se trata, por qué ocurren, cómo se comportan y de qué modo podemos aprovechar la dinámica de los Puntos de Inflexión y los Cisnes negros.
Pero además de intentar resolver lo urgente y sobrevivir, debemos ocuparnos de armar un futuro diferente, que vaya más allá del pasado y la coyuntura, para eso necesitamos pararnos desde la Prospectiva.
Muy pronto compartiremos el video. Gracias a todos por participar en el conversatorio, por dejarnos sus ideas y por los comentarios que puedan brindarnos en este posteo.
Cuanta falta hace la estrategia en tiempos de explosión, pero si no pensamos antes, si no frenamos un momento, si no nos damos tiempo para conversar y aprender, la marea nos lleva por delante y terminamos con menos recursos y más confusión que al principio. Mientras todo se bloquea, pospone o extingue, recurrimos a la historia para saber qué habrá un mañana, pero bajo otros paradigmas.
Para hacer ese alto que mencionamos y proponer una visión estratégica recurrimos a Julian Stodd. Él se define como escritor, artista, consultor y explorador, con un profundo interés en cómo funcionan las cosas: sistemas, sociedades y estructuras, tanto técnicas como humanas.
Este artículo que tradujimos involucra una visión progresiva, con foco en lo social y empresarial y piensa en el desarrollo y adopción de los cambios a corto, mediano y largo plazo. Más allá de la reacción, cómo hacer estrategia en tiempos pandémicos.
Una visión estratégica de la pandemia
Desde la perspectiva de la comprensión y la planificación, estamos operando en bloques de seis meses. El bloque inicial es la "Fase Industrial": disrupción masiva y ajuste. Los siguientes dos bloques representarán una realidad nueva y razonablemente estable, seguida de un bloque final que representa un retorno a un estado más normalizado. A menos que todo esto esté mal, por supuesto... como digo, esta es simplemente mi propia reflexión sobre una situación que cambia rápidamente. En esta pieza compartiré algunas reflexiones sobre cada una de esas tres fases.
Los próximos seis meses verán a la mayoría de las naciones tomar una respuesta industrializada: una fuerte disrupción de las normas sociales establecidas. Las escuelas y las universidades inicialmente cerraron, luego evolucionaron rápidamente, primero para encontrar sus canales y, en segundo lugar, para desarrollar la pedagogía. El trabajo se trasladará principalmente de la oficina a un lugar principalmente remoto, lo que conducirá a que algunos trabajos se vuelvan redundantes (pero aún admitidos), y una clara brecha de habilidades.
Probablemente veremos una innovación social masiva: las bandas descubrirán cómo monetizar los "shows de salón" a escala, los museos y las galerías desarrollarán calendarios de eventos, incluso los teatros encontrarán formas de gestionar la actuación distribuida. Los gimnasios y los instructores de yoga innovarán las clases remotas. Las cafeterías se adaptarán a un modelo de "recorrida" y claramente la infraestructura secundaria de Deliveroo prosperará.
Ya estamos viendo franjas de legislación que harán cumplir el "distanciamiento social", y esperamos que esto aumente con el tiempo.
Las naciones enfrentarán una guerra para la reconversión industrial, principalmente la fabricación de ventiladores, la reutilización de hoteles a hospitales y los equipos de higiene y atención médica relacionados, mientras que probablemente la industria manejará la infraestructura para la producción de vacunas y la fabricación de medicamentos. Del mismo modo, parece probable que la cadena de suministro de alimentos estará estrechamente controlada, con los supermercados actuando como representantes del Estado y alguna forma de racionamiento estandarizado.
Todo esto se sentirá como un cambio, pero el cambio no durará para siempre. Al contrario de algunas evaluaciones políticas, es probable que este sea un período de 18 meses hasta que estemos impactando seriamente a la pandemia a través de las drogas, tanto para la vacunación como para el tratamiento. Por lo tanto, veremos probablemente un año de una "nueva normalidad": se establecerán nuevos patrones de trabajo y escolaridad, y si bien podemos desarrollar un enfoque de "onda" (donde relajamos los controles hasta la próxima ruptura), lo más probable es que podamos factorear en 60% el tiempo que seguiremos bloqueados.
Sospecho que es cuando veremos el mayor nivel de fracaso organizacional: la industria de servicios, el turismo, probablemente alguna fabricación pesada, todos ellos simplemente tendrán la presencia incorrecta para la "nueva normalidad". Las organizaciones que se mantienen durante los primeros seis meses simplemente no podrán existir en un ecosistema evolucionado donde sus costos y su presencia no coinciden con los del mercado. En el lado positivo, algunos de los innovadores sociales no tendrán bases tecnológicas sólidas, por lo que veremos la mayor innovación técnica para "estar juntos". Entonces algunos ganadores y algunos perdedores.
Me temo que este también será un momento de máxima desigualdad social, donde aquellos con dinero encontrarán acceso a servicios y oportunidades, mientras que aquellos más afectados por una sobrecarga de atención (ancianos y niños), así como ingresos reducidos, perderán terreno.
Suponiendo (y está lejos de ser una certeza) que las vacunas sean aprobadas, será en el período de 12 a 18 meses que veremos una escala de fabricación, pero probablemente también sea un programa de implementación socialmente desigual. El regreso a la "normalidad" (o lo que sea que parezca la nueva normalidad) seguramente será un asunto incierto, más lento y más desigual que el bloqueo.
Lo más interesante será ver cuáles de las medidas innovadoras se mantienen: ¿las organizaciones volverán alguna vez a una base completa de oficina, o los ahorros de costos del trabajo remoto, junto con la satisfacción social de esto para algunas personas, serán demasiado para perder? Sospecho que aquellos que ahorran $ 10k al año en viajes estarán felices de permanecer alejados.
Con respecto a la educación, el resultado es incierto: si las entidades educativas realmente invierten en la fase intermedia, mantendrán un modelo mixto, pero eso requerirá una reestructuración y capacitación significativas.
Sospecho que en la fase de retorno habrá especuladores: personas que se sienten lo suficientemente cómodas al relajar los regímenes legislativos como para ganar mucho dinero con la incertidumbre. Lo más probable es que también tengamos un legado de desigualdad social: es poco probable que las organizaciones que han eliminado una base de costos significativa lo vuelvan a emplear, y las que han surgido probablemente serán más delgadas y más centradas en la tecnología.
Como digo, esta es una evaluación de conjeturas, pero estoy seguro de que no estamos en un viaje de dos meses. Desde el punto de vista de la Estrategia Empresarial, me parece más valioso tener una visión considerada y a más largo plazo, porque es más fácil retirarse de una estrategia (centrada en lo remoto y lo virtual) que tratar de salir del lodo.
Los invitamos a participar de nuestro primer CONVERSATORIO ESTRATÉGICO. Se trata de una actividad online y gratuita que proponemos para reflexionar y actuar estratégicamente en un momento de inflexión como este.
Será facilitado por Fernando Cerutti, experto internacional en Estrategia y Crisis y director de posgrados.
Algunos temas que trabajaremos serán Dependencias estratégicas, Puntos de inflexión y Cisnes negros y Prospectiva. El formato de conversatorio incentivará las preguntas e intercambios.
Cada día vemos ejemplos donde la inteligencia humana se expande para dar vida a tecnologías más avanzadas, donde la inteligencia artificial (AI) + Internet de las cosas (IoT) + Big-Data, alcanzan el nivel de lo humano.
Pero varias situaciones me han hecho notar que las personas están siendo dejadas de lado de este desarrollo. Por eso se me ocurrió hablar de un concepto que llamo "Human Company".
Por eso queremos compartir un gran artículo, profundo y completo de Xavier Ferrás que integra los avances en Inteligencia Artificial con los desafíos éticos que implican y podrían emerger. Una aproximación a pensar la "Human Company". Es una lectura de 15 minutos que merece la pena, con la siempre recomendable pluma del maestro Ferrás.
Lic. Fernando Cerutti
Inteligencia Artificial y Dilemas Éticos: Más preguntas que respuestas
Introducción
Estos días se cumplen 100 años del nacimiento de Isaac Asimov, científico y escritor, considerado uno de los mejores divulgadores tecnológicos, y uno de los grandes genios de la ciencia ficción del pasado siglo. Asimov, junto con otros extraordinarios comunicadores como Carl Sagan (productor de la famosa serie Cosmos) dejaron una huella imborrable en varias generaciones de jóvenes que crecieron durante los años de la Guerra Fría, y se educaron fascinados por la potencia generadora de conocimiento y prosperidad que significaba la ciencia. Eran los años de la exploración espacial, de grandes liderazgos visionarios (como el de Kennedy prometiendo y cimentando la conquista de la Luna), y de sueños galácticos poblados por robots y humanoides. El descubrimiento de la teoría de la relatividad de Einstein marcó el inicio de esa era. Einstein mostró al mundo que viajar en el tiempo era teóricamente posible. Sus avances marcaron otro de los bloques constituyentes de la Guerra Fría: la energía nuclear. La investigación científica de frontera tenía un espíritu épico, similar al de los exploradores del siglo XVII. Requería situar al individuo más allá de las fronteras del conocimiento existente, para descubrir nuevos e inéditos principios físicos diseñados por la naturaleza. El marco de referencia era la competición tecnológica entre EEUU y la Unión Soviética. La era romántica de la ciencia ficción culminó con la magnífica superproducción de George Lucas, La Guerra de las Galaxias. Inmediatamente después, llegaron los ordenadores personales, la caída del Muro de Berlín, la globalización, e internet, y la dirección de la Historia cambió para siempre.
Conscientes de las profundas implicaciones de la tecnología en el devenir de las sociedades, esos grandes comunicadores fueron, además, extraordinarios humanistas. El propio Asimov fue presidente de la Asociación Americana de Humanismo. Y es que la llegada de nuevas oleadas de tecnologías disruptivas sitúa al individuo y a la sociedad ante situaciones que jamás se habían dado antes. Situaciones que tienen impacto profundo en trayectorias vitales y corporativas e, incluso, en vidas humanas. Asimov fue quien planteó el primer marco de relación humana con máquinas inteligentes y autónomas, nada menos que en 1942, anticipando una problemática que ha arreciado con la llegada de la inteligencia artificial (IA). Ese marco se concretaba en las llamadas “Tres Leyes de la Robótica”:
Un robot jamás hará daño a un humano o, por inacción, jamás permitirá que un humano sufra daño
Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si éstas entran en conflicto con la primera ley
Un robot debe proteger su existencia, en la medida en que esta protección no entre en conflicto con la primera o la segunda ley
La situación, a principios de la segunda década del siglo XXI es más sencilla, y a la vez mucho más compleja que la que imaginó Asimov. Su futuro (nuestro presente), no ha sido el de un cosmos de galaxias pobladas por robots-humanoides a modo de tribus exóticas que conquistan un universo inexplorado. Seguimos en el planeta Tierra. Las misiones a la Luna acabaron en 1972, aunque China acaba de enviar una nave a su cara oculta, y amanece una nueva era de competición espacial entre EEUU y el gigante oriental.
La realidad es que la IA nos llega en modo de algoritmos, piezas de código informático, que se desparraman de forma ubicua por un universo digital que no está a años luz, sino que nos impregna en nuestra vida cotidiana. Estamos inmersos en un cosmos digital. Esos algoritmos han invadido nuestro entorno más cercano: se han adherido a nuestro teléfono, a nuestro automóvil, a nuestra nevera, a nuestros dispositivos médicos, a nuestra cámara fotográfica, a nuestra oficina o a nuestra línea de montaje. Grandes cerebros de hardware los actualizan y los hacen cada vez más inteligentes, no desde Andrómeda, sino desde clústeres tecnológicos concentrados en Palo Alto (California) o en Shenzen. Y esos algoritmos intangibles e imperceptibles aprenden de sí mismos, cada vez saben más de nosotros, cada vez pueden hacer más cosas de las que hacíamos nosotros en el pasado, y cada vez pueden hacer que hagamos cosas que antes no hacíamos. Esta realidad tan compleja e inesperada (incluso para Asimov) es la que tendremos que analizar y regular en los próximos años desde una perspectiva profundamente humanista. Los conflictos éticos se darán en diferentes dimensiones. En los siguientes apartados vamos a revisar algunas de ellas:
Decisiones autónomas
Una primera onda de choque derivada de la llegada masiva de la IA, que con toda probabilidad se va a producir en los años próximos, es la de la autonomía de las máquinas inteligentes. Las máquinas van a tomar decisiones autónomas cada vez más complejas, y con mayor impacto sobre organizaciones y trayectorias vitales. Se ha popularizado ya el dilema ético que conlleva la programación de sistemas autoconducidos. Ante un accidente imprevisto, una persona actúa de forma instintiva e inconsciente. No puede calcular las consecuencias de sus actos (como girar el volante y situarse en el carril contrario en la tesitura de evitar un atropello de alguien que aparece inesperadamente en la calzada). Pero un procesador de alta velocidad sí que puede hacer una proyección de daños, en todos los casos posibles. ¿Seguimos adelante y atropellamos a una familia? O, ¿damos un golpe de volante y colisionamos contra un automóvil que viene de frente, matando al ocupante de nuestro vehículo? De un modo implícito, la decisión está tomada por los departamentos de márketing: las marcas protegerán preferentemente a su cliente (a quien les paga), así que los vehículos atropellarán a los transeúntes. Los automóviles autoconducidos se anunciarán como absolutamente seguros (para sus ocupantes). El tema es mucho más complejo de lo que parece: ¿y si la persona atropellada es un niño o una mujer embarazada? ¿Y si quien cruza la calle lo hace saltándose un semáforo en rojo? ¿Debería eso ser un factor de mérito para ser “sacrificado”? ¿Y si el damnificado es un importante personaje público? ¿Y si algún algoritmo, de un modo u otro, decide tomar la decisión en base al perfil socioeconómico del potencial afectado? ¿Y si mata a quien tenga una menor aseguranza?
El MIT (Massachussets Institute of Technology) ha creado un centro de investigación, http://moralmachine.mit.eduhttp://moralmachine.mit.edu, que presenta dilemas morales asociados a la conducción autónoma, y que ya ha realizado 40 millones de encuestas on-line en más de 230 países y territorios. Según sus investigaciones, en casos como el presentado, los algoritmos deberían tomar las decisiones que salven mayor número de vidas, y preferentemente mayor número de vidas de niños. Sin embargo, existen significativas diferencias entre zonas geográficas y culturas en sus preferencias morales: hay países, por ejemplo, en los cuales se opta por salvar a los ancianos frente a los niños. La casuística, como vemos, es extremadamente compleja, y el proceso de conversión de la investigación que se lleva en curso en legislación (si es el caso), no será en modo alguno sencillo ni rápido.
IA en Salud
Los sistemas sanitarios también van a ser profundamente alterados por las nuevas tecnologías digitales. Si hay un campo abonado para los datos y la IA, éste es el de la salud. En base a nuestro genoma, ¿nos gustaría saber que, con una cierta desviación estadística, es probable que contraigamos un cáncer a una cierta edad? O, en base a grandes series de datos de individuos con historiales clínicos similares, ¿podríamos saber la fecha aproximada de nuestra muerte? Por otro lado, ¿qué pasaría en el caso de que una máquina tome decisiones autónomas sobre ámbitos de salud humana? Técnicamente, parece evidente que un robot de alta precisión podría realizar una operación quirúrgica con mayores probabilidades de éxito que un humano. De hecho, los humanos requieren procesos de aprendizaje que, en el caso de la medicina, se deben realizar sobre pacientes reales. Se aprende a operar operando, por más simulaciones, estudios u operaciones previas sobre animales que se hayan hecho. Y, en la primera operación crítica, a un humano siempre le tiembla la mano. Un robot evitaría esas curvas de aprendizaje: no se pondría nervioso en la primera operación. Pero, ¿un paciente permitiría ser operado en una intervención a vida o muerte por una máquina totalmente autónoma? ¿Podría una máquina reaccionar ante acontecimientos imprevistos? ¿Tendría intuición y capacidad de improvisación? Obviamente, no. Sin embargo, el campo de la salud es uno de los grandes ámbitos de actuación inmediata de las grandes plataformas digitales. Tardaremos en ser operados por máquinas autónomas, pero quizá no falte tanto tiempo para que Alexa nos diagnostique una gripe, y nos prescriba los medicamentos necesarios.
Empresas autoconducidas
Hablamos de vehículos autoconducidos, pero, ¿y si creáramos empresas autoconducidas? Subimos a nuestro coche y, ya sin preocuparnos, una voz dirigida por GPS y sintetizada por una interfaz de Google nos indica el camino. Lo vemos natural (la tecnología tiene ese curioso efecto psicológico: dispositivos disruptivos, que rozan la ciencia ficción, se perciben como obvios y habituales -se dan por descontados. una vez los hemos empezado a utilizar). Aunque parezca contraintuitivo, será más sencillo sustituir a un director de una sucursal bancaria que al personal de limpieza de dicha entidad. El primero debe tomar decisiones sobre inversiones, que de forma cada vez más eficiente podrán ser tomadas por algoritmos, los cuales tendrán múltiples ventajas sobre los humanos: son a coste marginal cero (una vez entrenado el algoritmo, una decisión más no incrementa los costes de la organización), son mucho más rápidos, responden sólo a razones racionales y objetivas, trabajan de forma permanente, y son capaces de analizar millones de datos (externos e internos: condiciones macroeconómicas, perfil de riesgo de la inversión, histórico de las empresas invertidas, exigencias de objetivos corporativos, etc.). Por el contrario, un sistema de limpieza debería ser sustituido por un dispositivo mecatrónico (más complejo, más caro -no responde a coste marginal cero, hay que comprar un robot-, y cuya eficiencia mecánica en todas las situaciones posibles no está garantizada).
Las posiciones de management, por tanto, son susceptibles de ser desarrolladas por máquinas. ¿Podría una empresa “autoconducirse”? ¿Podría gobernarse una empresa a través de una estructura de management algorítmica? En algunas funciones, parece cada vez más evidente, como en el caso del análisis financiero o de inversiones. Ya en 2014 la empresa de capital riesgo Deep Knowledge Ventures, con base en Hong Kong y especializada en inversiones biotech “incorporó” un algoritmo en su consejo de dirección. El programa tenía derecho de voto sobre decisiones de inversión. Aunque el momento era prematuro, y la operación se propagó mediáticamente (quizá, en parte, era un reclamo de posicionamiento de la empresa), la idea noes descabellada. El algoritmo analizaba en profundidad la información financiera disponible, y rastreaba en el histórico de datos de la empresa a ser invertida en busca de patrones de decisión certeros. ¿Sería posible escalar los algoritmos autónomos a funciones de alta dirección? ¿Podríamos tener un director general digital? Teóricamente sí: un algoritmo que analizara de forma constante parámetros de evolución económica, e indicadores internos; y tomara decisiones y lanzara directivas para conseguir los objetivos corporativos deseados. Estudios del MIT, incluso, llegan a la conclusión de que los empleados podrían ser más felices con un director, o, en general, un jefe electrónico. Sólo existe, en mi opinión, un condicionante que evitará este escenario: al final, siempre alguien deberá ser responsable de las decisiones tomadas (ante los accionistas, ante la propiedad, ante los acreedores, ante la sociedad o ante la ley). En management sabemos que un directivo puede delegarlo todo, excepto la responsabilidad de sus actos. Y queda mucho camino, si es que se llega a este punto, para que las máquinas desarrollen sentido de la responsabilidad y asuman responsabilidades. Si se quiere, falta mucho para que la IA tenga temor al castigo (económico o incluso penal) ante un acto irresponsable. Ello me hace pensar que durante mucho tiempo, las máquinas seguirán constituyendo cada vez más certeros sistemas de apoyo a la toma de decisiones. Pero la responsabilidad (y, por tanto, la última palabra en la decisión), seguirá siendo humana). La responsabilidad será la última gran reserva de management humano en un mundo gobernado por cerebros electrónicos. La IA constituirá un gran elemento de soporte, sumando inteligencias de máquina y humanas. En palabras de un profesor del MIT “los directivos no serán reemplazados por la IA, pero aquéllos que no dominen la IA sí que serán sustituidos por otros que la dominen”.
Armas basadas en IA
Stuart Russell, profesor de ciencias de computación en Berkeley realizó en 2017 un vídeo de ficción, Slaughterbots (algo así como “robots carniceros”), para sensibilizar a las Naciones Unidas sobre la necesidad de prohibir las armas autónomas basadas en IA. En el video se visualizaba cómo un enjambre de miles de pequeños drones dotados de sistemas de reconocimiento facial era liberado sobre una ciudad, asesinando selectivamente a sus habitantes. Los drones se situaban sobre la potencial víctima, la reconocían, y, si optaban por asesinarla, se colocaban sobre su cabeza y hacían volar una pequeña carga explosiva. Un sistema de este tipo mataría selectivamente: todos los varones mayores de 18 años, todos los de una determinada ideología (el algoritmo podría inducir, en base a la información recabada instantáneamente en redes, las opciones políticas de la víctima), o todos los de una determinada etnia. Los drones actuaban cooperativamente, de modo que se agrupaban y hacían explotar cargas mayores para acceder a edificios determinados. “Las armas nucleares han quedado obsoletas”, según Russell. El uso de la IA abre la puerta a nuevos escenarios bélicos. “El campo de batalla no es un lugar para los humanos”, en palabras de Annie Jacobsen, autora del libro DARPA: The Pentagon’s Brain, en relación a los avances tecnológicos en armas autónomas que desarrolla DARPA, la agencia de investigación en proyectos de defensa de EEUU.
La paradoja de Polanyi
Las máquinas van a tener capacidad creciente de decisión autónoma. La potencia de las nuevas generaciones de IA reside en su capacidad de aprendizaje de la experiencia. La máquina aprende a medida que experimenta (en el llamado proceso de machine learning). Su lógica interna es modificada dinámicamente a medida que acumula y evalúa más datos. Sin embargo, esta fortaleza tecnológica es también su mayor debilidad: los algoritmos son cada vez más certeros en sus análisis, porque aprenden de forma autónoma, pero si se equivocan, no sabemos a qué se debe ese error. En la vieja lógica de los sistemas de información, un programador humanoideaba un árbol de decisiones que codificaba en un programario, que era transferido a una máquina. La máquina, en el fondo, ejecutaba como un autómata el circuito lógico definido por el humano. Ahora ya no es así: la máquina modifica su propio software, hasta el punto de que el programador humano pierde de vista el proceso lógico que sigue el algoritmo para tomar una decisión. De hecho, precisamente esto hace a la máquina más humana. Es la famosa paradoja de Polanyi, filósofo austríaco que se dio cuenta de que somos capaces de hacer cosas que no podemos explicar. Por ejemplo, reconocer a un bebé (nuestro hijo), entre docenas de bebés muy parecidos. O reconocer a un viejo amigo al que encontramos por la calle, y que no hemos visto en 25 años. No hay árbol de decisión parametrizado, ni proceso lógico que lo explique. No podemos transferir ese conocimiento a una máquina de ninguna manera (no podemos programar “tu amigo es un individuo de pelo negro, cuyas dimensiones faciales son 32 x 18...”). Simplemente lo reconocemos por experiencia, porque de un modo u otro en nuestro cerebro se ha grabado su patrón facial. Así aprenden también las máquinas, mediante acumulación de conocimiento experto. No hay un circuito lógico, no hay árbol de decisión trazable en la IA. Por tanto, si la máquina se equivoca en una decisión crítica, no podremos saber por qué se comete ese error.
Interacción persona-máquina
En el congreso tecnológico Dúplex I/O de 2018, el CEO de Google, Sundar Pichai presentó un sistema de síntesis de voz al que puso a prueba en tiempo real: le pidió a una máquina que llamara a una peluquería y que le reservara hora. El sistema lo hizo, estableció una conversación con la responsable que la atendió al teléfono, y negoció la hora. La peluquera no se dio cuenta de que estaba hablando con una máquina. El sistema digital de Google superó el llamado “test de Türing” (matemático británico considerado uno de los padres de la IA), según el cual llegaría un día en que hablaríamos con una máquina sin darnos cuenta de que es una máquina. Y esto nos lleva a un nuevo dilema: si los sistemas se perfeccionan al nivel de sintetizar la voz humana de forma indistinguible de la real, ¿debería el sistema declarar de forma anticipada que es un robot? De lo contrario, podríamos tener algoritmos programados en servidores que, 24 horas al día, 7 días a la semana, estén realizando llamadas comerciales a coste marginal cero (una llamada más no tiene coste para el algoritmo). Un algoritmo entrenado para la interacción comercial podría atender, simultáneamente, cientos o miles de clientes en oficinas bancarias.
Los sistemas de voz parece que serán los nuevos entornos operativos digitales. Si inicialmente los computadores eran gobernados por un sistema operativo interno, las siguientes generaciones de smartphones y los ecosistemas móviles se desarrollaron sobre sistemas operativos visuales, orientados a la venta a través de apps (aplicaciones) y ads (anuncios visuales). Ahora parece que el futuro se va a gobernar por sistemas inmersivos de interacción por voz. Hablaremos con las máquinas, que cada vez dispondrán de mayor inteligencia emocional conferida por sus motores de IA. La avanzadilla la conforman dispositivos como Alexa, de Amazon, interfases de voz que en un breve tiempo posiblemente nos eviten los incómodos teclados. La apuesta de Amazon por la IA es incontestable: su presupuesto de I+D (el mayor del mundo) es de 22.000 M$. Baste decir que el esfuerzo conjunto de la economía española en I+D (a nivel público y privado) es inferior, de unos 19.000 M$. Amazon invierte en I+D más que el conjunto de la economía española, y lo hace de forma estructurada y dirigida hacia dispositivos de IA que maximicen sus ventas en canales on-line o en canales de voz. Los altavoces inteligentes, o, en un paso posterior, los bots digitales en forma de avatar (“humanos digitales”) analizarán nuestro lenguaje verbal y no verbal (mediante cámaras de visión artificial), y estarán entrenados para determinar el mejor momento de venta, nuestra predisposición a la compra ono, los atributos que más nos atraen... Si Amazon consigue introducir dispositivos Alexa en cualquier canal comercial, quizá nuestros clientes dejen de hablar con nosotros y empiecen negociar con Alexa. Si es así, Amazon se convertirá realmente en el gran Amazonas, el gran río de ventas que lo colecta todo, según la visión original de su fundador, Jeff Bezos.
Sustitución de personas por máquinas
En
la perspectiva macroeconómica, las derivadas de los dilemas anteriores
son evidentes: ¿Va a haber una sustitución masiva de personas por
máquinas? ¿Nos enfrentamos a una jobless society (una sociedad sin
trabajo)? ¿Estamos creando una useless class (una clase inútil, sin
sentido económico), en palabras del historiador Yuval Noah Harari?
Brian Arthur, profesor de Stanford, anuncia la llegada de la “Era Distributiva”: en un mundo de rápido cambio tecnológico, donde la tecnología podría permitir un escenario de abundancia, el problema ya no es la Producción, sino la Distribución. Arthur declara el final de la Era Industrial, e identifica el principal problema de la nueva época: el sistema sabe cómo crear riqueza, pero no sabe cómo distribuirla. Los nuevos modelos de negocio digitales, encabezados por las grandes plataformas (Apple, Google, Facebook, Amazon y Microsoft, entre otras), tienen una gran capacidad de generación de riqueza, pero no crean empleos como antes. La vieja economía industrial era intensiva en empleos estables, en el marco de cadenas de valor territoriales, que al final consolidaban clases medias que sustentaban sistemas democráticos. Ahora, según Arthur, se genera una “Segunda Economía”, una economía virtual, externalizada a la red, que opera bajo dinámicas de coste marginal cero y que llevan a dominios monopolísticos (en los cuales, “el ganador se lo lleva todo”). De un modo u otro, la economía internacional está siendo succionada por las redes informáticas, mientras los individuos se quedan fuera.
¿Es posible que las personas perdamos nuestro sentido económico? La digitalización rompe el círculo virtuoso del capitalismo industrial, inaugurado por Henry Ford a principios del Siglo XX: las fábricas creaban productos, que eran vendidos en los mercados a individuos que trabajaban en las fábricas (y debían ganar un salario digno para poder comprar esos productos). Si las personas son sustituidas por algoritmos y robots en las fábricas, ¿quién comprará los productos que permitan que el círculo virtuoso de sistema capitalista siga funcionando?
Todo parece indicar que la sustitución de personas por máquinas se acelerará en los próximos años. Según prospectivas de la Universidad de Oxford, hacia 2066 toda tarea humana podría ser ejecutada por sistemas digitales o mecatrónicos (incluidas tareas complejas y creativas como la investigación científica o la escritura de best-sellers para el New York Times). Si esto es así, el sistema capitalista deberá introducir importantes innovaciones sociales para mantenerse. La alternativa, el colapso del sistema y la posible extensión de populismos y neofascismos.
Una solución que se ha popularizado en los últimos tiempos es la Renta Básica Universal (RBU). Ésta sería una renta incondicional (concedida independientemente del nivel de renta del individuo), y básica (que impidiera caer bajo el nivel de pobreza). Se propone, precisamente, en el seno de los foros tecnológicos de Silicon Valley (aunque es una idea que se remonta al Renacimiento), y es defendida por gurús de la innovación (Mark Zuckerberg – Facebook-, Bill Gates -Microsoft- o Elon Musk -Tesla-), o científicos como el recientemente fallecido Stephen Hawking. Silicon Valley, de hecho, según Thomas Picketty (autor de El Capital en el Siglo XXI) es uno de los lugares con mayor desigualdad de la historia y del planeta. En EEUU, los salarios se han mantenido aproximadamente igual, descontando la inflación, desde 1975, pese al intenso cambio tecnológico que se ha producido. Se genera riqueza (el conjunto de ingresos de los hogares norteamericanos es de alrededor de 8 billones brutos anuales), lo que daría para unos ingresos de alrededor de 80.000 $ anuales por hogar. Pero 40 millones de norteamericanos viven en la pobreza.
La RBU es una idea que merece ser analizada serenamente. La hipótesis de partida es situarnos en el seno de sociedades avanzadas, cultas y con sólidas economías basadas en conocimiento, pero cuyo grado de digitalización y automatización dificulte la distribución de la riqueza mediante mecanismos salariales, como en la vieja economía industrial. En ese entorno, la RBU propugna distribuir parte de la riqueza nacional de una economía, como si de una cooperativa se tratara. Las fuentes de esa riqueza no serían los recursos naturales (como ocurre ya en países como Noruega), sino el talento y la tecnología desarrollada por las naciones. Existen defensores y detractores en todo el espectro político. Para pensadores de izquierdas, la RBU significaría la abolición directa de la pobreza. Para filósofos liberales, un instrumento de libertad personal (nadie es libre si está sometido a la tiranía de la pobreza). Para algunos conservadores, un elemento sustitutivo de sistemas de bienestar social ineficientes y sobrecargados de costes indirectos asociados al control, y de incentivos perversos que crean trampas de pobreza (tengo una renta porque soy pobre, y no salgo de la pobreza porque no quiero perder la renta). Incluso a las ultraconservadoras norteamericanas la defienden como salvaguarda ante una posible revolución global.
Por supuesto, existen también fuertes detractores, que critican su elevado coste (una RBU real es imposible hoy en cualquier economía), la desincentivación del trabajo, o los posibles efectos de inflación o llamada. Y, algunos, argumentan también una razón moral: ¿es moralmente justo distribuir una renta entre individuos que opten entonces por renunciar al trabajo? Aunque, el contraargumento es sencillo: ¿es moralmente justo condenar a la pobreza a quien necesite trabajar y no encuentre trabajo? Sistemas distópicos
¿Amenaza la IA la democracia? Quizá, no sólo por la extensión de la desigualdad que generan los sistemas de negocio que lideran la economía digital, sino también por la posibilidad de estructurar sistemas tecnocráticos o autocráticos, o por la posibilidad de manipular la opinión pública a través de sistemas de datos. Es conocido el escándalo de Cambridge Analytics, según el cual datos recogidos de Facebook permitían deducir la sensibilidad política del individuo, e inyectar material político en las redes para decantar sus votos. Las propias redes sociales son campos de extremos: en un mundo de abundancia de información, tendemos a seleccionar aquélla que nos es ideológicamente próxima. Visitamos foros y opiniones que nos gustan, reforzando nuestros planteamientos ideológicos. Twitter es terreno abonado para extremistas, y campo de formación y entreno de radicales e intolerantes.
La emergencia de China (una suerte de autocracia automatizada) es un ejemplo que está cambiando el orden mundial. China ha realizado una apuesta estratégica por la IA, y posee ventajas competitivas indudables: la posibilidad de planificar en el largo plazo, la disposición de inversiones masivas, y la gestión de flujos de datos insuperables, provenientes de sus ciudadanos. Hoy China está desplegando sistemas de control big data basados en reconocimiento facial, posicionamiento, y algoritmos de IA para crear ránkings sociales. Cada ciudadano tiene una puntuación dinámica, generada a través de datos de su comportamiento y hábitos: resultados académicos, evaluaciones profesionales, informes médicos, comentarios en las redes sociales, tipos de productos que adquiere... Y su puntuación le da acceso automático (o deniega) servicios sociales, autorizaciones administrativas, o matrículas académicas. El mundo de la abundancia tecnológica puede ser distópico en lugar de utópico.
Las distopias bajan al nivel de las propuestas de valor empresariales cuando entra en juego la IA. Nos venderán dispositivos cada vez más humanizados. Hoy existen startups que ofrecen realizar un clon digital de nosotros mismos. Aprender de nosotros, leer nuestros mails, registrar nuestra memoria, mimetizar nuestro temperamento, almacenar nuestros documentos gráficos, conformar nuestra cara en un avatar digital, imitar nuestra voz e interactuar con terceros con inteligencia emocional como si fuéramos nosotros mismos. De tal manera que, cuando muramos, nuestros hijos puedan hablar con nuestro avatar digital, un resto informacional inteligente de nosotros. ¿Sería eso algo así como un resto mortal de una persona? ¿Qué tratamiento legal debería tener, si es que debemos darle tratamiento legal?
Superación de las personas por las máquinas
El cerebro humano es un computador biológico formado por unos 100.000 millones de neuronas, cada una con unas mil conexiones sinápticas a otras neuronas. Si se sigue cumpliendo la famosa Ley de Moore (según la cual cada año y medio aproximadamente se dobla la capacidad de integración de dispositivos electrónicos en un sistema integrado), hacia 2040 existirán chips con la densidad de conexión de un cerebro humano. Intel o Microsoft ya se han lanzado al desarrollo de arquitecturas de silicio que imiten el cerebro humano. De hecho, los sistemas de IA se basan en hardware inspirado en el funcionamiento del cerebro (las famosas redes neuronales). Estas aproximaciones han hecho posible el desarrollo de sistemas electrónicos con capacidades cognitivas (de interpretación de la voz, de texto o de imágenes). Sabemos generar IA a imagen de la inteligencia humana. Pero no sabemos si esa inteligencia derivará en consciencia artificial. ¿Llegará una máquina a darse cuenta de que existe? La ciencia, hoy, no tiene claro cómo y dónde emerge la consciencia. En un momento dado, un cúmulo de neuronas genera un patrón superior y se da cuenta de que existe. Y es un misterio cómo se produce ese fenómeno. Parece que la cantidad de neuronas conectadas, y las interacciones que generan hace aparecer un patrón superior, como los pixels de una fotografía hacen emerger un paisaje. Y, si las máquinas generan consciencia, posiblemente entonces generen también sentimientos. ¿Puede un algoritmo tener ego, envidia, amar u odiar? ¿Somos algoritmos biológicos? ¿Es el cerebro sólo una máquina? Porque si es así, algún día las máquinas serán como nuestros cerebros, y deberían generar algún tipo de consciencia. Pero quizá no seamos sólo máquinas. Quizá existe algo más, algo intangible, etéreo y quizá inmortal llamado alma. Si los humanos somos más que simples máquinas, si existe un alma, entonces una máquina jamás será como nosotros. El progreso de la tecnología y la ley de Moore están en los albores de determinar finalmente quiénes somos.
Los grandes desafíos que genera la IA van mucho más allá de la investigación científica, la innovación tecnológica y sus aplicaciones prácticas en la economía. Como hemos visto, se plantean profundísimos dilemas éticos que deberán revestirse de un marco regulatorio sensato y eficiente. Conscientes de ello, las grandes marcas líderes en el ámbito (inicialmente IBM, Amazon, Apple, Google, Facebook y Microsoft, y ahora muchas más) crearon en 2016 un consorcio de investigación y debate sobre las implicaciones éticas de la IA (partnershiponai.org). Probablemente veamos emerger sistemas de certificación y calidad ética de nuestros sistemas de información. Los años que se presentan son tan apasionantes como inquietantes. Esperemos que sepamos articular los foros de reflexión, los mecanismos y los liderazgos que permitan que el futuro ofrezca tantas posibilidades como la revolución tecnológica realmente posibilita, un futuro digno y justo para todos por primera vez en la historia de la humanidad.
Nassim Nicholas Taleb es un pensador que hemos traido en varias ocasiones a este blog y nuestros programas. El riesgo es su terreno natural y cómo lidiamos con él su preocupación. Dos premisas clave que suele tratar para referirse a los riesgos son la ética y lo sistémico y a ellas recurre para escribir un breve paper salido los últimos días. En tiempos de pandemias, qué decisiones son éticas para uno y para los demás, qué es racional y qué es irracional, conviene sobre-reaccionar o tomar decisiones bien sopesadas una vez que se muestre más información.
La traducción a continuación viene a destacar el valor de la ética de la precaución y cómo nos protegemos a nosotros y al mundo actuando más allá de nuestros beneficios inmediatos y de lo que hoy sería racional.
La ética de la precaución: riesgo individual y sistémico
Las decisiones precautorias no escalan. La seguridad colectiva puede requerir una evitación excesiva del riesgo individual, incluso si entra en conflicto con los propios intereses y beneficios del individuo. Puede requerir que una persona se preocupe por los riesgos que son relativamente insignificantes.
Asuma el riesgo de una epidemia viral multiplicativa, incluso en sus primeras etapas. El riesgo para un individuo de agarrarse el virus es muy bajo, más bajo que otras dolencias. Por lo tanto, es "irracional" entrar en pánico (reaccionar inmediatamente y como prioridad). Pero si ella o él no entran en pánico y actúan de manera ultraconservadora, contribuirán a la propagación del virus y se convertirán en una fuente severa de daño sistémico.
Por lo tanto, uno debe "entrar en pánico" individualmente (es decir, producir lo que parece una respuesta exagerada) para evitar problemas sistémicos, incluso cuando la recompensa individual inmediata no parezca justificarlo.
Está dañando a otros al no "sobre-reaccionar".
Esto sucede cuando el riesgo sistémico es pequeño para el individuo pero común a todos, mientras que otros riesgos idiosincrásicos de un individuo dominan su propia vida. El riesgo de un accidente automovilístico puede ser mayor para un individual, pero menor para la sociedad.
En tales condiciones, se vuelve egoísta, incluso psicopático, actuar de acuerdo a lo que se llama comportamiento "racional": hacer nuestros propios e inmediatos rankings de conflicto de riesgo con los de la sociedad, incluso genera riesgos para la sociedad. Esto es similar a otras tragedias de los comunes, excepto que hay vida y muerte.
En breve terminará dañándose a usted mismo al ignorar estos riesgos "irracionales".
Además, hay un trade-off de corto vs largo plazo para el riesgo idiosincrásico. A la larga, hay una convergencia entre idiosincrásico y sistémico: su riesgo aumenta si todos los demás están infectados y los riesgos de supervivencia por otras enfermedades caen.
Por ejemplo, durante una pandemia que mayormente perdona a individuos jóvenes y sanos, una emergencia independiente que normalmente sería rutina puede convertirse en intratable debido a la falta de recursos. Incluso más, en condiciones de ruptura social severa, muchos riesgos adicionales surgirán para todos los agentes que no pueden ser reducidos al riesgo inicial de infección a corto plazo para el individuo.
En el brote actual de COVID-19, tales efectos se puede observar por una inundación completa de hospitales y sus UCIs a medida que se producen brotes locales. Este y otros umbrales menos visibles cambian la dinámica de la pandemia a medida que se superan. Inicialmente, los riesgos pequeños se amplifican y producen riesgos nuevos e imprevistos a medida que el contagio produce impactos en todo el sistema.
La precaución escala de forma convexa para pequeños riesgos idiosincrásicos interdependientes que terminan siendo dinámicamente muy grandes a nivel sistémico.
Por estos motivos, el curso prudente y ético de acción para todos los individuos es promulgar la precaución sistémica a escala individual y local. El quiebre de la separación de escala que un contagio multiplicativo induce conecta al individuo con el colectivo, haciendo que todos sean potenciales portadores y fuentes de riesgo.
