CulturaMilton y la máquina de hacer clips

Milton y la máquina de hacer clips

En un artículo publicado en 1970 por el New York Times, el economista Milton Friedman planteó que había un solo principio por el cual era correcto que las corporaciones guiaran su accionar: obtener ganancias para sus accionistasi. Su ensayo fue una de las piezas fundamentales de un cambio de época en la administración empresarial. Si la única responsabilidad del CEO es aumentar la ganancia de los accionistas (entre los que se incluye él mismo, al recibir parte de su compensación en acciones), el valor de la empresa en la bolsa surge de modo natural como la única métrica a seguir. Las condiciones medioambientales o el bienestar de sus empleados deben ser irrelevantes para los CEOs, en tanto no les permitan subir el precio de sus acciones. Según Friedman, nadie puede ni debería decir lo contrario. 

En una serie de entrevistas advirtiendo sobre los peligros de la inteligencia artificial, el filósofo Nick Bostrom planteó un ejemplo hipotético de qué podría salir malii: una superinteligencia creada con el único objetivo de fabricar clips. La máquina de hacer clips tiene como única métrica de su buen funcionamiento cuántos clips fabrica, y todo el universo no es más que un medio para ese fin. Una IA así no tendría ningún rencor ni sentimiento particular alguno contra la humanidad a la hora de extinguirla, solamente nos vería como otra pila de átomos que podrían ser usados para hacer más clips. El criterio rector para una superinteligencia así es obvio: si lo único relevante para guiar su accionar es aumentar la cantidad de clips fabricados, entonces la existencia o no de la humanidad es irrelevante en tanto no le permita hacer más clips. Esa es su lógica y es consistente consigo misma. Nadie puede decirle lo contrario. 

Skynet es, por ahora, solo ficción. La máquina de hacer clips no pasa de ser un (muy adictivo) juego onlineiii. La inteligencia artificial y automatizada de la que nos tenemos que preocupar es la de las corporaciones. En los últimos cuarenta años, siguiendo el mandato de Friedman y sus secuaces, casi todas las grandes corporaciones se transformaron en sistemas que operan buscando la ganancia bursátil como único objetivo y ven lo que hay a su paso como poco más que materia prima a devorar. No soy, por cierto, ni el primero ni el único en plantear equivalencias entre una corporación y una computadoraiv, en ambos sentidosv. Lo que me interesa señalar aquí es que ambos son entes fundamentalmente amorales, agnósticos, que procesan inputs siguiendo reglas preestablecidas para generar outputs. No juzgan el valor de lo que procesan ni evalúan su validez. Una computadora convierte números en resultados sin juzgar si está sumando cajas de zapatos o calculando el número de prisioneros en un campo de exterminio. Una corporación, en principio, funciona del mismo modo: va a buscar reducir sus costos y aumentar sus ganancias ya sea que esté vendiendo juguetes para niños o misiles para detonar en pedazos a niñosvi

Donde un ser humano puede ver un paisaje hermoso, una corporación no ve más que recursos a explotar. Donde los individuos vemos a amigos, familia, o seres queridos, una corporación no ve más que billeteras que vaciar o piezas de maquinaria descartables, repuestos para ser usados hasta el agotamiento y luego tirados a un costado, si es que no se mueren primerovii. La humanidad se cocina a fuego lento en un caldo de dióxido de carbono, pero eso es irrelevante para las corporaciones. Los polos se derriten y lo único que las corporaciones ven en ello es nuevos lugares para sacar petróleo y subir unos centavos más el precio de sus accionesviii. Cuando suba el nivel del mar y millones de personas se vean obligadas a huir por sus vidas generando la mayor crisis de refugiados en la historia, a las corporaciones lo único que le va a importar de ese sufrimiento y esa miseria es cómo monetizarloix

Y así, el sistema automatizado que amenaza con destruir a la humanidad no está compuesto por legiones de Terminators disparando láseres y pisando calaverasx, sino por un puñado de boomers pelados y panzones viendo de qué color va a ser el yate que compren este año. Ni un futuro distópico como la gente podemos tener. 

El modelo friedmanita de la corporación es un ente amoral, y ahí está el pie para su lado más perverso: la amoralidad de un ente abstracto termina corrompiendo a sus integrantes, por rectos que sean, abstrayéndolos de la responsabilidad moral por las consecuencias de sus acciones. Cuando un ejecutivo ordena despedir sin compensación alguna a miles de empleados no lo hace ni regocijándose ni sintiéndose culpable por todas las familias cuyas vidas está arruinando; lo hace porque el sistema le ordena reduzca los gastos del cuatrimestre en un 0,1%. Ningún ejecutivo se despierta pensando en causar un derrame químico que mate a miles de personas, pero cuando recorta gastos de seguridad y despide obreros capacitados para reemplazarlos por otros más baratos es exactamente eso lo que termina lograndoxi. La conclusión última de esto sería crear una verdadera IA y delegarle a un algoritmo el poder de decidir ciegamente sobre la vida de incontables personas de carne y hueso, pero en la práctica es algo que ya pasa: todo sentido de humanidad dejó de existir en las cadenas de mando corporativas hace décadas.  

Tiene que haber algo mejor. Como mínimo, tiene que haber alguna manera de reprogramar a estos monstruos automatizados para evitar que nos destruyan. Siguiendo con la analogía de la corporación como una inteligencia artificial desbocada, siempre podemos ver que han pensado otros al respecto. El brillante Isaac Asimov propuso en sus obras de ciencia ficción lo que él llamó las Tres Leyes de la Robótica, normas supremas programadas en los robots para proteger de su poder e intelecto superior a la humanidad. Las tres leyes, a saber, son:  

  1. Un robot no puede dañar a un ser humano o permitir por inacción que un ser humano sea dañado. 
  2. Un robot debe obedecer las órdenes que recibe, salvo que las mismas entren en conflicto con la primera ley. 
  3. Un robot debe proteger su propia existencia, salvo que entre en conflicto con las primeras dos leyes. 

¿No sería una manera mucho mejor de manejar a las corporaciones, una manera mucho más… humana? Pueden seguir funcionando, innovando y lucrando, pero tienen prohibido convertirse en lobos al acecho de la humanidad. Pueden tener ganancias, pero no si eso implica sacrificar a incontables personas en el altar de las finanzas a cambio de unos centavos más por acción. Pueden seguir mejorando la condición humana, pero ya no tienen permitido empeorarla. Y, al final del día, si su existencia causa más daño del que previene o resuelve, aceptan que lo mejor para todos va a ser dejarse caer sobre su propia espada. 

Corporaciones que ayuden a hacer un mundo mejor valorando la dignidad de la vida humana y haciendo negocios sin destruir al mundo en beneficio de unos pocos. No es tan descabellado ni ultra-marxista, lo que pido, ¿o sí? 

Subí Drag View