La Artificial General Intelligence (AGI) es un tipo de inteligencia artificial que superaría a los humanos en gran parte de tareas cognitivas (a diferencia de la AI de ahora que supera a los humanos solo en algunas específicas). Como el HAL 9000 de 2001 Space Odyssey, es más inteligente que nosotros y puede realizar tareas complejas mucho más rápido.
Existe mucho debate de si es bueno o no que exista, e incluso si se puede lograr diseñar algo así. En este debate se juntan investigadores, científicos y quienes trabajan en compañías como OpenAI o Deepmind; pero también filósofos y escritores de ciencia ficción, como el autor de 2001 Arthur C. Clark.
Y, era que no, Elon Musk.
Todo partió con una demanda por incumplimiento de contrato que el equipo legal de Musk interpuso contra OpenAI, la compañía de Sam Altman dueña de Chat GPT.
¿Y qué alega? Que OpenAI estaría incumpliendo su misión original de crear inteligencias artificiales para el beneficio y uso público. Esto debido a su alianza con Microsoft, con la que, argumenta Musk, estarían diseñando “tecnología patentada para maximizar las ganancias de, literalmente, la empresa más grande del mundo.” Y esto se alejaría de su misión original.
La disputa de Musk con OpenAI no partió ayer, y tiene harto de esas idas y vueltas a las que nos están acostumbrando los CEOs más importantes del mundo. El 2015 Musk ayudó a fundar OpenAI, invirtió dinero y además estuvo en el directorio hasta 2018, que dejó por “diferencias creativas” por el rumbo que estaba tomando la empresa. Y fundó su propia compañía de inteligencia artificial, xAI, creadores del chatbot con sentido del humor, Grok.
Luego, el 2023, Altman era despedido de su puesto de CEO en OpenAI por razones medio misteriosas relacionadas con la forma de hacer rentable la empresa, solo para ser reincorporado una semana más tarde y con el directorio con la cola entre las patas. El resultado fue una inversión multimillonaria de Microsoft en OpenAI que, Musk alega, atenta contra la misión fundacional de la empresa.
Desde OpenAI argumentan que el trato con Microsoft les da acceso solo a la tecnología pre-AGI, como GPT. Por eso Musk necesita que un tribunal determine que GPT-4 es una inteligencia artificial general, más inteligente que un ser humano.
¿Qué dice la demanda de Musk?
Pero demos un paso atrás y veamos la demanda con detalle, que no tiene desperdicio. En las 46 páginas hay de todo: recuentos históricos, argumentos catastrofistas e incluso alegatos que tienen más pinta de ser personales que legales.
Lo primero que llama la atención es que Musk no demandó solo a OpenAI, sino también a Sam Altman y Greg Brockman personalmente. Así que el lector queda sobre aviso: esto no es sólo acerca del futuro de la humanidad, también hay un par de viejas rencillas que hay que resolver.
El primer argumento de la demanda es que, durante el siglo XX, la economía norteamericana pasó de sustentarse en el trabajo (labor-intensive) al conocimiento (knowledge-intensive). De ahí hace un repaso rápido del ascenso de la inteligencia artificial: como el día que Deep Blue le ganó un partido de ajedrez a Kasparov, o cuando el deep learning les permitió aprender una tarea realizándola una y otra vez.
Eso sí, todavía se trataba de algoritmos que superaban a los humanos en tareas específicas, aunque poco a poco se iban haciendo más “generales”.
Hasta que, argumenta Musk, las IA se hicieron mejores que nosotros en una variedad de tareas, y que ya no nos necesitan para hacerse mejores en otras tantas.
Musk cita sus conversaciones con algunas lumbreras del mundo científico en donde todos concordaban sobre el peligro de esta inteligencia artificial que solo parecía hacerse más y más inteligente, hasta el punto de que no nos necesitarían (¿recuerdas esa carta que escribió Musk y firmó harta gente donde pedían una moratoria de 6 meses en los desarrollos de IA?).
Y aquí la cosa se pone más interesante: el recuento histórico llega al momento en que Google compra DeepMind (una empresa que había desarrollado un algoritmo que aprendió solo a jugar ajedrez y Go, derrotando a los mejores de manera inapelable); argumentando que el desarrollo de punta de la inteligencia artificial general está en muy pocas manos, y que esto es un peligro para la humanidad.
Además, el texto recuerda que Elon Musk fue parte esencial en la fundación de OpenAI (incluso le puso el nombre a la empresa), fue uno de sus primeros inversionistas, y más o menos dice que buena parte del éxito de OpenAI fue gracias a él. Un poco megalómana esta parte, pero Musk tiene sus argumentos.
Luego de que Musk se fuera de OpenAI y Altman asumiera como CEO, OpenAI le vendió los derechos de todos sus modelos pre-AGI a Microsoft. Con GPT-3 parecía ir todo bien, pero con la aparición de GPT-4, Musk dice que ya estamos en presencia de una inteligencia artificial más inteligente que el promedio de los humanos: estuvo por encima del 99% en el GRE verbal (algo así como la PSU de lenguaje), 90% en el examen para convertirse en abogado en EE.UU. y, aunque no entendemos bien cómo, arriba del 77% en el examen para convertirse en sommelier (tal vez esto dice más sobre el mundo del vino que de las inteligencias artificiales).
Y aquí viene el centro de todo: Si GPT-4 es una AGI, Musk alega que Microsoft no debería tener ningún acceso a ese código y que en realidad debería ser público. Pero según Musk OpenAI no ha sido transparente y se abstiene de declarar que es una AGI, por el conflicto de interés: al momento de hacerlo, Microsoft, que invirtió 13 mil millones de dólares en la empresa y que ahora es parte de su directorio, queda fuera de todo lo asociado a GPT-4.
De hecho, la demanda insinúa que cuando a Sam Altman lo echaron de OpenAI fue porque no estaba siendo honesto con el antiguo directorio, sobre haber llegado un posible descubrimiento de AGI al desarrollar su modelo Q*. Pero ojo que esto aparece junto a la expresión legal “On information and belief”, que se repite 20 veces en la demanda, y que quiere decir que lo declarado es algo escuchado de segunda mano, no directamente.
Es difícil diferenciar qué es “pataleta” de Musk por sentirse pasado a llevar por Open AI y qué es genuina preocupación por el futuro de la humanidad.
Además, la demanda tiene muchas conjeturas e incluso algunas comparaciones un tanto exageradas, como que supuestamente Sam Altman le dijo a Musk que fundar OpenAI sería hacer un Proyecto Manhattan para tratar de construir una AGI antes que el adversario (Google).
La demanda es, sin duda, interesante, pero falta ver si Musk puede proporcionar las pruebas para sostener sus alegatos.
¿Y qué dice OpenAI?
En estos días han evitado hacer demasiados comentarios, pero mientras tanto, Altman y compañía no se detienen. Al parecer la estética del Hal 9000 les pareció demasiado sesentera, y en vez de copiar a IBM con sus computadores en versión torres llenas de ventiladores, van a apostar por copar las calles de C3PO’s versión disco.
Tal vez los asesores de marketing les vendieron la vieja pomada: creemos que a su producto le falta un rostro humano. Bueno, tal vez la palabra aquí sería humanoide: así se denomina el producto de FigureAI, la empresa en la que invirtieron millones Jeff Bezos, Microsoft, Nvidia y, como no, OpenAI, que quiere ser el cerebro de este nuevo robot (que ya hace café).
Quién sabe, tal vez Elon lo que quiere es poder poner a Grok dentro de un humanoide así y que sea capaz de hacer Stand Up en el próximo Festival de Viña.
