El 5 de agosto Jeff Dean anunció que se iba de Google y la acción bajó 4%. ¿Pero cómo va a bajar una acción por esto, si Jeff Dean no es fundador ni C Level en Google?
Jeff Dean estuvo en Google desde 1999, fue el trabajador número 30 y antes de irse era Chief Scientist. Contribuyó en su infraestructura de búsquedas (su sistema para indexar, los “crawlers” que leían una gruesa cantidad de información de internet muy rápido y su infraestructura de “queries”, entre otras cosas). Es como si hubiera ayudado a convertir todo internet en “Las Páginas Amarillas”, pero una versión que se actualizaba sola y con respuestas a las búsquedas en milisegundos. Y para que funcionara, porque el año 2000 el sistema de crawling e indexar internet de Google estaba roto, junto a su colega Sanjay Ghemawat, tuvo que encontrar la relación entre las búsquedas y la física de los computadores (el hardware).
También ha participado en varias de las cosas más complejas que ha hecho Google técnicamente como Protocol Buffers, MapReduce, Tensorflow, BigTable.
Y un dato rossa: su fama llevó a que empezaran a circular "Jeff Dean Facts" como los de Chuck Norris. Un ejemplo que pueden encontrar en el link es “Jeff Dean una vez mordió a una araña, la araña obtuvo superpoderes y la capacidad de leer C++”. Al final decían que era el Norris de los nerds.
La física y hardware detrás de las búsquedas
Uno de los mejores videos para ver cómo piensa Jeff Dean y que sirve para entender por qué es tan admirado es esta charla en Stanford:
Ahí explica su famosa tabla de latencia que pasó a ser conocida en internet como “Latency Numbers Every Programmer Should Know”. Esta tabla permite entender la relación entre los buscadores y el hardware que mencioné al principio, y que hizo que Google se arreglara el año 2000. En simple, acceder a distintas partes del computador a nivel físico tiene distintas demoras (esta imagen es de la charla original)
La tabla se ha ido actualizando por cómo ha cambiado el Hardware, pero la versión que se popularizó tenía los siguientes elementos:
- Acceso a caché L1: ~0,5 ns (nanosegundos)
- Caché L2 (se llama L2 porque es una memoria más grande pero más lenta que L1): ~7 ns
- Main memory reference (RAM): ~100 ns
- Leer aleatoriamente de SSD: ~150.000 ns
- Viaje ida y vuelta dentro de un datacenter: ~500.000 ns
- Buscar algo en un disco duro tradicional: ~10.000.000 ns
- California → Europa → California (comunicación entre servidores en distintos continentes): ~150.000.000 ns
Y si se ven las proporciones, se hace mucho más evidente el tiempo (costo) que se puede reducir:
RAM en comparación a caché L1:
~200× más lenta.
SSD vs RAM:
~1.500× más lento.
Una comunicación intercontinental vs RAM:
~1.500.000× más lenta.
Al final, la tabla permite entender mucho mejor la relevancia de los índices y los caches, por dar dos ejemplos.
La idea que muestra el video es que antes de que una persona busque en Google, tienen que estar construidos y estructurados estos caminos más rápidos para que la máquina no se ponga a recorrer los lugares que demoran más tiempo y la pueden echar a perder, como cuando buscas tus llaves dándote mil vueltas y terminas mirando espacios absurdos como el refrigerador porque “perdiste el juicio”. Sería genial que de antemano tu memoria fuera exacta para trazar el camino más eficiente y así no tendrías que abrir el refrigerador y terminar comiendo algo. Esta fantasía para personas dispersas o distraídas creativas, de encontrar rápido lo que buscas, durante años solo había existido en el mundo paralelo de Google. En cambio si el famoso buscador hubiera tenido que viajar al disco duro o los servidores de los países por cada búsqueda, la frase de Radio Head “for a minute there I lost myself” también le habría aplicado.
¿Y por qué Jeff Dean le hizo eso a se fue de Google?
Para fundar Discovery Loop, corporación de beneficio público (Public Benefit Corporation) que busca usar IA para meterle turbo a la investigación científica. Tiene sentido, hace tiempo en entrevistas hablaba de que lo que se viene para la IA es hacer experimentos autónomos con loops.
Y no se va solo, se lleva a su colega y amigo con el que llegó a Google el mismo año, y con quien ha escrito código durante décadas, Sanjay Ghemawat, y también sumó a Oriol Vinyals, investigador técnico de Gemini y a Quoc V. Le también de DeepMind. La partida de ese grupo fue una de las principales hipótesis para explicar por qué bajó la acción.
¿Hay confianza en la nueva empresa?
Quise saber qué se piensa desde la vereda científica sobre Discovery Loop, así que le pregunté a Gonzalo Mena, PhD en estadística, su opinión. Me advirtió que su respuesta viene sin saber con exactitud qué van a realmente armar en esta empresa: “en principio es algo muy prometedor. Es un área donde hay harto interés. Desde mi perspectiva en áreas como la biología por ejemplo, el consenso parece ser que la IA por sí misma tiene un techo: hay pocos datos y descubrir estructuras complejas de biología y causalidad ocupando los pocos datos que hay es muy difícil.
“Como los datos son escasos, lo más razonable sería usar la IA para crear loops que puedan recolectar datos y potenciar la IA metiéndola en el loop de experimentación científica”. Por ahora Discovery Loop va a partir su investigación solo en computadores, en el área de Machine Learning, siendo ellos mismos su primer cliente.
Si tienes una opinión que complemente la de Gonzalo Mena sobre Discovery Loop o eres fan de Jeff Dean y quieres complementar algo de este post, escríbenos a cartas@fintual.com
