Como era de esperar, he sido autor de varias versiones de este artículo, tanto en mi cabeza como en la página, a medida que se desarrollaba el fin de semana más extraordinario de mi carrera . Para resumir brevemente:
Fuente: stratechery
- El viernes, el entonces director ejecutivo Sam Altman fue despedido de OpenAI por la junta que gobierna la organización sin fines de lucro; El entonces presidente Greg Brockman fue destituido de la junta y posteriormente renunció.
- Durante el fin de semana surgieron rumores de que Altman estaba negociando su regreso, solo para que OpenAI contratara al ex director ejecutivo de Twitch, Emmett Shear, como director ejecutivo.
- Finalmente, el domingo por la noche, Satya Nadella anunció a través de un tweet que Altman y Brockman, “junto con sus colegas”, se unirían a Microsoft.
Este es, obviamente, un resultado fenomenal para Microsoft. La empresa ya tiene una licencia perpetua para todas las IP de OpenAI ( excepto inteligencia artificial general ), incluido el código fuente y los pesos de los modelos; la pregunta era si tendría el talento para explotar esa propiedad intelectual si OpenAI sufriera el tipo de pérdida de talento que se amenazó con la eliminación de Altman y Brockman. De hecho lo harán, ya que parece probable que una buena parte de ese talento fluya hacia Microsoft; se puede argumentar que Microsoft acaba de adquirir OpenAI por 0 dólares y sin riesgo de una demanda antimonopolio.
La ganancia de Microsoft, mientras tanto, es la pérdida de OpenAI, que depende de la empresa con sede en Redmond tanto en dinero como en computación: el trabajo que sus empleados harán en IA será de Microsoft en virtud de esa licencia perpetua, o de Microsoft directamente porque dichos empleados se unieron. El equipo de Altman. La carta de triunfo de OpenAI es ChatGPT, que está en camino de lograr el santo grial de la tecnología: una plataforma de consumo a escala, pero si hay que creer en los informes de este fin de semana, es posible que la junta directiva de OpenAI ya haya tenido dudas sobre los incentivos de ChapGPT. a la empresa (más sobre esto a continuación).
Sin embargo, la mayor pérdida de todas es necesaria: el mito de que cualquier cosa que no sea una corporación con fines de lucro es la forma correcta de organizar una empresa.
El modelo sin fines de lucro de OpenAI
OpenAI se fundó en 2015 como una “empresa de investigación de inteligencia sin fines de lucro”. De la publicación inicial del blog :
OpenAI es una empresa de investigación de inteligencia artificial sin fines de lucro. Nuestro objetivo es avanzar en la inteligencia digital de la manera que sea más probable que beneficie a la humanidad en su conjunto, sin las limitaciones de la necesidad de generar retorno financiero. Dado que nuestra investigación está libre de obligaciones financieras, podemos centrarnos mejor en un impacto humano positivo. Creemos que la IA debería ser una extensión de la voluntad humana individual y, en aras de la libertad, debería estar distribuida lo más amplia y uniformemente posible. El resultado de esta empresa es incierto y el trabajo difícil, pero creemos que el objetivo y la estructura son correctos. Esperamos que esto sea lo más importante para los mejores en el campo.
Fui bastante cínico acerca de las motivaciones de los fundadores de OpenAI, al menos Altman y Elon Musk; Escribí en una actualización diaria :
Elon Musk y Sam Altman, que dirigen organizaciones (Tesla y YCombinator, respectivamente) que se parecen mucho a los dos ejemplos que acabo de describir de empresas amenazadas por la ventaja de los datos de Google y Facebook, han hecho exactamente eso con OpenAI, con el incentivo adicional de hacer todo esto es una organización sin fines de lucro; Digo “incentivo” porque es casi seguro que ser una organización sin fines de lucro tiene mucho menos que ver con ser altruista y mucho más con la línea que destaqué al principio: “Esperamos que esto sea lo más importante para los mejores en el campo”. En otras palabras, es posible que OpenAI no tenga los mejores datos, pero al menos tiene una estructura de misión que puede ayudar a los investigadores idealistas a dormir mejor por la noche. Que OpenAI pueda ayudar a equilibrar el campo de juego para Tesla y YCombinator es, supongo que debemos creer, una feliz coincidencia.
Cualesquiera que sean las motivaciones de Altman y Musk, la decisión de hacer de OpenAI una organización sin fines de lucro no fue solo una charla: la compañía es una 501(c)3; Puede ver sus presentaciones anuales del IRS aquí . La primera pregunta del Formulario 990 le pide a la organización que “describa brevemente la misión de la organización o las actividades más importantes”; la primera presentación en 2016 decía:
El objetivo de OpenAI es hacer avanzar la inteligencia digital de la manera que sea más probable que beneficie a la humanidad en su conjunto, sin las limitaciones de la necesidad de generar retorno financiero. Creemos que la tecnología de inteligencia artificial ayudará a dar forma al siglo XXI y queremos ayudar al mundo a construir tecnología de IA segura y garantizar que los beneficios de la IA se distribuyan de la manera más amplia y uniforme posible. Estamos tratando de construir IA como parte de una comunidad más grande y queremos compartir abiertamente nuestros planes y capacidades a lo largo del camino.
Dos años después, el compromiso de “compartir abiertamente nuestros planes y capacidades a lo largo del camino” desapareció; tres años después de eso, el objetivo de “promover la inteligencia digital” fue reemplazado por “construir inteligencia artificial de propósito general”.
En 2018, Musk, según un informe de Semafor de principios de este año , intentó hacerse cargo de la empresa, pero fue rechazado; dejó la junta y, lo que es más importante, dejó de pagar por las operaciones de OpenAI. Eso llevó al segundo trasfondo crítico: ante la necesidad de pagar por cantidades masivas de potencia informática, Altman, ahora firmemente a cargo de OpenAI, creó OpenAI Global, LLC, una empresa de ganancias limitadas con Microsoft como propietario minoritario. Esta imagen de la estructura actual de OpenAI es de su sitio web :
OpenAI Global pudo recaudar dinero y, lo que es fundamental para sus inversores, lograrlo, pero aún así operaba bajo los auspicios de la organización sin fines de lucro y su misión; El acuerdo operativo de OpenAI Global establece:
La Compañía existe para promover la misión de OpenAI, Inc. de garantizar que se desarrolle una inteligencia artificial general segura y beneficie a toda la humanidad. El deber de la Compañía con esta misión y los principios avanzados en los estatutos de OpenAI, Inc. tienen prioridad sobre cualquier obligación de generar ganancias. Es posible que la Compañía nunca obtenga ganancias y no tiene la obligación de hacerlo. La Compañía es libre de reinvertir parte o la totalidad del flujo de efectivo de la Compañía en actividades de investigación y desarrollo y/o gastos relacionados sin ninguna obligación para con los Miembros.
Microsoft, a pesar de esta limitación de OpenAI Global, no solo fue un inversor, sino también un cliente, incorporando OpenAI en todos sus productos.
Tribus ChatGPT
El tercer trasfondo fundamental es el más conocido y lo que ha impulsado esas ambiciones a nuevas alturas: ChatGPT se lanzó a finales de noviembre de 2022 y ha conquistado al mundo. Hoy ChatGPT tiene más de 100 millones de usuarios semanales y más de mil millones de dólares en ingresos; También ha alterado fundamentalmente la conversación sobre IA para casi todas las empresas y gobiernos importantes.
Sin embargo, lo más convincente para mí fue la posibilidad que mencioné anteriormente, en la que ChatGPT se convierte en la base de una nueva importante empresa de tecnología de consumo, el tipo de empresa más valiosa y más difícil de construir. Escribí a principios de este año en The Accidental Consumer Tech Company :
Cuando se trata de empresas importantes de tecnología de consumo, el producto es en realidad el más importante. La clave para los productos de consumo es la adquisición eficiente de clientes, lo que significa efectos de boca en boca y/o de red; ChatGPT realmente no tiene lo último (sí, recibe retroalimentación), pero tiene una cantidad astronómica de lo primero. De hecho, el producto al que más me recuerda la aparición de ChatGPT es Google: simplemente era mejor que cualquier otra cosa en el mercado, lo que significaba que no importaba que viniera de un par de estudiantes universitarios (¡las historias de origen no son diferentes!) . Además, al igual que Google (y en contraposición a la obsesión de Zuckerberg con el hardware), ChatGPT es tan bueno que la gente encuentra una manera de usarlo. ¡Ni siquiera hay una aplicación! Y, sin embargo, ahora, apenas cuatro meses después, existe una plataforma.
La plataforma a la que me refería eran los complementos de ChatGPT ; es un concepto convincente con una interfaz de usuario que no funcionó del todo, y solo ocho meses después, en el primer día del desarrollador de OpenAI , la compañía anunció los GPT, su segunda versión de ser una plataforma. Mientras tanto, Altman supuestamente estaba explorando nuevas empresas fuera del ámbito de OpenAI para construir chips y hardware, aparentemente sin el conocimiento de la junta. Alguna combinación de estos factores, o tal vez algo más que aún no se ha informado, fue la gota que colmó el vaso para la junta que, encabezada por el científico jefe Ilya Sutskever, depuso a Altman durante el fin de semana. El Atlántico informó :
El despido de Altman por parte de la junta directiva de OpenAI el viernes fue la culminación de una lucha de poder entre los dos extremos ideológicos de la compañía: un grupo nacido del optimismo tecno de Silicon Valley, energizado por la rápida comercialización; el otro, sumergido en el temor de que la IA represente un riesgo existencial para la humanidad y deba controlarse con extrema precaución. Durante años, las dos partes lograron coexistir, con algunos obstáculos en el camino.
Este frágil equilibrio se rompió hace un año casi exactamente, según empleados actuales y anteriores, gracias al lanzamiento de lo que llevó a OpenAI a la prominencia mundial: ChatGPT. Desde fuera, ChatGPT parecía uno de los lanzamientos de productos más exitosos de todos los tiempos. Creció más rápido que cualquier otra aplicación de consumo en la historia y pareció redefinir por sí sola cómo millones de personas entendían la amenaza (y la promesa) de la automatización. Pero envió a OpenAI en direcciones opuestas, ampliando y empeorando las divisiones ideológicas ya presentes. ChatGPT impulsó la carrera para crear productos con fines de lucro, ya que simultáneamente ejerció una presión sin precedentes sobre la infraestructura de la empresa y sobre los empleados centrados en evaluar y mitigar los riesgos de la tecnología. Esto tensó la ya tensa relación entre las facciones de OpenAI, a las que Altman se refirió, en un correo electrónico al personal de 2019, como “tribus”.
La tribu de Altman, la que estaba convirtiendo a OpenAI en una empresa de tecnología mucho más tradicional, es sin duda la que resulta más familiar para la gente del sector tecnológico, incluyéndome a mí. Incluso tenía un párrafo en mi artículo sobre la conferencia magistral del día del desarrollador que comentaba sobre la transición de OpenAI, que lamentablemente eliminé. Esto es lo que escribí:
Fue por esta época cuando comencé, una vez más, a lamentarnos de la extraña estructura corporativa de OpenAI . Como observador de Silicon Valley desde hace mucho tiempo, es agradable ver a OpenAI seguir el camino tradicional de las startups: la empresa se encuentra claramente en la etapa de rápida expansión en la que los gerentes de producto de repente se consideran útiles, ya que ocupan ese punto óptimo de encontrar y entregar frutos maduros. para una entidad que aún no tiene el tiempo ni el foso para tolerar la construcción del reino y el avance de las funciones.
Lo que me hace reflexionar es que el objetivo no es una IPO, retirarse a un yate y donar dinero a causas que hacen un mejor trabajo aliviando la culpa de ser fabulosamente rico que hacer del mundo un lugar mejor. Hay algo en ganar dinero y responder ante los accionistas que mantiene bajo control los impulsos más mesiánicos; Cuando escucho que Altman no posee ninguna participación en OpenAI, eso me pone más nervioso que aliviado. O tal vez simplemente soy parcial porque no tendré S-1 o 10-K para analizar.
Obviamente me arrepiento de la edición, pero, de nuevo, no me di cuenta de cuán profético resultaría ser mi nerviosismo subyacente sobre la estructura de OpenAI, en gran parte porque claramente no estaba lo suficientemente preocupado.
Microsoft contra la junta directiva
Gran parte de la discusión en Twitter sobre tecnología durante el fin de semana ha sido sobre la sorpresa de que una junta incineraría tanto valor. En primer lugar, Altman es uno de los ejecutivos más conectados del Valle y un prolífico recaudador de fondos y negociador; El segundo es el hecho de que varios empleados de OpenAI ya renunciaron y se espera que sigan más en los próximos días. Es posible que OpenAI haya tenido dos tribus anteriormente; Es razonable suponer que en el futuro solo tendrá uno, liderado por un nuevo CEO en Shear que sitúa la probabilidad de que la IA desaparezca entre el 5 y el 50 por ciento y ha abogado por una desaceleración significativa en el desarrollo .
Sin embargo, esta es la realidad del asunto: esté o no de acuerdo con la tribu Sutskever/Shear, el estatuto y la responsabilidad de la junta no es ganar dinero. Esta no es una corporación con fines de lucro con un deber fiduciario para con sus accionistas; de hecho, como expliqué anteriormente, los estatutos de OpenAI establecen específicamente que “no está limitado por la necesidad de generar retorno financiero”. Desde esa perspectiva, la junta de hecho está haciendo su trabajo, por contraintuitivo que parezca: en la medida en que la junta crea que Altman y su tribu no estaban “construyendo inteligencia artificial de propósito general que beneficie a la humanidad”, está facultada para despidelo; lo hacen, y así lo hicieron.
Esto llega a la ironía de mi preocupación por el estatus de organización sin fines de lucro de la empresa: me preocupaba que Altman no estuviera limitado por la necesidad de ganar dinero o el peligro de tener a alguien a cargo sin un interés financiero en el resultado, cuando en realidad era esos mismos factores que le costaron su trabajo. En términos más generales, mi crítica no fue lo suficientemente amplia porque las preocupaciones filosóficas sobre el poder ilimitado palidecen (al menos en el caso del análisis de negocios, la competencia central de Stratechery) frente a hasta qué punto esta estructura convertía a OpenAI en una entidad fundamentalmente inestable con la que hacer tratos. Esto se refiere, por supuesto, a Microsoft, y como alguien que ha sido un defensor del liderazgo de Satya Nadella, debo admitir que mi análisis de la asociación de la compañía con OpenAI fue deficiente.
Microsoft, para su tremendo beneficio a corto plazo, había apostado una parte sustancial de su futuro a su asociación con OpenAI. Esto va más allá del dinero, del que Microsoft tiene mucho y gran parte del cual aún no ha pagado (o concedido en términos de créditos de Azure); La tecnología de OpenAI está integrada en una gran cantidad de productos de Microsoft, desde Windows hasta Office y aquellos de los que la mayoría de la gente nunca ha oído hablar (¡los veo, nerds de Dynamics CRM!). Microsoft también está invirtiendo masivamente en infraestructura hecha a medida para OpenAI (Nadella ha estado promocionando las ventajas financieras de la especialización ) y acaba de lanzar un chip personalizado que fue ajustado para ejecutar modelos OpenAI . Ahora parece absurdo que este nivel de compromiso se haya hecho con una entidad que no está motivada por las ganancias y, por lo tanto, no está en deuda con el estatus de Microsoft como inversionista y generador de ingresos.
La contradicción al argumento que acabo de exponer sobre la mala decisión de Microsoft de asociarse con una organización sin fines de lucro es la realidad del desarrollo de la IA, específicamente la necesidad de cantidades masivas de computación. Fue la necesidad de este cómputo lo que llevó a OpenAI, que se había prohibido realizar un acuerdo tradicional de capital de riesgo, a entregar su propiedad intelectual a Microsoft a cambio de créditos de Azure. En otras palabras, si bien la junta directiva pudo haber tenido los estatutos de una organización sin fines de lucro y una voluntad admirable de actuar y apegarse a sus convicciones, en última instancia no tenían influencia porque no eran una empresa con fines de lucro con el capital para ser verdaderamente independiente.
El resultado final es que una entidad comprometida por estatuto con el desarrollo seguro de la IA básicamente ha transferido todo su trabajo y, probablemente muy pronto, una parte considerable de su talento, a una de las entidades con fines de lucro más grandes del mundo. O, en un marco relevante para la IA, la estructura de OpenAI finalmente no estaba alineada con el cumplimiento de su misión declarada. Intentar organizar incentivos por decreto simplemente no tiene en cuenta todos los escenarios posibles y las variables en juego en una situación dinámica; Cosechar el interés propio ha sido, por una buena razón, durante mucho tiempo la mejor manera de alinear a individuos y empresas.
Preguntas de Altman
Hay otro ángulo de las acciones de la junta que debería reconocerse: muy bien podría haber sido por una causa. Apoyo la reflexiva columna de Eric Newcomer en su Substack del mismo nombre :
En su declaración , la junta dijo que había concluido que Altman “no fue consistentemente sincero en sus comunicaciones con la junta”. No debemos permitir que los mensajes públicos deficientes nos cieguen ante el hecho de que Altman ha perdido la confianza en la junta que se suponía legitimaría la integridad de OpenAI…
Tengo entendido que algunos miembros de la junta realmente sintieron que Altman era deshonesto y poco confiable en sus comunicaciones con ellos, me dicen las fuentes. Algunos miembros de la junta directiva creen que no podían supervisar la empresa porque no podían creer lo que decía Altman. Y, sin embargo, la existencia de una junta sin fines de lucro fue una justificación clave para la supuesta confiabilidad de OpenAI .
No creo que ninguno de nosotros sepa lo suficiente en este momento como para instar a la junta a tomar una decisión apresurada. Quiero que consideres un par de cosas aquí:
Newcomer señala los estatutos de la junta a los que mencioné anteriormente, el hecho de que los fundadores de Anthropic sintieron que era necesario abandonar OpenAI en primer lugar, la antipatía de Musk hacia Altman y la salida aún algo turbia e inexplicable de Altman de YCombinator . El recién llegado concluye:
Estoy seguro de que escribir esta carta de advertencia no me hará popular en muchos rincones de Silicon Valley. Pero creo que deberíamos ir más despacio y obtener más datos. Si OpenAI nos lleva a la inteligencia artificial general o a algún lugar cercano, querremos habernos tomado el tiempo para pensar durante más de un fin de semana en quién queremos que nos lleve allí…
A Altman se le había dado mucho poder, el manto de una organización sin fines de lucro y un perfil público brillante que excede su reputación privada más mixta. Perdió la confianza de su junta. Deberíamos tomarnos eso en serio.
Tal vez me sienta un poco humillado por el error antes mencionado en mi análisis de Microsoft, y mucho menos por mi sorpresa por el cambio de suerte ocurrido a última hora de la noche, pero señalaré que he planteado mi reclamo contra los fatalistas de la IA y el llamado a la regulación; Con ese fin, desconfío de una narrativa que confirme mis antecedentes sobre lo que impulsó los acontecimientos de este fin de semana. Y, debo señalar, sigo preocupado por la cuestión filosófica de los ejecutivos que buscan controlar capacidades increíbles sin intervenir en el juego.
Con ese fin, que un miembro del ecosistema de startups como Altman vaya a trabajar para Microsoft es ciertamente sorprendente: que Microsoft sea el único lugar que retiene el acceso a la propiedad intelectual de OpenAI, y puede combinar eso con financiamiento efectivamente ilimitado y acceso a GPU, ciertamente agrega credibilidad a la narrativa. ese poder sobre la IA es la principal motivación de Altman.
El paisaje alterado
Lo que está claro es que Altman y Microsoft están al mando de la IA. Microsoft tiene la propiedad intelectual y pronto tendrá el equipo para combinar con su efectivo e infraestructura, al tiempo que se deshace de los problemas de coordinación inherentes a su asociación anterior con OpenAI (y, por supuesto, ¡todavía son socios de OpenAI!).
También he argumentado durante un tiempo que tenía más sentido que las empresas externas desarrollaran la API de Azure en lugar de la de OpenAI; Microsoft es una plataforma de desarrollo por naturaleza, mientras que OpenAI es divertido y emocionante, pero probablemente clonará su funcionalidad o desaprobará las API antiguas. Ahora la elección es aún más obvia. Y, desde el lado de Microsoft, esto elimina una razón importante para que los clientes empresariales, ya acostumbrados a evaluar riesgos a largo plazo, eviten Azure debido a la dependencia de OpenAI; Microsoft ahora posee la pila completa.
Mientras tanto, es posible que Google necesite realizar algunos cambios significativos; El último modelo de la compañía, Gemini, se ha retrasado y su negocio de nube se ha desacelerado a medida que el gasto se desplaza hacia la IA, exactamente el resultado opuesto que la compañía esperaba. ¿Durante cuánto tiempo tolerarán los fundadores y accionistas de la empresa la percepción de que la empresa avanza demasiado lento, especialmente en comparación con la agilidad y la voluntad de asumir riesgos demostradas por Microsoft?
Eso deja a Anthropic, que parecía un gran ganador hace 12 horas, y ahora se siente cada vez más débil como entidad independiente. La compañía ha cerrado acuerdos de asociación con Google y Amazon, pero ahora se enfrenta a un competidor en Microsoft con fondos y acceso a GPU efectivamente ilimitados; Es difícil no escapar a la sensación de que tiene sentido ser parte de AWS (y sí, las empresas B se pueden adquirir con mucha más facilidad que una organización sin fines de lucro).
Sin embargo, en última instancia, se podría argumentar que no ha cambiado mucho en absoluto: ha sido evidente durante un tiempo que la IA era, al menos a corto y mediano plazo, una innovación sustentadora, no disruptiva, lo cual es evidente. Dicen que beneficiaría y sería implementado principalmente por las empresas más grandes. Los costos son tan altos que es difícil para cualquier otra persona obtener el dinero, y eso incluso antes de considerar las preguntas sobre el canal y la adquisición de clientes. Si había una empresa preparada para unirse a las filas de las Cinco Grandes era OpenAI, gracias a ChatGPT, pero eso parece menos probable ahora (pero no imposible). Ésta, al final, fue la idea de Nadella: la clave para ganar si eres grande no es inventar como una startup, sino aprovechar tu tamaño para adquirirlos o seguirlos rápidamente; Mucho mejor si puedes hacerlo por el bajo precio de $0.