Sam Altman, tras ser arrojado una botella incendiaria en su casa, publicó: Amo a mi familia y también creo que la IA pertenece a todos.

Autor: Sam Altman

Traducido por: Deep潮 TechFlow

Deep潮 introducción: Alguien arrojó un cóctel molotov en la casa de Sam Altman a las 3:45 de la madrugada. Rara vez hizo pública una foto familiar, esperando que esto pueda detener a la próxima persona. Este artículo no solo denuncia el ataque, sino que también explica por primera vez su creencia completa sobre la IA: la IA debe ser democratizada, los pocos laboratorios no deberían decidir el futuro de la humanidad, y la tentación de “no poder volver atrás” al ver la AGI llena este campo de conflictos dramáticos a lo Shakespeare.

Esta es una foto de mi familia. Los amo más que a nada.

Espero que la imagen tenga poder. Normalmente mantenemos bastante privacidad, pero en esta ocasión comparto una foto con la esperanza de que pueda disuadir a la próxima persona de arrojar un cóctel molotov a nuestra casa, sin importar cómo me vean.

La primera persona lo hizo anoche, a las 3:45 de la madrugada. Afortunadamente rebotó en la casa y nadie resultó herido.

Las palabras también tienen poder. Hace unos días, salió un artículo incendiario sobre mí. Ayer alguien me dijo que pensaba que ese artículo apareció en un momento de gran ansiedad por la IA, lo que hacía que mi situación fuera aún más peligrosa. En ese momento no le presté atención.

Ahora, despierto en medio de la noche, muy enojado, y pensando que subestimé el poder de las palabras y la narrativa. Parece un buen momento para hablar de algunas cosas.

Primero, mis creencias.

Luchar por la prosperidad de todos, empoderar a todos, impulsar la ciencia y la tecnología, son obligaciones morales para mí.

La IA será la herramienta más poderosa para ampliar las capacidades y el potencial humanos. La demanda de esta herramienta prácticamente no tiene límites, y la gente la usará para hacer cosas increíbles. El mundo debería tener una gran cantidad de IA, y debemos averiguar cómo lograrlo.

No todo será fácil. El miedo y la ansiedad hacia la IA son razonables; estamos siendo testigos de uno de los cambios sociales más grandes en mucho tiempo, quizás en la historia. Debemos garantizar la seguridad, y esto no solo implica alinear un modelo — necesitamos una respuesta de toda la sociedad para enfrentar nuevas amenazas. Esto incluye nuevas políticas para atravesar periodos económicos difíciles y llegar a un futuro mejor.

La IA debe ser democratizada; el poder no puede estar demasiado concentrado. El control del futuro pertenece a todos y a sus instituciones. La IA necesita empoderar a las personas, y debemos decidir colectivamente nuestro futuro y las nuevas reglas. No creo que sea correcto que unos pocos laboratorios de IA tomen las decisiones más importantes sobre nuestra forma futura.

La adaptabilidad es crucial. Todos estamos aprendiendo cosas nuevas muy rápidamente; algunas de nuestras creencias serán correctas, otras incorrectas, y a veces necesitamos cambiar de opinión rápidamente a medida que la tecnología y la sociedad evolucionan. Nadie comprende aún completamente el impacto de la superinteligencia, pero será enorme.

Segundo, algunas reflexiones personales.

Al revisar mis primeros diez años en OpenAI, puedo señalar muchas cosas de las que estoy orgulloso y una serie de errores.

Estoy pensando en nuestro próximo juicio con Elon, y recordando lo mucho que me aferré a no estar de acuerdo con su deseo de control unilateral sobre OpenAI. Estoy orgulloso de ello, orgulloso del camino estrecho que recorrimos en ese momento, que permitió que OpenAI continuara existiendo, y de todos los logros posteriores.

No me enorgullece haber evitado conflictos, eso me causó mucho dolor a mí y a OpenAI. No me enorgullece cómo manejé los conflictos con la antigua junta directiva, lo que generó gran confusión en la empresa. En la trayectoria loca de OpenAI, cometí muchos otros errores; soy una persona imperfecta, en medio de una situación excepcionalmente compleja, intentando mejorar cada año, siempre trabajando por la misión. Desde el principio supimos cuán grande era el riesgo de la IA, y que las diferencias personales entre personas bienintencionadas serían amplificadas enormemente. Pero experimentar esas intensas disputas en carne propia y tener que arbitrar con frecuencia es otra cosa, y tiene un costo serio. Lamento haber herido a quienes herí, y espero aprender más rápido.

También sé muy bien que OpenAI ahora es una plataforma principal, no una startup pequeña, y que debemos operar de manera más predecible. Los últimos años han sido extremadamente tensos, caóticos y de alta presión.

Pero lo que más me enorgullece es que estamos logrando nuestra misión, algo que parecía casi imposible al principio. Superando todos los obstáculos, descubrimos cómo construir IA muy poderosa, cómo acumular suficiente capital para construir la infraestructura para entregarla, cómo crear productos y negocios, cómo ofrecer servicios de gran escala que sean relativamente seguros y robustos, y mucho más. Muchas empresas dicen que quieren cambiar el mundo; nosotros realmente lo hemos logrado.

Tercero, algunas ideas sobre esta industria.

Lo que he aprendido en los últimos años, y mi visión de por qué hay tanta tragedia a lo Shakespeare entre las empresas de nuestro campo, se reduce a esto: “Una vez que ves la AGI, no puedes dejar de verla.” Tiene una dinámica de “el anillo de poder” que lleva a la gente a hacer cosas locas. No digo que la AGI en sí sea el anillo, sino la filosofía totalitaria de “convertirse en quien controla la AGI.”

La única solución que puedo imaginar es avanzar hacia una amplia distribución de la tecnología, sin que nadie tenga el anillo. Dos formas evidentes de lograr esto son empoderar a las personas y garantizar que los sistemas democráticos mantengan el control.

Es importante que los procesos democráticos sean más fuertes que las empresas. Las leyes y regulaciones cambiarán, pero debemos trabajar dentro de los procesos democráticos, aunque sean caóticos y más lentos de lo que quisiéramos. Queremos ser una voz y un interés, pero no tener todo el poder.

Muchas críticas a nuestra industria provienen de una preocupación genuina por los riesgos extremadamente altos de esta tecnología. Es muy razonable, y damos la bienvenida a críticas y debates bien intencionados. Entiendo la resistencia contra la tecnología, y claramente la tecnología no siempre es buena para todos. Pero en general, creo que el progreso tecnológico puede hacer que el futuro sea increíblemente mejor, para tus seres queridos y los míos.

Al participar en ese debate, deberíamos reducir el tono y las estrategias, y tratar de tener menos explosiones en menos hogares, ya sea en sentido figurado o literal.