Dario Amodei dice que no forma parte del movimiento. Sin embargo, el círculo personal y profesional del director ejecutivo de Anthropic está estrechamente vinculado al "altruismo efectivo" (EA, por sus siglas en inglés), una corriente filosófica y filantrópica que busca determinar, mediante la evidencia, la razón y el análisis cuantitativo, dónde pueden tener mayor impacto el dinero y el tiempo destinados a hacer el bien.
El movimiento abarca causas muy distintas, desde la pobreza mundial y el bienestar animal hasta la prevención de catástrofes globales. Es esta última vertiente –y, en particular, la preocupación por los riesgos que una inteligencia artificial muy avanzada podría plantear para la humanidad– la que lo ha colocado en el centro de una creciente disputa política y tecnológica.
Quienes dentro del EA priorizan los riesgos existenciales sostienen que anticiparlos y dedicar recursos a prevenirlos es una extensión lógica de su objetivo de lograr el mayor bien posible. Sus críticos, entre ellos sectores de la administración Trump, consideran en cambio que esas advertencias son excesivamente catastrofistas y pueden frenar el desarrollo de la inteligencia artificial estadounidense frente a China.
Trump ha llegado incluso a calificar de "farsa" las advertencias catastrofistas sobre la IA, mientras cuentas oficiales del Departamento de Defensa difundieron la consigna "Americanismo, no altruismo eficaz".
Estos son algunos datos sobre el altruismo efectivo.
Qué es el altruismo efectivo y de dónde viene
Sus raíces intelectuales se remontan al filósofo australiano Peter Singer. En 1972, Singer argumentó que, si parece moralmente correcto arruinarse la ropa para salvar a un niño que se está ahogando, también debería estarse dispuesto a sacrificar mayores recursos y comodidades para salvar vidas en países lejanos, porque la distancia no debería importar.
La idea caló entre donantes adinerados que sentían la obligación moral de donar, pero querían además que su dinero generara el mayor bien posible.
A partir de esas ideas, el EA tomó forma como un movimiento descentralizado durante los vertiginosos y tecnooptimistas años de finales de la década de 2000 y principios de la de 2010, cuando muchos creían que las redes sociales y los teléfonos inteligentes fomentarían la empatía y la democracia.
En 2007, los profesionales de las finanzas Holden Karnofsky y Elie Hassenfeld dejaron sus empleos para crear GiveWell, una organización que elaboraba análisis basados en datos sobre la eficacia de las organizaciones benéficas. La historia de GiveWell también enlaza directamente con Anthropic. Karnofsky fue compañero de piso de Amodei y actualmente está casado con su hermana Daniela, quien cofundó la empresa junto con él.
Dos años después, los filósofos de la Universidad de Oxford William MacAskill y Toby Ord lanzaron "Giving What We Can", una iniciativa que alentaba a las personas a donar al menos el 10 % de sus ingresos para combatir la pobreza mundial.
Ese enfoque pretendía cambiar también la manera de evaluar la filantropía. "La crítica al statu quo era que los intentos existentes de evaluar el trabajo de las organizaciones benéficas y sin fines de lucro se centraban en cuestiones como los gastos generales y los salarios de los ejecutivos", dijo a la AFP Theodore Lechterman, profesor de filosofía de IE University en Madrid.
GiveWell y otras organizaciones querían plantear una pregunta diferente. "¿Cuánto bien está haciendo realmente esta organización en el mundo?", explicó Lechterman.
Causas del EA y su vínculo con la inteligencia artificial
Según Richard Chappell, profesor de la Universidad de Miami y defensor del altruismo efectivo, las tres grandes causas del EA son la pobreza mundial, los animales criados en granjas industriales y "la más controvertida, el riesgo de una catástrofe global". Entre los problemas que el movimiento ha considerado prioritarios también figura la prevención de pandemias.
Es precisamente esa preocupación por el futuro la que conecta al movimiento con la inteligencia artificial.
Durante los últimos 15 años, el EA ha encontrado numerosos seguidores entusiastas en el sector tecnológico estadounidense y en algunos círculos de Wall Street. "Como el movimiento se basa en datos, resulta relativamente más fácil convencer a personas que... toman decisiones basándose en datos", explicó Lechterman.
Ese enfoque respaldado por cifras puede resultar más atractivo para ingenieros, desarrolladores de software o emprendedores que para graduados en humanidades, añadió.
Donantes millonarios y el caso Bankman-Fried
También atrajo a grandes fortunas. Entre los donantes vinculados al movimiento figuran Dustin Moskovitz, cofundador de Facebook, a través de Open Philanthropy –ahora Coefficient Giving–, y Jaan Tallinn, quien participó en el desarrollo de Skype.
Otro de sus nombres más visibles fue Sam Bankman-Fried, el joven prodigio de las criptomonedas y las finanzas que fue condenado en 2024 a 25 años de prisión por fraude. Defensor público del movimiento, dijo que había entrado en el mundo de las finanzas para hacer una fortuna que luego pudiera donar. La quiebra de su plataforma de criptomonedas FTX y su posterior condena supusieron un duro golpe para la reputación del altruismo efectivo.
Bankman-Fried también fue uno de los primeros inversores de Anthropic.
Largoplacismo, racionalismo y riesgos de la IA
A medida que aumentaban las preocupaciones por la inteligencia artificial, filósofos vinculados al EA como MacAskill comenzaron a "reflexionar de algún modo sobre el futuro de la humanidad", explicó Brian Berkey, de la Universidad de Pensilvania.
En ese contexto, el largoplacismo "llegó a desempeñar un papel muy central" dentro del movimiento. Esta corriente sostiene que los intereses de las generaciones futuras también deben pesar en las decisiones del presente, lo que puede llevar a priorizar la prevención de riesgos a largo plazo frente a problemas actuales.
A esa evolución se sumó la influencia de un movimiento cercano, el racionalismo, una comunidad en línea que se desarrolló en torno al escritor Eliezer Yudkowsky, quien desde la década de 2000 ha advertido que una inteligencia artificial superinteligente podría acabar con la humanidad.
El racionalismo y el EA se superponen ampliamente en integrantes e ideas. En esos círculos es común el énfasis en razonar a partir de pruebas y probabilidades, así como la preocupación por evitar la extinción de la humanidad.
Esas preocupaciones también terminaron conectando al movimiento con algunos de los principales actores de la inteligencia artificial. Según diversas informaciones, MacAskill facilitó los contactos entre Bankman-Fried y Elon Musk.
Durante años, Musk expresó abiertamente su preocupación por la amenaza que, a su juicio, la inteligencia artificial suponía para la humanidad, y en 2015 contribuyó a crear OpenAI con el objetivo de protegerse frente a ese riesgo.
Donantes vinculados al EA también financiaron el nacimiento de Anthropic y respaldaron investigaciones en centros como OpenAI, según EFE.
Más recientemente, esas ideas volvieron al primer plano con Jacob Coxon, un investigador de 27 años que renunció a Anthropic el mes pasado advirtiendo que las empresas de inteligencia artificial estaban "jugando con nuestras vidas". Su publicación fue vista más de 100 millones de veces.
Días después, Amodei publicó un extenso ensayo en el que sostenía que el aumento de los riesgos asociados a la inteligencia artificial justificaba frenar su desarrollo.
La discusión ha trascendido además Silicon Valley. El 23 de septiembre, Amodei y Sam Altman, director ejecutivo de OpenAI, comparecieron ante el Consejo de Seguridad de la ONU en una sesión convocada por Francia, donde sostuvieron que los riesgos de la IA no pueden ser gestionados por un solo Estado o empresa y respaldaron salvaguardias internacionales.
Ese debate ha intensificado a su vez el enfrentamiento político descrito al comienzo. Según Axios, un memorando que circuló en la Casa Blanca buscaba presentar al altruismo efectivo como un colectivo marginal y sectario y lo vinculaba directamente con el catastrofismo sobre la IA. En ese mismo contexto, una fuente cercana a la administración describió a Amodei como exponente de un enfoque "globalista" contrario a la agenda de Trump.
