El jefe de seguridad de Anthropic se retira para escribir poesía: "El mundo está en peligro"

El pasado lunes, Mrinank Sharma public� en X una carta de despedida dirigida a sus compa�eros de trabajo que acumul� m�s de un mill�n de visualizaciones en pocas horas. Sharma lideraba el equipo de investigaci�n en seguridad de Anthropic, la unidad encargada de que Claude, uno de los chatbots m�s utilizados, no se convierta en un problema para la sociedad. Llevaba dos a�os trabajando en preparar las defensas contra problemas como el bioterrorismo asistido por IA, o las causas de la extrema adulaci�n que suelen emplear los modelos de lenguaje. Doctor en aprendizaje autom�tico por Oxford, hab�a llegado a San Francisco en 2023 convencido de que pod�a contribuir a que la tecnolog�a fuese segura.

Su mensaje de salida fue deliberadamente vago en detalles pero inequ�voco en el tono. “El mundo est� en peligro. Y no solo por la IA o las armas biol�gicas, sino por toda una serie de crisis interconectadas que est�n ocurriendo de forma simult�nea. He visto con frecuencia lo dif�cil que es dejar que nuestros valores gobiernen nuestras acciones. Lo he visto dentro de la propia organizaci�n”.

La carta no acusa a Anthropic de nada concreto pero la insinuaci�n de que hay una brecha entre el discurso p�blico sobre seguridad y la pr�ctica interna resulta especialmente inc�moda para una empresa fundada por ex ejecutivos de OpenAI que abandonaron la compa��a por preocupaciones similares. Su �ltimo proyecto investigaba c�mo los asistentes de IA pueden “distorsionar nuestra humanidad”. Ahora, asegura, volver� la Reino Unido para escribir poes�a y estudiar filosof�a.

INFLEXI�N

El problema de la dimisi�n de Sharma es que no ha sido la �nica sorpresa en el negocio de la IA de las �ltimas semanas y apunta a un cambio de sentimiento en Silicon Valley hacia las herramientas que han contribuido a crear. Apenas unos d�as antes, el 5 de febrero, OpenAI lanzaba GPT-5.3 Codex y Anthropic Claude Opus 4.6. Dos modelos que, seg�n voces relevantes de la industria, suponen un punto de inflexi�n para la sociedad.

Matt Shumer, fundador y consejero delegado de OthersideAI lo describe as� en un largo art�culo publicado tambi�n en X pero del que se ha hecho eco la revista Fortune. “Estamos en la fase de ‘esto parece exagerado’ de algo mucho m�s grande que la pandemia”, explica estableciendo un paralelismo con los inicios de 2020, cuando ya se hablaba de COVID-19 pero el mundo a�n no hab�a reaccionado. “Ya no no soy necesario para el trabajo t�cnico. Describo lo que quiero en ingl�s y simplemente aparece hecho en unas horas. No un borrador que tenga que corregir. El producto terminado”.

Lo cierto es que el impacto de Codex, Opus 4.6 y otras herramientas se ha trasladado a los mercados. El �ndice S&P 500 centrado en software encaden� ocho jornadas consecutivas de p�rdidas y acumula un desplome del 20% en lo que va de a�o. Algunos analistas lo han bautizado como el SaaSpocalypse, el momento en que Wall Street ha empezado a tener en cuenta cu�ntas suscripciones de software empresarial (lo que se conoce como SaaS o “software como servicios”) sobrar�n cuando una IA haga el mismo trabajo que ahora hacen los humanos.

Era un problema que ya estaba causando inquietud entre desarrolladores porque los modelos de lenguaje son especialmente buenos a la hora de crear c�digo. Casi el 4% de las contribuciones de c�digo a los repositorios de GitHub viene ya de Claude Code, para finales de a�o se espera que la cifra ronde el 20%. Una encuesta interna de Anthropic filtrada a principios de mes por The Telegraph reflejaba el �nimo dentro de la propia empresa: “Tengo la sensaci�n de que vengo a trabajar cada d�a para quedarme sin empleo”, confesaba un ingeniero.

HOLLYWOOD TAMBI�N TIEMBLA

Ahora, esa misma sensaci�n se est� trasladado a otros mercados adyacentes, como los servicios legales, el marketing o la consultor�a. Las �ltimas versiones de agentes de IA son capaces de manipular ficheros y hojas de c�lculo, buscar patrones o crear presentaciones y res�menes con la habilidad de un humano.

La sacudida no se limita al software. El mismo fin de semana en que Shumer publicaba su carta, ByteDance (la empresa matriz de TikTok presentaba un avance de Seedance 2.0, un modelo de generaci�n de v�deo que ha hecho saltar las alarmas en la industria audiovisual.

Seedance 2.0 no genera clips sencillos de cuatro segundos. Produce secuencias de varias tomas con coherencia visual entre escenas, movimientos de c�mara cinematogr�ficos y sincronizaci�n nativa de audio y labios. Sus primeros usuarios sit�an su tasa de acierto por encima del 90% frente al 20% habitual en herramientas anteriores. Un v�deo publicitario que antes exig�a un presupuesto de 30.000 d�lares puede generarse ahora por menos de tres y en cuesti�n de minutos, simplemente describiendo las escenas.

Las acciones de empresas chinas de entretenimiento han subido con fuerza tras la presentaci�n. La propia ByteDance tuvo que suspender r�pidamente una funci�n que permit�a subir rostros humanos como referencia porque usuario hab�a generado un clon digital fotorrealista de s� mismo sin proporcionar muestras de voz ni captura de movimiento. La herramienta fue capaz de deducirlo todo a partir de su fotograf�a.

ACELERANDO

Lo que diferencia este momento de alarmas anteriores es la velocidad y, sobre todo, un dato que la propia OpenAI incluy� en la documentaci�n t�cnica de GPT-5.3 Codex. El modelo ha sido “instrumental para su propia creaci�n”. La IA ayud� a depurar su propio entrenamiento, gestionar su despliegue y diagnosticar sus evaluaciones. Dario Amodei, consejero delegado de Anthropic, confirma que la IA escribe ya “gran parte del c�digo” de su empresa y que el bucle de retroalimentaci�n entre la generaci�n actual y la siguiente “gana inercia mes a mes”.

METR, una organizaci�n que mide la duraci�n de tareas que una IA puede completar sin intervenci�n humana, situaba la cifra en diez minutos hace un a�o. Hoy supera las cinco horas. Ese ritmo se duplica cada siete meses. Amodei ha llegado a decir p�blicamente que la IA podr�a eliminar el 50% de los empleos administrativos en un plazo de uno a cinco a�os.

Las empresas no van a desmantelar infraestructuras valoradas en miles de millones de la noche a la ma�ana pero el escepticismo no deber�a ocultar lo que s� est� ocurriendo. Parece que Silicon Valley atraviese, como se suele decir ahora, un vibe shift (es decir, un cambio de vibraciones o actitud). La IA es fascinante, pero ha dejado de verse como algo que ocurre en el vac�o o en un plano te�rico. En apenas diez d�as, los modelos de lenguaje han hundido la valoraci�n del software empresarial, un modelo de v�deo chino ha puesto en alerta a Hollywood, y el responsable de seguridad de una de las empresas de IA m�s poderosas del mundo ha elegido marcharse a estudiar poes�a porque siente que el mundo est� en peligro.