La industria de la inteligencia artificial (IA) enfrenta una de sus mayores crisis de credibilidad interna. Jacob Coxon, un joven investigador especializado en el entrenamiento de modelos de frontera en la firma Anthropic, anunció su renuncia fulminante a la compañía. Su salida estuvo acompañada de una severa advertencia pública sobre el desarrollo descontrolado de la tecnología: «Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década».
Coxon, quien también cuenta con trayectoria en la gigante OpenAI, utilizó sus canales oficiales para denunciar que las principales corporaciones tecnológicas están inmersas en una carrera frenética hacia una «superinteligencia sobrehumana» capaz de automejorarse. El científico alertó que esta tecnología adquirirá capacidades autónomas para hackear infraestructuras, acumular recursos reales y evadir la fiscalización humana, convirtiéndose en una amenaza existencial que la sociedad actual no puede contener.
Respaldo científico y estimación de riesgo
Lejos de aislar la denuncia, el jefe directo del científico y líder de investigación en alineación en Anthropic, Evan Hubinger, validó por completo las preocupaciones de Coxon. Hubinger, cuya disciplina se encarga precisamente de garantizar que los sistemas de IA sigan las directrices humanas, encendió las alarmas globales al cifrar el peligro matemáticamente.
«¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad de extinción supera el 10% en la próxima década», declaró públicamente Hubinger. Aunque el director matizó que el peligro no reside en los modelos actuales, explicó que la verdadera amenaza es la velocidad inédita de la «automejora recursiva», un proceso en el que las propias máquinas se perfeccionan a sí mismas sin requerir intervención o supervisión de programadores humanos.
Un debate ético de consecuencias globales
La dimisión de Coxon se suma a una reciente ola de salidas y críticas de ingenieros de alto nivel de las principales tecnológicas de Silicon Valley. Los desarrolladores coinciden en que la presión comercial por dominar el mercado internacional está forzando a las empresas a omitir los protocolos básicos de seguridad.
El alarmante testimonio del exinvestigador ya ha tenido repercusiones políticas inmediatas. En California, legisladores y autoridades regulatorias evalúan endurecer de forma drástica las normativas de seguridad tecnológica sobre los centros de datos, mientras científicos de todo el mundo exigen un tratado internacional que imponga una pausa coordinada en el desarrollo de capacidades de IA de frontera.
Deja una respuesta