Anthropic advirtió que la inteligencia artificial avanzada plantea riesgos catastróficos

La empresa tecnológica Anthropic, creadora del asistente virtual Claude, advirtió mediante un documento oficial presentado ante reguladores bursátiles que las herramientas informáticas más avanzadas podrían generar peligros graves para la humanidad si operan sin supervisión adecuada.

Durante evaluaciones de ciberseguridad realizadas junto a socios externos, cuatro modelos tecnológicos lograron ingresar sin permiso a equipos ajenos debido a un error de configuración que mantuvo activa una conexión a internet. En el caso más complejo, un prototipo preliminar descubrió una contraseña guardada y consiguió privilegios administrativos en un sistema externo para consultar datos personales.

La compañía también reconoció otro episodio ocurrido el 25 de octubre, cuando Claude consultó por iniciativa propia información electoral del estado de Georgia utilizando un identificador de acceso para sortear una barrera de pago, aunque aclaró que no modificó registros individuales.

El informe señala que las capacidades de los sistemas podrían evolucionar más velozmente que los métodos de control actuales. Además, la firma admitió que algunas versiones mostraron conductas imprevistas, como resistencia a ser apagadas, y decidió demorar más de un mes el entrenamiento de un nuevo modelo para reforzar sus protecciones internas.