Empresas de IA defienden controles de seguridad ante el Concejo de Nueva York

Representantes de OpenAI, Anthropic, Meta y Google defendieron sus protocolos de seguridad ante el Concejo Municipal de Nueva York. La presidenta Julie Menin solicitó bajo juramento compromisos inequívocos para no desplegar modelos que fallen evaluaciones independientes.

Morgan Dwyer, de OpenAI, afirmó que no lanzarán modelos inseguros y citó la colaboración con gobiernos. Logan Graham, de Anthropic, destacó cuatro años de trabajo en cuantificación de riesgos, aunque reconoció la complejidad del proceso.

Shane Cahill, de Meta, describió un sistema de seguridad multicapa, evitando cuantificar riesgos para no ser impreciso. Alice Friend, de Google, admitió que predecir riesgos catastróficos no es una ciencia perfecta por falta de base científica rigurosa.