Macron pide prohibir usos de IA que pongan en riesgo a los menores

El presidente de Francia, Emmanuel Macron, instó a prohibir los usos de la inteligencia artificial que representen un riesgo para la salud mental y el desarrollo cerebral de los menores, según declaraciones realizadas en una entrevista con el diario económico Les Echos. El jefe de Estado francés argumentó que si ciertas aplicaciones de esta tecnología suponen un peligro para los niños, es imperativo establecer vetos legales para su uso.

En el marco de estas declaraciones, Macron anunció que empresas tecnológicas como OpenAI y Anthropic se comprometerán a someter sus modelos a evaluaciones independientes y auditorías previas antes de ponerlos a disposición de los menores. Esta medida busca garantizar mayores salvaguardas para la seguridad democrática y nacional frente a los riesgos asociados a los sistemas de IA más avanzados.

Estas declaraciones se producen en vísperas de la adopción de una carta de compromisos sobre seguridad de la IA en el Foro de París por la Paz, que comienza este martes. El objetivo de este foro es impulsar una respuesta internacional coordinada ante los desafíos que plantean los modelos de inteligencia artificial de última generación.

El lunes, cerca de medio centenar de dirigentes políticos, representantes de organismos internacionales, empresas tecnológicas e investigadores suscribieron el 'Llamamiento de París por la seguridad de la inteligencia artificial'. Entre los firmantes figuran representantes de Baréin, Canadá, Finlandia, Francia, Noruega y Países Bajos, así como diez empresas, incluyendo OpenAI, Anthropic, Microsoft y Mistral AI.

También suscribieron el documento organizaciones de la sociedad civil como LawZero, SaferAI, AI Safety Connect e Ifri. La declaración establece tres prioridades principales: reforzar las evaluaciones independientes y públicas de los modelos, mejorar el intercambio de alertas sobre incidentes graves y delimitar las responsabilidades de los actores que desarrollan estas tecnologías.

Los firmantes se comprometieron a impulsar mecanismos comunes para evaluar los riesgos, facilitar la supervisión independiente de los sistemas y mejorar la comunicación de incidentes, incluidos aquellos relacionados con la ciberseguridad y posibles pérdidas de control. Francia promoverá una regulación europea y buscará extender estos compromisos a Estados Unidos, Canadá y otros países, manteniendo como objetivo crear un marco regulatorio que considere los peligros sin rechazar las innovaciones.