Miércoles 25 de diciembre de 2024
Más de una decena de las principales empresas de Inteligencia Artificial (IA) han acordado nuevos compromisos sobre el desarrollo seguro de esta tecnología durante una reunión del sector celebrada este martes en Corea del Sur, según anunció el gobierno británico en un comunicado.
El acuerdo, firmado por 16 empresas tecnológicas, incluyendo a gigantes como el fabricante de ChatGPT OpenAI, Google DeepMind y Anthropic, se basa en un consenso alcanzado en la primera cumbre sobre IA celebrada en Bletchley Park, Reino Unido, el año pasado.
El primer ministro británico, Rishi Sunak, destacó: “Este compromiso garantiza que las principales empresas de IA del mundo ofrecerán transparencia y rendirán cuentas sobre sus planes para desarrollar una IA que sea segura”.
Según lo estipulado en el acuerdo, las empresas de IA que no hayan publicado sus directivas para determinar los riesgos de esta tecnología deberán hacerlo próximamente, según indicó el gobierno británico.
Además, se especificarán los peligros considerados “intolerables” y los protocolos que las empresas tecnológicas implementarán para asegurarse de no sobrepasar este umbral. En casos extremos, se comprometen a no desarrollar o desplegar un modelo o sistema si las políticas de mitigación no pueden mantener los riesgos en un nivel tolerable.
Este umbral será definido claramente en la próxima cumbre sobre IA que se celebrará en Francia en 2025. Entre otras empresas que se sumaron al convenio se encuentran Microsoft, Amazon, IBM, Meta (matriz de Instagram), Mistral AI de Francia y Zhipu.ai de China.
