OpenAI compartirá modelos de IA con el gobierno antes de publicarlos

Como una forma de comprobar la seguridad de los modelos de IA, OpenAI compartir sus modelos con el gobierno de Estados Unidos antes de lanzarlos

OpenAI creadora de ChatGPT a partir de ahora tendrá que compartir sus modelos de IA con el gobierno de Estados Unidos antes de lanzarlos, esto con el fin de someterlos a un estudio y comprobar su seguridad.

Esta decisión responde a la iniciativa de la administración de Joe Biden, la cual propone que el Instituto de Seguridad de la Inteligencia Artificial (NIST, por sus siglas en inglés) evalúe los riesgos que podrían tener los modelos de IA.

A esta iniciativa también se une Anthropic creadora de Claude.

¿Cómo será la revisión de los modelos por parte de NIST?

De acuerdo con el Instituto de Seguridad de la Inteligencia Artificial, se ha establecido una "colaboración formal en la investigación, prueba y evaluación de la seguridad" de los modelos de IA en los que trabajen las grandes empresas de tecnología.

Para ello, el Instituto tendrá acceso a estos modelos antes y después de su lanzamiento al público, lo que permitirá una "investigación colaborativa sobre cómo evaluar las capacidades y los riesgos de seguridad, así como los métodos para mitigar esos riesgos".

Después de la investigación, el NIST tendrá que dar una retroalimentación a las compañías de IA para realizar mejoras de seguridad en sus modelos con el fin de alcanzar un desarrollo responsable de la IA.

De acuerdo con Elizabeth Kelly, directora del NIST, este es solo "el comienzo, pero son un hito importante a medida que trabajamos para ayudar a gestionar de manera responsable el futuro de la IA".

Al respecto, Jason Kwon, director de estrategia de OpenAI, expresó que "el Instituto tiene un papel fundamental que desempeñar en la definición del liderazgo estadounidense en el desarrollo responsable de la inteligencia artificial y esperamos que nuestro trabajo conjunto ofrezca un marco en el que pueda basarse el resto del mundo".

Únete al canal de difusión de WhatsApp de El Tiempo MX y recibe las noticias más importantes de Monclova, Coahuila y México directamente en tu celular. ¡Haz clic y súmate ahora!

Noticias del tema