Más Información
OpenAI creadora de ChatGPT a partir de ahora tendrá que compartir sus modelos de IA con el gobierno de Estados Unidos antes de lanzarlos, esto con el fin de someterlos a un estudio y comprobar su seguridad.
Esta decisión responde a la iniciativa de la administración de Joe Biden, la cual propone que el Instituto de Seguridad de la Inteligencia Artificial (NIST, por sus siglas en inglés) evalúe los riesgos que podrían tener los modelos de IA.
A esta iniciativa también se une Anthropic creadora de Claude.
Leer también: ¿Hackearon tu celular? Esto es lo que debes hacer
¿Cómo será la revisión de los modelos por parte de NIST?
De acuerdo con el Instituto de Seguridad de la Inteligencia Artificial, se ha establecido una "colaboración formal en la investigación, prueba y evaluación de la seguridad" de los modelos de IA en los que trabajen las grandes empresas de tecnología.
Para ello, el Instituto tendrá acceso a estos modelos antes y después de su lanzamiento al público, lo que permitirá una "investigación colaborativa sobre cómo evaluar las capacidades y los riesgos de seguridad, así como los métodos para mitigar esos riesgos".
Después de la investigación, el NIST tendrá que dar una retroalimentación a las compañías de IA para realizar mejoras de seguridad en sus modelos con el fin de alcanzar un desarrollo responsable de la IA.
De acuerdo con Elizabeth Kelly, directora del NIST, este es solo "el comienzo, pero son un hito importante a medida que trabajamos para ayudar a gestionar de manera responsable el futuro de la IA".
Al respecto, Jason Kwon, director de estrategia de OpenAI, expresó que "el Instituto tiene un papel fundamental que desempeñar en la definición del liderazgo estadounidense en el desarrollo responsable de la inteligencia artificial y esperamos que nuestro trabajo conjunto ofrezca un marco en el que pueda basarse el resto del mundo".
Leer también: Cómo saber si WhatsApp te espía por la cámara o micrófono del celular
Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters
