La administración Biden-Harris anuncia un nuevo grupo de trabajo público sobre IA
El grupo se basará en el marco de gestión de riesgos del NIST para abordar los riesgos del rápido avance de la IA generativa.
22 de junio de 2023
WASHINGTON — Hoy, la Secretaria de Comercio de EE. UU., Gina Raimondo, anunció que el Instituto Nacional de Estándares y Tecnología (NIST) está lanzando un nuevo grupo de trabajo público sobre inteligencia artificial (IA) que se basará en el éxito del Marco de Gestión de Riesgos de IA del NIST para abordar esta tecnología que avanza rápidamente. El Grupo de Trabajo Público sobre IA Generativa ayudará a abordar las oportunidades y desafíos asociados con la IA que puede generar contenido, como código, texto, imágenes, videos y música.
El grupo de trabajo público también ayudará a desarrollar una guía clave para ayudar a las organizaciones a abordar los riesgos especiales asociados con las tecnologías de IA generativa. El anuncio se produce inmediatamente después de una reunión convocada por el presidente Biden a principios de esta semana.con expertos e investigadores líderes en IA en San Francisco, como parte del compromiso de la administración Biden-Harris de aprovechar las oportunidades y gestionar los riesgos que plantea la IA.
“El presidente Biden ha dejado claro que debemos trabajar para aprovechar el enorme potencial mientras gestionamos los riesgos que plantea la IA para nuestra economía, la seguridad nacional y la sociedad”, dijo el secretario Raimondo. “El marco de gestión de riesgos de IA del NIST publicado recientemente puede ayudar a minimizar el daño potencial de las tecnologías de IA generativa. Sobre la base del marco, este nuevo grupo de trabajo público ayudará a brindar orientación esencial para aquellas organizaciones que están desarrollando, implementando y utilizando IA generativa, y que tienen la responsabilidad de garantizar su confiabilidad”.
El grupo de trabajo público se basará en voluntarios, con expertos técnicos de los sectores público y privado, y se centrará en los riesgos relacionados con esta clase de IA, que está impulsando cambios vertiginosos en las tecnologías y las ofertas del mercado.
“Este nuevo grupo es especialmente oportuno si se tiene en cuenta la velocidad, la escala y el impacto potencial sin precedentes de la IA generativa y su potencial para revolucionar muchas industrias y la sociedad en general”, dijo la subsecretaria de Comercio de Estándares y Tecnología y directora del NIST, Laurie E. Locascio. “Queremos identificar y desarrollar herramientas para comprender y gestionar mejor esos riesgos, y esperamos atraer una amplia participación en este nuevo grupo”.
Han establecido metas a corto, mediano y largo plazo para el grupo de trabajo. Inicialmente, servirá como un vehículo para recopilar información sobre orientación que describe cómo se puede utilizar el marco de gestión de riesgos de IA (AI RMF) del NIST para respaldar el desarrollo de tecnologías de IA generativa. Este tipo de orientación, denominada perfil, respaldará y alentará el uso de AI RMF para abordar los riesgos relacionados.
A mediano plazo, el grupo de trabajo apoyará el trabajo del NIST en pruebas, evaluación y medición relacionadas con la IA generativa. Esto incluirá el apoyo a la participación de NIST en AI Village en DEF CON 2023, la conferencia de piratería y seguridad informática más grande y de mayor duración.
A más largo plazo, el grupo explorará oportunidades específicas para aumentar la probabilidad de que las potentes tecnologías generativas de IA se utilicen productivamente para abordar los principales desafíos de nuestro tiempo en áreas como la salud, el medio ambiente y el cambio climático. El grupo puede ayudar a garantizar que los riesgos se aborden y gestionen antes, durante y después de que se desarrollen y utilicen las aplicaciones de IA.
Aquellos interesados en unirse al Grupo de trabajo público de IA generativa del NIST, que se facilitará a través de un espacio de trabajo colaborativo en línea, deben completar este formulario a más tardar el 9 de julio. Los participantes tendrán la oportunidad de elegir ayudar a desarrollar el perfil de IA generativa para AI RMF como parte de sus contribuciones al grupo.
La IA generativa también es el tema de los dos primeros de una nueva serie de entrevistas en video del NIST con líderes en IA para explorar temas críticos para mejorar la confiabilidad de las tecnologías de IA de ritmo rápido. La parte 1 presenta a Jack Clark, cofundador de Anthropic, y Navrina Singh, fundadora y directora ejecutiva de CREDO AI, quienes son entrevistados por Elham Tabassi, director asociado de tecnologías emergentes en el Laboratorio de tecnología de la información del NIST. En la Parte 2, Rishi Bommasani, Ph.D. estudiante de la Universidad de Stanford e Irene Solaiman, directora de políticas de Hugging Face, son entrevistadas por Reva Schwartz, investigadora principal, sesgo de IA, en NIST. Todos los videos de la serie «NIST Conversations on AI» estarán disponibles en el sitio web de NIST .
Además, hoy, el Comité Asesor Nacional de Inteligencia Artificial entregó su primer informe al presidente e identificó áreas de enfoque para el comité durante los próximos dos años. El informe completo, incluidas todas sus recomendaciones, está disponible en el sitio web AI.gov .