El gobierno de California avanza en la regulación de la inteligencia artificial. En pleno debate sobre la seguridad de los sistemas automatizados y la protección de datos, Gavin Newsom designó a los especialistas que conformarán el equipo asesor, encargado de discutir las medidas necesarias para controlar los riesgos de los modelos más avanzados.
La orden ejecutiva de California que espera controlar la IA
A principios de este mes, el gobierno de Gavin Newsom emitió una orden ejecutiva que estableció la obligación de las autoridades estatales de intervenir en el desarrollo de los sistemas inteligentes a través de la supervisión de los planes de las empresas tecnológicas y el proceso de configuración de las plataformas.
Su objetivo principal es garantizar que los nuevos productos de IA sean seguros y no vulneren información delicada de sus usuarios, además de prevenir su manipulación para fines maliciosos y de trabajar en el diseño de modelos especiales aptos para el uso de niños. «Vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA», afirmó al respecto Newsom.
El texto hace hincapié en 4 puntos clave: en primer lugar, exige a las corporaciones que integren en sus laboratorios de trabajo a revisores independientes que puedan dar cuenta de la transparencia de sus operaciones; a continuación, ordena a los privados facilitar el acceso a registros de información y marcos de seguridad que rigen su actividad; en tercer lugar, impulsa la creación de un «interruptor de emergencia» para «apagar» a los modelos ante cualquier anomalía en su comportamiento.
Por último, el gobierno incluyó la redefinición del concepto de «incidentes críticos» para abarcar una mayor diversidad de accidentes cibernéticos que pueden desencadenarse por fallas en la programación de la IA. En particular, la orden ejecutiva estuvo inspirada por los recientes acontecimientos que protagonizó la firma Hugging Face, que fue diana de un hackeo orquestado por los sistemas automatizados.
«Mientras Washington elude su responsabilidad de proteger a los estadounidenses, California está construyendo el marco regulatorio más sólido del país (…) Nuestra política debería ser la referencia a nivel nacional», expresó el gobernador. Con estas aspiraciones, el gobierno estatal convocó a algunos de los mejores expertos en IA para que asesoren la confección de una guía orientadora para el reforzamiento de la ciberseguridad, en un plazo de dos meses.
Los especialistas que asesorarán al gobierno
Este miércoles, Gavin Newsom confirmó los nombres de los integrantes del organismo que «ayudarán a guiar este trabajo pionero a escala nacional» y a «mejorar la gobernanza en materia de seguridad de la IA». Entre las personalidades elegidas, se encuentra Jason Goldman, quien fuera el primer director de ciberseguridad de la Casa Blanca y exempleado de Google y Twitter.
«California continúa demostrando cómo la supervisión democrática puede aplicarse a una de las industrias más importantes del mundo», manifestó Goldman. Por su parte, Gillian Hadfield, profesora de la Universidad Johns Hopkins especializada en IA, subrayó la necesidad urgente de monitoreo eficaz para los sistemas automatizados, que cada vez son «más potentes y autónomos».
Otro de los convocados es Rob Reich, profesor de la Universidad Stanford y asesor del Instituto de Seguridad de IA, que subrayó la importancia de contar con medidas de gobernanza que permitan aprovechar el potencial de esta tecnología en condiciones confiables. Por último, la exdirectora interina de la Oficina de Política Científica y Tecnológica de la Casa Blanca, Alondra Nelson, afirmó que la verificación independiente, la auditoría y la transparencia obligatoria son mecanismos que permiten «exigir que los poderosos» estén al servicio de las necesidades humanas.
El foco en los centros de datos
Esta semana, la oficina del gobernador también confirmó la firma de 7 proyectos de ley que buscan, en esencia, obligar a los propietarios de los centros de datos a comunicar el consumo real de agua y electricidad que requieren sus operaciones. «Estas leyes brindan a las comunidades más información sobre energía, agua, mano de obra y uso del suelo, de modo que puedan evaluar mejor los costos y beneficios económicos de estos proyectos», explicaron.
¿Te ha servido este artículo?
Recibe cada semana lo que de verdad importa
Análisis de energía, clima y naturaleza en tu correo. Gratis y sin spam.



