El representante Josh Gottheimer se pronunció respecto al reciente ataque organizado por agentes de OpenAI que afectó a los sistemas del Departamento de Comercio y de la Comisión de Bolsa y Valores, y exigió que EE. UU. avance en la supervisión de la nueva tecnología con la aprobación de la «Stop Rogue AI Act» o Ley para Detener la IA Deshonesta.
OpenAI, bajo la lupa de las autoridades por el «descontrol» de su IA
En las últimas semanas, la IA fue el centro de agitados debates en EE. UU. y el resto del mundo, ante el acelerado progreso de su sistema, que ya permite la configuración de operaciones autónomas con fines maliciosos. El hackeo a Hugging Face dio cuenta del potencial de los agentes de inteligencia artificial para orquestar ataques contra otras plataformas.
Según Infobae, el acontecimiento, que tuvo lugar entre marzo y julio de este año y trascendió recientemente, convirtió a OpenAI en foco de críticas luego de que un investigador independiente alertara sobre maniobras extrañas que incluyeron la manipulación de datos de usuarios de la plataforma, y se llevaron a cabo bajo el control de los sistemas artificiales diseñados por la compañía que dirige Sam Altman.
El hecho escaló hasta el punto de captar la atención de la ONU, que emitió un informe sobre la evolución de la IA, en el que recogió los beneficios de la innovadora propuesta para la comunidad internacional, a la vez que reconoció la posibilidad de que la tecnología atente contra infraestructura digital crítica y perjudique servicios esenciales, además de arriesgar la información personal de millones de personas.
Pero lejos de detenerse, las acusaciones contra OpenAI continúan surgiendo, y este viernes el medio estadounidense Politico se hizo eco de la noticia de que «agentes deshonestos» pertenecientes a la misma big tech «accedieron a los sitios web del Departamento de Comercio y de la Comisión de Bolsa y Valores e intentaron, aunque sin éxito, infiltrarse en el sistema del Departamento de Educación».
Aunque la empresa confirmó que no obtuvo acceso a información que no fuera pública, lo cierto es que el antecedente engrosa el historial de incidentes que ponen en tela de juicio los criterios bajo los cuales los desarrolladores diseñan estas plataformas, y alienta la discusión sobre la urgencia de asegurar la intervención gubernamental para prevenir el «descontrol» de la IA.
La propuesta de Josh Gottheimer y Mike Lawler
En este escenario, el congresista por el quinto distrito congresional de Nueva Jersey, Josh Gottheimer, manifestó su preocupación por el margen de acción que tienen los agentes de la IA para atentar contra los sistemas del propio gobierno, por lo que pidió al Congreso aprobar los proyectos de ley orientados a regular el desarrollo de esta herramienta y blindar la seguridad nacional.
En particular, Gottheimer exigió la aprobación de la Ley para Detener la IA Deshonesta, iniciativa bipartidista que confeccionó junto al republicano Mike Lawler. El proyecto, presentado apenas este mes ante el Congreso, insta al Instituto Nacional de Estándares y Tecnología (NIST) a establecer normativas nacionales para «verificar y controlar» a los agentes de IA.
De esta manera, la legislación busca garantizar la trazabilidad de estas plataformas, optimizando la identificación de sus desarrolladores para permitir la detención inmediata de sus acciones, accesos y permisos no autorizados ante cualquier comportamiento que represente un riesgo para la seguridad. «El proyecto devuelve el control humano para que podamos identificar a los agentes y saber quién está detrás de ellos», afirmó Gottheimer.
California avanza con su estrategia de ciberseguridad
Por su parte, el gobierno de Gavin Newsom emitió una orden ejecutiva pionera que dictamina la creación de un grupo de asesores expertos en materia digital, quienes serán los responsables de diseñar un paquete de medidas que orienten a California en la «supervisión sustancial y responsable de la IA», además de un protocolo de apagado forzado que inactive los modelos ante cualquier movimiento anómalo.
¿Te ha servido este artículo?
Recibe cada semana lo que de verdad importa
Análisis de energía, clima y naturaleza en tu correo. Gratis y sin spam.
