Los funcionarios de la Ciudad de Nueva York (NYC) tomaron parte en la discusión sobre los riesgos del progreso acelerado de la inteligencia artificial y la necesidad de contar con un encuadre regulatorio que establezca límites a los desarrolladores. Desde un enfoque centrado en el intervencionismo, el ayuntamiento invitó a los responsables de las empresas OpenAI y Anthropic a debatir sobre el panorama a futuro de esta tecnología.
NYC mantiene cautela sobre la IA
El reciente pronunciamiento de los líderes de las principales corporaciones que experimentan con IA, Dario Amodei (Anthropic), Sam Altman (OpenAI) y el magnate Elon Musk, en respaldo a la idea de desacelerar el avance de los sistemas automatizados ante el peligro de que su perfeccionamiento derive en la creación de agentes capaces de causar daño por iniciativa propia, reavivó la vieja polémica «hombre vs. máquina».
Al respecto, el presidente de EE. UU. no dudó en manifestarse en contra de restringir la evolución de la tecnología que promete definir el tablero geopolítico para la próxima década. En contraste, las autoridades de NYC ratificaron su visión crítica del progreso tecnológico, con un llamado a discutir, el próximo 5 de octubre en el ayuntamiento, «los riesgos novedosos, cambiantes y potencialmente catastróficos» de la IA.
Las inquietudes de los representantes políticos hallaron justificación en «la reciente ola de informes alarmantes» que expusieron el potencial de esta herramienta para perjudicar el funcionamiento de las plataformas digitales mediante ataques virtuales orquestados por los mismos sistemas de IA. En esta línea, los dirigentes tomaron muy en serio las declaraciones de algunos expertos en el tema.
Tal fue el caso de Daniel Kokotajlo, exinvestigador de OpenAI, quien afirmó que «los temores de que la IA provoque la extinción humana son reales», y Jacob Coxon, exinvestigador de Anthropic, que dejó un mensaje similar en sus redes sociales: «Quienes están construyendo la IA creen que podrían matarnos a todos para finales de la década», advirtió.
En este contexto, el Concejo de la Ciudad de Nueva York organizó una audiencia legislativa, como paso fundamental para comenzar a bosquejar «una legislación eficaz y razonable», e invitó a Altman y Amodei a intercambiar ideas con los 51 miembros del órgano gubernamental. «Tenemos la responsabilidad de garantizar que las medidas de seguridad que protegen a los neoyorquinos se mantengan al ritmo extraordinario del avance de la IA», explicaron.
Las principales preocupaciones de la clase política
La misiva que el ayuntamiento hizo llegar a los ejecutivos delimita una serie de problemáticas que encabezan la agenda de cara a la audiencia. En primer lugar, señala las deficientes pruebas de seguridad realizadas a los modelos antes de su lanzamiento y la falta de controles de contención rígidos que eviten la «fuga» de agentes hacia el ciberespacio.
A continuación, puntualiza el riesgo de que los agentes de IA sean manipulados por «actores maliciosos» que operen con fines ilícitos. También subraya «la débil supervisión y gobernanza de despliegues de sistemas de alto riesgo» y las «insuficientes protecciones para consumidores y empresas usuarias de la IA», incluidas la protección de los datos y la privacidad.
En materia institucional, señala la poca transparencia de las empresas al momento de ofrecer informes sobre sus operaciones y el trabajo con la IA, como también la «ausencia de mecanismos claros de rendición de cuentas y restitución», que deja a los consumidores sin protección y compensación frente a daños. Finalmente, apunta explícitamente al abandono de los whistleblowers, los empleados que desean informar abiertamente «sobre las falsedades o peligros» de los proyectos.
Nueva York ya tomó medidas
Cabe destacar que, tanto a nivel estatal como de la ciudad, Nueva York cuenta con un encuadre normativo, basado en la Ley RAISE (que entrará en vigor el 1 de enero de 2027 y exigirá notificar incidentes graves dentro de un plazo de 72 h) y leyes municipales que ampararon la creación de la Oficina de Cuentas Algorítmica y de un inventario público de los sistemas de IA utilizados en la matriz del gobierno.
¿Te ha servido este artículo?
Recibe cada semana lo que de verdad importa
Análisis de energía, clima y naturaleza en tu correo. Gratis y sin spam.
