El gobernador de California, Gavin Newsom, firma una ley histórica sobre la seguridad de la inteligencia artificial, SB 53.
Créditos de la imagen: Andrew Harnik / Getty Images
El gobernador de California, Gavin Newsom, ha firmado SB 53, una ley pionera a nivel nacional que establece nuevos requisitos de transparencia para grandes empresas de IA.
SB 53, que aprobó la legislatura estatal hace dos semanas, exige a grandes laboratorios de IA, como OpenAI, Anthropic, Meta y Google DeepMind, que sean transparentes sobre sus protocolos de seguridad. También garantiza protecciones para los denunciantes en esas empresas.
Además, SB 53 crea un mecanismo para que las empresas de IA y el público informen sobre incidentes críticos de seguridad a la Oficina de Servicios de Emergencia de California. Las empresas también deben informar sobre incidentes relacionados con delitos cometidos sin supervisión humana, como ciberataques, y comportamientos engañosos por parte de un modelo que no está cubierto por el Reglamento de la UE sobre IA.
La ley ha recibido reacciones mixtas de la industria de la IA. Las empresas tecnológicas han argumentado que la política estatal de IA podría crear un “patchwork de regulaciones” que dificultaría la innovación, aunque Anthropic apoyó la ley. Meta y OpenAI se opusieron a ella. OpenAI incluso escribió y publicó una carta abierta al gobernador Newsom que desaconsejaba su firma de SB 53.
La nueva ley llega en un momento en que algunos de los líderes tecnológicos de Silicon Valley han invertido cientos de millones en super PACs para apoyar candidatos que promuevan un enfoque ligero en la regulación de la IA. Líderes de OpenAI y Meta han lanzado recientemente super PACs pro-AI que buscan apoyar a candidatos y leyes amigables para la IA.
Sin embargo, otros estados podrían inspirarse en California al intentar mitigar los posibles daños causados por el avance descontrolado de una tecnología tan poderosa. En Nueva York, una ley similar fue aprobada por los legisladores estatales y está esperando la firma o veto del gobernador Kathy Hochul.
“California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades mientras aseguramos que la industria de la IA en crecimiento continúe prosperando”, dijo Newsom en un comunicado. “Esta legislación logra ese equilibrio. La IA es el nuevo frente de la innovación, y California no solo está aquí para ella – sino que se mantiene fuerte como líder nacional al implementar la primera legislación pionera de seguridad de la IA que construye la confianza pública a medida que esta tecnología emergente evoluciona rápidamente”.
El gobernador también está considerando otra ley – SB 243 – que pasó tanto por la Asamblea Estatal como por el Senado con el apoyo bipartidista este mes. La ley regularía los chatbots de compañía de IA, exigiendo a los operadores que implementen protocolos de seguridad y los responsabilizaría legalmente si sus bots no cumplen con esos estándares.
SB 53 es el segundo intento del senador Scott Wiener de una ley de seguridad de la IA después de que Newsom vetara su más amplia SB 1047 el año pasado ante una fuerte oposición de las empresas de IA. Con esta ley, Wiener se puso en contacto con las principales empresas de IA para intentar explicarles los cambios que había realizado en la ley.