Los parlamentarios californianos cruzan un paso crucial al aprobar el proyecto de ley SB 53 sobre la seguridad de la IA. Este texto legislativo impone nuevos requisitos de transparencia a las empresas de inteligencia artificial. La pregunta permanece: ¿qué decidirá Gavin Newsom después de recibir este proyecto como gobernador de California?
La aprobación del proyecto de ley, respaldada por el senador Scott Wiener, se enfrenta a la oposición de algunos actores de Silicon Valley y de fondos de inversión. La implementación de protocolos de seguridad estrictos podría transformar el paisaje tecnológico. Esta medida tiene como objetivo proteger al público de riesgos potenciales relacionados con la IA, pero su aplicación sigue siendo incierta.
Provisión del proyecto de ley SB 53
Los parlamentarios de California han otorgado su aprobación final al proyecto de ley sobre la seguridad de la IA, conocido como SB 53. Esta legislación impone requisitos de transparencia a las grandes empresas que operan en el campo de la inteligencia artificial. El senador estatal Scott Wiener, autor de la ley, ha subrayado que el proyecto tiene como objetivo establecer protocolos de seguridad claros y accesibles.
Transparencia y protección de denunciantes
La ley SB 53 requiere que los laboratorios de IA de gran envergadura divulguen sus protocolos de seguridad. Uno de los aspectos clave de esta legislación es la instauración de protecciones para los denunciantes, permitiendo a los empleados expresarse sin miedo a represalias. Además, propone la creación de un cloud público, llamado CalCompute, con el fin de ampliar el acceso a los recursos informáticos.
Reacciones gubernamentales y recomendaciones
El proyecto de ley espera la firma del gobernador de California, Gavin Newsom, quien aún no ha hecho un comentario público. En un veto anterior, había rechazado un proyecto de ley similar, considerando que imponía estándares demasiado estrictos. Newsom había reconocido la necesidad de proteger al público mientras criticaba la generalización de los estándares para todos los modelos de IA.
Las nuevas disposiciones están inspiradas en las recomendaciones de un panel de especialistas en IA establecido por Newsom. Este enfoque tiene como objetivo crear un marco regulatorio más adecuado a los desafíos reales relacionados con la seguridad de la IA.
Enmiendas recientes y preocupaciones de las empresas
Las enmiendas recientes al SB 53 estipulan que las empresas que desarrollan modelos de IA «fronterizos», con ingresos anuales inferiores a 500 millones de dólares, solo deben proporcionar información de seguridad a un nivel alto. En contraste, aquellas con ingresos superiores deben presentar informes más detallados, aumentando así la carga regulatoria.
El proyecto de ley enfrenta una notable oposición por parte de varias empresas de Silicon Valley, firmas de capital de riesgo y grupos de lobby. OpenAI ha expresado recientemente que las empresas deberían ser consideradas conformes a las regulaciones de seguridad a nivel estatal, siempre que cumplan con las normas federales o europeas.
Opiniones divergentes entre los actores del sector
El responsable de la política de IA de Andreessen Horowitz ha declarado que varias propuestas de ley sobre la IA, como las de California y Nueva York, corren el riesgo de cruzar límites constitucionales en torno a la regulación del comercio interestatal. Los cofundadores de a16z han mencionado previamente que la regulación tecnológica influía en su apoyo a Donald Trump, quien posteriormente abogó por un moratorio de diez años sobre la regulación estatal de la IA.
En el lado opuesto, Anthropic ha expresado su apoyo a la ley SB 53. Su cofundador, Jack Clark, ha subrayado que sin una norma federal, este proyecto proporciona una base sólida para la gobernanza de la IA que no puede ser ignorada.
Preguntas frecuentes sobre el proyecto de ley SB 53 sobre la seguridad de la IA en California
¿Qué es el proyecto de ley SB 53 sobre la seguridad de la IA en California?
El proyecto de ley SB 53 impone requisitos de transparencia a las grandes empresas de IA, exigiendo que divulguen sus protocolos de seguridad y creen protecciones para los denunciantes dentro de sus equipos.
¿Por qué el gobernador Newsom podría vetar el proyecto de ley SB 53?
El gobernador Newsom ha criticado versiones anteriores del proyecto de ley por su aplicación de normas estrictas sin tener en cuenta los riesgos asociados con los entornos de uso de los modelos de IA.
¿Cuáles son los requisitos específicos para las empresas que desarrollan modelos de IA según SB 53?
Las empresas que generan menos de 500 millones de dólares de ingresos anuales deben proporcionar detalles de seguridad a un nivel general, mientras que aquellas con ingresos superiores deben presentar informes más detallados.
¿Qué tipos de empresas se oponen al proyecto de ley SB 53?
Numerosos actores de Silicon Valley, incluidas firmas de capital de riesgo y diversas organizaciones de lobby, han expresado preocupaciones sobre las implicaciones de este proyecto de ley.
¿Cómo ha sido influenciado el proyecto de ley SB 53 por expertos en política de IA?
Las recomendaciones de un panel de expertos en IA, convocado por el gobernador después de su veto a una versión anterior, han contribuido a dar forma al contenido final del proyecto de ley.
¿Qué protecciones ofrece el proyecto de ley SB 53 a los empleados de laboratorios de IA?
El proyecto de ley establece protecciones para los denunciantes, permitiendo a los empleados informar sobre problemas sin temor a represalias por parte de su empleador.
¿Cuál es la posición de Anthropic respecto a SB 53?
Anthropic ha expresado su apoyo al proyecto de ley, afirmando que constituye una base sólida para la gobernanza de la IA, aunque prefieren un estándar federal.
¿En qué podría el proyecto de ley SB 53 entrar en conflicto con las regulaciones del comercio interestatal?
Expertos en políticas de IA han advertido que algunas propuestas legislativas, como esta, podrían infringir los límites constitucionales sobre el control que los estados pueden ejercer sobre el comercio interestatal.
