El Estado de Nueva York se dota de una legislación innovadora destinada a regular el uso de la inteligencia artificial. Esta iniciativa marca un giro decisivo en la gestión de las tecnologías emergentes por parte de las administraciones públicas. Las agencias gubernamentales deberán no solo *evaluar* sus herramientas de IA, sino también *publicar informes* transparentes sobre su uso.
Esta ley prohíbe el uso de IA para decisiones automáticas relacionadas con las prestaciones sociais, reforzando la necesidad de una *supervisión humana rigurosa*. Al proteger a los trabajadores del Estado, esta legislación busca establecer un marco sólido para un uso responsable de la IA.
Supervisión reforzada del uso de la IA
El gobierno del Estado de Nueva York impone nuevas regulaciones sobre el uso de software de inteligencia artificial. Una legislación reciente, firmada por la gobernadora Kathy Hochul, establece mecanismos de control estrictos para las agencias gubernamentales. Esta decisión surge en respuesta a preocupaciones crecientes sobre el uso ético y responsable de la IA en el sector público.
Evaluaciones obligatorias de software de IA
Las agencias estatales deben ahora realizar evaluaciones sistemáticas de todo software que utilice algoritmos o técnicas de inteligencia artificial. Cada evaluación será presentada a los líderes legislativos y estará disponible para el público en línea. Este proceso tiene como objetivo garantizar una mayor transparencia en las operaciones gubernamentales, remediando posibles abusos relacionados con el uso de la IA.
Restricciones sobre la aplicación de la IA
La legislación también prohíbe el uso de IA en ciertas decisiones automatizadas, particularmente aquellas relacionadas con la distribución de prestaciones sociales. Así, una decisión sobre la concesión de prestaciones por desempleo o asistencia infantil no podrá ser completamente automatizada. Se requerirá un seguimiento humano constante para asegurar una supervisión adecuada de las decisiones que podrían afectar vidas humanas.
Protección de los empleados del Estado
Las disposiciones legislativas incluyen medidas para proteger a los trabajadores del Estado contra las limitaciones impuestas por la IA. Ningún empleado podrá ver reducidas sus horas de trabajo o responsabilidades debido a la implementación de herramientas de IA. Esta regla busca prevenir desviaciones profesionales que podrían causar repercusiones negativas en el empleo público.
Visión política e implicaciones futuras
La senadora Kristen Gonzalez, responsable de la elaboración de esta ley, subraya que se trata de un paso fundamental en la implementación de garantías para regular las nuevas tecnologías. El marco regulatorio busca prevenir abusos que podrían derivarse de un uso no regulado de la inteligencia artificial por parte del gobierno de Nueva York. Esta iniciativa se inscribe en un panorama global de regulación creciente de las tecnologías algorítmicas y de IA.
La ley representa un avance hacia un control más riguroso de la IA, garantizando que su uso esté conforme a las normas éticas y a las expectativas sociales. Las ramificaciones de esta legislación podrían influir en otros Estados para seguir el ejemplo de Nueva York, forjando así un posible cambio en la regulación nacional de la inteligencia artificial.
Para obtener más información sobre el concepto de regulación de modelos de inteligencia artificial en los Estados Unidos, puede consultar este artículo. Leer el artículo aquí.
Preguntas frecuentes sobre la legislación de IA en Nueva York
¿Cuál es la nueva legislación sobre el uso de la IA por parte del gobierno del Estado de Nueva York?
La nueva legislación exige que las agencias gubernamentales del Estado de Nueva York realicen evaluaciones de cualquier software que utilice IA y publiquen informes detallando su uso.
¿Cuáles son los requisitos específicos impuestos por esta ley en relación con el uso de la IA?
Las agencias deben realizar evaluaciones de los softwares que utilizan algoritmos y presentar estas evaluaciones al gobernador y a los líderes legislativos, haciéndolas accesibles en línea.
¿Significa esto que el uso de la IA estará completamente prohibido en ciertas situaciones?
Sí, la ley prohíbe el uso de la IA para ciertas decisiones automatizadas, como las relacionadas con prestaciones de desempleo o cuidado infantil, a menos que un humano supervise constantemente el proceso.
¿Los empleados del Estado se verán afectados por la integración de la IA?
No, la legislación protege a los empleados de una reducción en sus horarios o responsabilidades debido al uso de la IA.
¿Quién inició esta legislación y cuál es su objetivo principal?
La legislación fue propuesta por la senadora estatal Kristen Gonzalez, con el objetivo de establecer salvaguardias sobre el uso de esta tecnología emergente en el gobierno estatal.
¿Cómo se garantizará la transparencia sobre el uso de la IA?
La legislación exige que las evaluaciones de software se publiquen, lo que garantiza transparencia sobre cómo se aplica la IA en las agencias gubernamentales.
¿Existen consecuencias para las agencias que no cumplan con esta legislación?
Los detalles sobre las sanciones específicas no han sido precisados, pero el incumplimiento de los requisitos podría acarrear repercusiones en la confianza pública y auditorías gubernamentales.
¿Qué tipos de tecnologías de IA estarán sujetas a esta legislación?
Esta legislación se aplica a cualquier software y sistema que utilice algoritmos, modelos computacionales u otras técnicas relacionadas con la IA.
¿Cuáles son las implicaciones a largo plazo de esta legislación para otros Estados?
Podría servir de modelo para otros Estados que deseen regular el uso de la IA, fomentando un enfoque más uniforme en todo el país sobre las cuestiones de transparencia y ética relacionadas con la IA.
