SB 1047 de California: Proyecto de Ley Pionero sobre Seguridad en IA Aprobado por la Asamblea

Comprendiendo la Innovadora Regulación de IA de California: SB 1047

La Asamblea Estatal de California ha dado un paso significativo en la regulación de la inteligencia artificial al aprobar el Proyecto de Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera (SB 1047). Esta legislación marca uno de los primeros intentos regulatorios importantes sobre IA en los Estados Unidos, especialmente teniendo en cuenta el rápido desarrollo y despliegue de tecnologías de IA en los últimos años.

Los Objetivos Principales del SB 1047

El SB 1047 introduce una serie de precauciones que las empresas de IA que operan en California deben cumplir antes de poder entrenar modelos de base sofisticados. Estas medidas incluyen:

• Capacidad de Apagado Inmediato: Los modelos de IA deben estar diseñados para permitir un apagado rápido y completo para mitigar los riesgos asociados con sistemas que funcionen incorrectamente.
• Protección Contra Modificaciones Inseguras: La legislación exige salvaguardias para asegurar que los modelos no sean sometidos a alteraciones inseguras después del entrenamiento.
• Procedimientos de Pruebas Rigurosas: Las empresas de IA están obligadas a implementar protocolos de prueba que determinen el riesgo de que sus modelos causen daños críticos al ser desplegados.

Principales Apoyadores y Defensores

El Senador Scott Wiener, el autor principal del proyecto de ley, ha expresado que el SB 1047 es un enfoque equilibrado que se alinea con los compromisos asumidos por los grandes laboratorios de IA para evaluar los riesgos de seguridad catastróficos. Enfatizó los esfuerzos colaborativos para refinar el proyecto de ley, afirmando:

"El SB 1047 está bien calibrado a lo que sabemos sobre los riesgos predecibles de la IA, y merece ser promulgado."

Críticas y Oposición

Sin embargo, el proyecto de ley ha enfrentado críticas de varios sectores, incluyendo entidades de alto perfil como OpenAI y Anthropic, así como políticos como Zoe Lofgren y Nancy Pelosi. Los críticos argumentan que el SB 1047 otorga demasiado énfasis a los daños catastróficos potenciales, lo que podría afectar negativamente a los desarrolladores de IA más pequeños y de código abierto.

Como respuesta a estas preocupaciones, el proyecto de ley ha sido modificado para reemplazar posibles sanciones penales por civiles, restringir los poderes de aplicación otorgados al fiscal general de California y ajustar los requisitos para unirse al recién creado "Consejo de Modelos de Frontera".

Próximos Pasos para el SB 1047

Una vez que el Senado del Estado vote sobre la versión enmendada del proyecto de ley—y las expectativas iniciales indican un resultado positivo—la legislación se trasladará al Gobernador Gavin Newsom para su consideración final. El Gobernador tendrá hasta finales de septiembre para tomar una decisión, según informes de The New York Times.

Reacciones de la Industria

A pesar de las importantes implicaciones del SB 1047, Anthropic se ha abstenido de hacer comentarios extensos, refiriéndose en cambio a una carta entregada la semana pasada por el CEO Dario Amodei al Gobernador Newsom. Mientras tanto, OpenAI aún no ha respondido a las consultas sobre su posición al respecto.

Las Implicaciones de la Regulación de IA

La aprobación del SB 1047 señala un punto de inflexión en la regulación de la tecnología de inteligencia artificial. A medida que la IA continúa dando forma a diversas industrias, esta legislación probablemente servirá como un modelo para otros estados y países mientras navegan las complejidades de garantizar la seguridad sin sofocar la innovación.

Conclusión

El SB 1047 representa un enfoque cauteloso pero visionario hacia la seguridad de la IA, equilibrando la necesidad de innovación con el imperativo de la seguridad pública. A medida que California avanza hacia la finalización de esta legislación, sus repercusiones serán observadas de cerca tanto a nivel nacional como internacional.