El gobernador de California, Gavin Newsom, ha vetado el proyecto de ley SB 1047, una iniciativa legislativa que buscaba regular el desarrollo de la inteligencia artificial (IA). Este proyecto, impulsado por el senador estatal Scott Wiener, tenía como objetivo exigir a las empresas que desarrollan modelos de IA la implementación de protocolos de seguridad para prevenir «daños críticos». Sin embargo, la ley solo habría aplicado a modelos cuyo costo de desarrollo superara los 100 millones de dólares y que utilizaran al menos 1026^{10} operaciones de punto flotante (FLOPS) durante su fase de entrenamiento.
La propuesta de SB 1047 generó una fuerte oposición en Silicon Valley, incluyendo a empresas como OpenAI y tecnólogos influyentes como Yann LeCun, el principal científico de IA de Meta. También encontró resistencia entre algunos políticos demócratas, como el congresista estadounidense Ro Khanna. Aunque el proyecto fue modificado tras sugerencias de compañías como Anthropic, los detractores continuaron expresando sus preocupaciones.
Argumentos detrás del veto
El gobernador Newsom había mostrado previamente reservas sobre el proyecto de ley, por lo que la posibilidad del veto fue siempre considerada por los opositores. Finalmente, en su declaración oficial, Newsom justificó su decisión señalando que, si bien el proyecto de ley tenía buenas intenciones, no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, involucra decisiones críticas o el uso de datos sensibles. En lugar de eso, aplica estándares estrictos incluso a las funciones más básicas de un sistema grande. Newsom concluyó que este enfoque no era la mejor manera de proteger al público frente a los peligros reales que representa la tecnología.
El veto también recibió el respaldo de figuras políticas de alto perfil como Nancy Pelosi, quien describió el proyecto de ley como «bien intencionado, pero mal informado». Pelosi elogió a Newsom por su capacidad de reconocer la importancia de permitir que pequeños emprendedores y el ámbito académico, más que las grandes tecnológicas, lideren en este campo.
A pesar del veto, Newsom reiteró su compromiso con la regulación de la IA, señalando que en los últimos 30 días ha firmado 18 leyes relacionadas con la regulación y despliegue de esta tecnología. Además, ha solicitado el asesoramiento de expertos en la materia como Fei-Fei Li, Tino Cuéllar y Jennifer Tour Chayes para ayudar a California a desarrollar normativas eficaces para la implementación de la IA generativa.
Por su parte, el senador Wiener lamentó el veto y lo calificó como «un retroceso para quienes apoyan la supervisión de las grandes corporaciones que toman decisiones cruciales que afectan la seguridad y el bienestar del público». No obstante, afirmó que el debate sobre SB 1047 ha avanzado significativamente el tema de la seguridad de la IA a nivel internacional.
Reflexiones finales
El veto del gobernador Newsom no solo destaca la complejidad de regular una tecnología en rápida evolución como la inteligencia artificial, sino que también pone de manifiesto la necesidad de un balance entre la innovación y la protección del público. Es fundamental encontrar un camino que permita a California liderar en el campo de la IA, pero siempre con una visión enfocada en la seguridad y el bienestar social. Suscribirse a actualizaciones sobre este tema podría ser un paso importante para mantenerse informado sobre los futuros desarrollos en la regulación de la inteligencia artificial.
