California demanda formalmente a OpenAI, acusándola de pruebas inadecuadas de sus modelos y de poner en peligro la seguridad pública
El Fiscal General de California, Rob Bonta, presentó una demanda contra OpenAI el 16 de noviembre, acusándola de violar la Ley de Competencia Desleal y de ser una molestia pública. El motivo fue que en julio de este año, dos modelos de IA de OpenAI superaron los entornos de prueba e invadieron el sistema de Hugging Face, y la empresa ya había registrado previamente 80 incidentes similares de pérdida de control, pero se negó a colaborar con la investigación. Anteriormente, una demanda presentada por Bonta junto con varios estados contra Meta terminó con Meta acordando pagar 16.700 millones de dólares en concepto de acuerdo.
El Fiscal General de California ha presentado una demanda contra OpenAI, acusando a la empresa de falta de control en las pruebas de sus modelos de IA y de poner en peligro la seguridad pública. Este caso se perfila como una acción legal emblemática en el ámbito de la regulación de la IA en Estados Unidos.
El lunes 16 de noviembre, Rob Bonta, Fiscal General de California, interpuso una demanda contra OpenAI en la Corte Superior de San Francisco, alegando que la empresa violó la Ley de Competencia Desleal de California y cometió actos que constituyen una molestia pública según la definición de la ley estatal.
En una conferencia de prensa, Bonta citó un incidente ocurrido en julio de este año, en el que dos modelos de IA de OpenAI superaron las limitaciones del entorno de pruebas, accedieron sin autorización a Internet pública e invadieron el sistema interno de la plataforma de desarrolladores open source Hugging Face.
Lo que más preocupa a los organismos reguladores es que OpenAI informó a los investigadores que la empresa tenía conocimiento previo de 80 incidentes de "pérdida de control y acceso no autorizado a redes y sitios web de terceros", pero se negó a proporcionar información detallada solicitada por los investigadores.
Esta serie de revelaciones ha tenido un impacto directo en OpenAI. La empresa se encuentra en una etapa clave buscando salir a bolsa; ya presentó en junio de este año ante la Comisión de Bolsa y Valores de Estados Unidos una declaración de registro de forma confidencial y el mercado prevé que podría concretar su IPO tan pronto como en 2027.
La presión regulatoria acumulada junto con demandas legales en curso podrían afectar las expectativas de valoración y el proceso de salida a bolsa de la compañía.
La presión legal sigue en aumento y complica el futuro de la salida a bolsa
Esta demanda representa el capítulo más reciente en las crecientes dificultades legales de OpenAI.
En junio de este año, el Fiscal General de Florida, James Uthmeier, también presentó una demanda contra OpenAI y su CEO Sam Altman, acusando a la empresa de lanzar productos pese a conocer los riesgos de seguridad que implicaban.
Además, OpenAI enfrenta varias demandas más, acusando que su plataforma ChatGPT ha inducido en algunos usuarios delirios perjudiciales e incluso está vinculada con casos de suicidio de usuarios.
La demanda de California ofrece un precedente útil: hace apenas tres meses, Bonta junto a otros fiscales generales estatales arribaron a un acuerdo con Meta, que terminó aceptando pagar 16.700 millones de dólares en concepto de indemnización, de los cuales se espera que California reciba entre 1.500 y 2.100 millones de dólares.
En el plano legislativo, el Congreso estadounidense ya recibió un proyecto integral de ley sobre seguridad en IA, aunque aún no ha sido aprobado. Tanto OpenAI, Anthropic como críticos del sector han pedido impulsar leyes relativas tras el incidente de infiltración en Hugging Face.
Bonta expresó que reconoce el potencial tecnológico de la IA y cree que podría "lograr avances científicos, fomentar el crecimiento económico y prevenir ataques cibernéticos", pero enfatizó que "las empresas desarrolladoras de estos modelos tienen la responsabilidad moral y legal de priorizar la seguridad pública".
Eventos fuera de control disparan el conflicto, se ocultan 80 incidentes de seguridad
El incidente de julio con Hugging Face es el principal fundamento fáctico de esta demanda.
Según detalló Bonta, los modelos de IA de OpenAI, durante pruebas, buscaron activamente información para "hacer trampa", rompieron las barreras del entorno de testeo, accedieron a Internet sin autorización e infiltraron el sistema de Hugging Face.
El caso sacudió a la industria y llevó a funcionarios a pedir una regulación más estricta al sector de IA. Lo más preocupante es que OpenAI admitió ante las autoridades de California que había registrado 80 incidentes similares de pérdida de control, pero no informó proactivamente a los reguladores ni colaboró brindando datos detallados para su evaluación.
Bonta expresó:
La empresa no proporcionó la información detallada que solicitamos para evaluar estos incidentes, lo cual resulta preocupante y pone al público en riesgo.
La acusó de "ignorar la seguridad pública, probando, a sabiendas y sin la supervisión y salvaguardas adecuadas, modelos de IA potencialmente peligrosos y engañar a consumidores y sociedad".
OpenAI: Medidas ya implementadas, un problema compartido por la industria
Ante la demanda, Drew Pusateri, portavoz de OpenAI, afirmó que desde el incidente con Hugging Face la empresa adoptó diversas medidas de transparencia: publicación de informes técnicos detallados, encargo y publicación de reportes independientes de terceros, notificación a las organizaciones afectadas, fortalecimiento de la seguridad en sistemas de investigación y el establecimiento de un marco para identificar y divulgar conductas "inconsistentes" de sus modelos.
Pusateri también objetó el carácter dirigido de la demanda, señalando que "esta acción parece enfocarse en OpenAI, cuando es un desafío que ha sido reconocido por todos los principales laboratorios de IA".
Sostuvo que OpenAI toma en serio la alineación de sus modelos, ha colaborado constructivamente con la oficina del Fiscal General y continuará trabajando junto al sector para impulsar "estándares de seguridad viables para toda la industria".
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
Cinco informes de Goldman Sachs llegan a la misma conclusión: el auge de la IA está llegando a su fin, el mercado es más vulnerable que la economía.
Los datos confirman esta evaluación: la IA aportó solo el 21% al crecimiento del PBI estadounidense, pero fue responsable del 62% del crecimiento de las ganancias del S&P 500 y del 92% del aumento máximo en la capitalización bursátil. Esto significa que un techo en la tasa de crecimiento de la IA tendría un impacto mucho mayor en el mercado que en la economía real. Según Goldman Sachs, el crecimiento de las ganancias se reducirá drásticamente del 36% al 11%. La ola de emisión de deuda impulsada por la IA ha ampliado los diferenciales de crédito. El yen se ha convertido en la mejor opción de cobertura ante riesgos de la IA, el oro tiene una perspectiva alcista hasta los 4.650 dólares y el cobre hasta los 15.600 dólares.
Morgan Stanley da la señal alcista más fuerte: ¡En 2027 entrará en modo “abrazar el riesgo”! El S&P 500 apunta a 8700 puntos
El gigante de Wall Street, Morgan Stanley, considera que 2027 será un año para asumir riesgos. Los analistas de la entidad afirman que están elevando la calificación de asignación de acciones globales al nivel de sobreponderación más alto y recomiendan a los inversores aumentar su exposición a las acciones de distintas regiones.
¿Cuánto valen las startups que decodifican el "pensamiento" de la IA? OpenAI llegó a ofrecer 5 mil millones de dólares.
Según informó The Information, OpenAI ofreció más de 5.000 millones de dólares para adquirir la startup Goodfire, lo que representa aproximadamente cuatro veces su valoración de 1.250 millones de dólares en la ronda de inversión serie B. Goodfire fue fundada en 2024 y se especializa en descifrar el “pensamiento” de la inteligencia artificial. Las negociaciones finalmente fracasaron porque Goodfire consideró que mantener su independencia y proveer tecnología a varias empresas de IA tendría, a largo plazo, un valor muy superior a los 5.000 millones de dólares.

