California demanda a OpenAI por falta de seguridad de sus modelos de IA
California demanda a OpenAI por falta de seguridad de sus modelos de IA
CALIFORNIA.- El fiscal de California, Rob Bonta, demandó el lunes a OpenAL por los fallos de seguridad en sus modelos de inteligencia artificial (IA) que provocaron el hackeo de la plataforma Hugging Face en julio. El incidente en el que modelos de IA de la empresa creadora de ChatGPT salieron de un medio confinado, accedieron a internet y penetraron sistemas informáticos de la biblioteca de la plataforma de IA Hugging Face, fue «completamente previsible», según dijo el fiscal en un comunicado.El funcionario mencionó también «la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada».
Puntos clave
- Si bien la propia Hugging Face prefirió no acudir a la justicia, el fiscal estimó que esta situación presentó un «peligro para el público general».
- Denunció una «cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad».
- OpenAI dijo en respuesta a una solicitud de la AFP que desde la secuencia ocurrida en julio empezó una investigación para «comprender y tratar el problema».
- La empresa agregó que «ha reforzado las salvaguardias en todo su entorno de investigación» y ha mejorado los mecanismos de detección de salidas de ruta no previstas de la IA.
Contexto adicional
La entrada California demanda a OpenAI por falta de seguridad de sus modelos de IA se publicó primero en El Nuevo Diario (República Dominicana).
Nota: este resumen se generó en modo local (sin IA externa), por lo que solo reorganiza un extracto breve de la fuente en vez de reescribir el artículo completo. Para un artículo más extenso y totalmente reescrito con otras palabras, configura una clave de Claude, OpenAI o Gemini en Ajustes.
Información basada en una publicación original de El Nuevo Diario (República Dominicana).

