ICO investiga a xAI por crear imágenes de IA sin autorización

Elon Musk vuelve a enfrentarse a la atención de los reguladores después de que el chatbot de IA que creó se involucrara en una controversia grave relacionada con la generación de imágenes personales sin el consentimiento del usuario. La empresa xAI, que desarrolla Grok, ahora está siendo investigada por la autoridad reguladora del Reino Unido debido a preocupaciones sobre el manejo de datos sensibles.

Grok enredado en la controversia de generación de imágenes

El chatbot de IA llamado Grok ha capturado la atención del público y de los políticos después de que los usuarios en la plataforma X (antes Twitter) impulsaran el sistema para generar imágenes de figuras públicas y personas comunes sin dar su consentimiento previo. La función de generación de imágenes ha provocado reacciones enérgicas de diversos sectores preocupados por la privacidad y el uso indebido de identidades digitales.

Estas preocupaciones no son infundadas, considerando el potencial uso indebido de la tecnología de IA para crear contenido visual que pueda dañar la reputación de alguien o ser utilizado con fines irresponsables.

La ICO inicia una investigación formal

La Oficina del Comisionado de Información del Reino Unido (ICO) ha anunciado oficialmente el inicio de una investigación sobre xAI, centrada principalmente en si los datos personales se manejan adecuadamente en el proceso de creación de estas imágenes generadas por IA. Esta investigación refleja un aumento en la supervisión de las empresas tecnológicas que operan sistemas de IA generativa.

La amenaza de una multa es muy seria para xAI, ya que la ICO permite imponer sanciones de hasta £17.5 millones (aproximadamente $24 millones) o el 4% de los ingresos globales anuales de la empresa, lo que sea mayor. La magnitud de esta posible multa demuestra la seriedad con la que las autoridades están tomando la protección de datos personales.

Mayor supervisión internacional

No solo el Reino Unido responde a esta problemática, otros países europeos también han tomado medidas. La autoridad reguladora francesa realizó una redada en la oficina de X en París, mostrando que la controversia en torno a Grok y la generación de imágenes por IA ha llamado la atención a nivel internacional.

La investigación sobre xAI forma parte de una tendencia más amplia en la que los organismos reguladores globales se vuelven cada vez más críticos con las empresas de IA que no implementan salvaguardas adecuadas para proteger los datos personales de sus usuarios. Se espera que este impulso continúe a medida que la tecnología de IA se vuelve más compleja y la conciencia pública sobre los riesgos de privacidad asociados con la generación de imágenes y otros contenidos por IA aumenta.