OpenAI publica un plan marco de políticas de seguridad para niños, centrado en tres áreas prioritarias principales para fortalecer la protección de los niños en la era de la IA

Noticias de Gate, 8 de abril: OpenAI publicó un plan de políticas destinado a fortalecer en Estados Unidos el marco de protección de menores en la era de la IA. Este plan se centra en tres áreas prioritarias: actualizar las leyes para abordar los materiales de abuso sexual infantil (CSAM) generados o alterados por IA; mejorar los mecanismos de denuncia y coordinación de los proveedores de servicios para apoyar investigaciones más eficaces; y, además, incorporar medidas de diseño seguro en los sistemas de IA para prevenir y detectar conductas de abuso. Durante la elaboración del plan, se incorporaron aportes del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos (NCMEC), de la Attorney General Alliance y de sus copresidentes del grupo de trabajo de IA, el fiscal general de North Carolina Jeff Jackson y el fiscal general de Utah Derek Brown, así como de varias instituciones y expertos como Thorn. Los copresidentes del grupo de trabajo de IA, Jeff Jackson y Derek Brown, señalaron que el plan da un paso importante para alinear las prácticas de seguridad infantil de la industria tecnológica con la realidad de la aplicación de la ley, y que una protección eficaz de la IA generativa requiere un sistema de defensas en múltiples capas, y no un único recurso tecnológico. Karen White, directora ejecutiva de la Attorney General Alliance, afirmó que la alianza impulsa soluciones prácticas en el ámbito de la IA y la seguridad digital reuniendo a todas las partes interesadas.