OpenAI ofrece un clasificador gratuito de posibles imágenes de abuso infantil a organizaciones autorizadas
La herramienta añade señales para priorizar revisiones, también de material que podría haberse generado con IA. Una puntuación no confirma que una imagen sea ilegal ni sustituye la revisión especializada.
Por qué confiar en Pulso Diario
Ilustración editorial original
Los sistemas que comparan una imagen con archivos ya identificados pueden reconocer copias conocidas. El nuevo clasificador intenta aportar otra señal ante material nuevo o transformado. La diferencia importa para los equipos de protección: detectar una sospecha y confirmar un caso son decisiones distintas.
Quién podrá utilizarlo
OpenAI anunció el 16 de noviembre acceso sin coste a través de su interfaz para desarrolladores para organizaciones que superen la validación. La ficha técnica identifica como destinatarios equipos de seguridad de plataformas, organizaciones de protección infantil y autoridades debidamente autorizadas. No se presenta como una herramienta abierta al público para buscar o inspeccionar contenido ilícito. La iniciativa se desarrolló con ayuda del Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, NCMEC.
Fuentes: [1] OpenAI: nuevas herramientas de protección infantil · [2] OpenAI Deployment Safety Hub: ficha técnica del clasificador
Qué devuelve el sistema
La ficha describe dos puntuaciones: una de posible material de abuso sexual infantil y otra de posible material de ese tipo generado con IA. Son señales de riesgo. No demuestran la procedencia de la imagen, su situación jurídica o la obligación de denunciarla. La recomendación es combinarlas con otros controles y con personal autorizado que evalúe las alertas. Para una organización, el valor potencial es ordenar el trabajo de revisión; no delegar una conclusión jurídica en un número.
Fuentes: [2] OpenAI Deployment Safety Hub: ficha técnica del clasificador

Ilustración editorial original
Las cifras de pruebas tienen un ámbito concreto
En su evaluación interna sobre imágenes subidas por usuarios, la empresa estimó que podía marcar un 48% menos de imágenes manteniendo aproximadamente el número de imágenes abusivas detectadas frente a su sistema anterior. La comparación depende del tráfico y de los umbrales utilizados, es decir, de la puntuación a partir de la cual se activa una alerta. No significa un 48% menos de abuso ni garantiza ese resultado en otra plataforma.
Fuentes: [1] OpenAI: nuevas herramientas de protección infantil
Los errores que deben seguir midiéndose
La documentación reconoce falsos positivos, imágenes legítimas que pueden activar una alerta, y falsos negativos, material problemático que puede pasar inadvertido. También advierte de que la evaluación en tráfico de ChatGPT no garantiza el mismo rendimiento en otros servicios. El clasificador no ha sido probado para fotogramas de vídeo. Cada implantación necesita comprobar qué detecta, qué omite y cuánto trabajo de revisión genera.
Fuentes: [2] OpenAI Deployment Safety Hub: ficha técnica del clasificador
Priorizar alertas no equivale a confirmar un delito
Un clasificador puede ser útil si reduce tiempo dedicado a señales irrelevantes sin perder detecciones importantes. Esa posibilidad exige medir ambos errores y proteger a las personas implicadas, no convertir una puntuación en una acusación.
La disponibilidad gratuita facilita el acceso a equipos con menos recursos. Su utilidad real dependerá de la formación, los controles y la capacidad de revisión que acompañen al software.
Opinión de Pulso Diario · elaborada a partir de los hechos y fuentes citadosFuentes y límites de verificación
Anuncio y ficha proceden de OpenAI; no constituyen una auditoría independiente. Los resultados internos no garantizan rendimiento en otro servicio. No se han consultado ni descargado imágenes de abuso.
Fuentes: [1] OpenAI: nuevas herramientas de protección infantil · [2] OpenAI Deployment Safety Hub: ficha técnica del clasificador
Comentarios · ¿qué duda te queda?
¿Qué dato te ayudaría a entender mejor esta noticia? Comparte tu pregunta o señala un posible error con su fuente. Usaremos las dudas para orientar nuevas explicaciones, sin prometer una respuesta individual.
Los comentarios se revisan antes de publicarse. Respeta a los demás, aporta argumentos y evita publicidad o datos personales. Puedes eliminar tus propios comentarios.
Google se cargará al pulsar. Privacidad.
Has accedido con Google.











