Contexto · Claves · ConsecuenciasPulso Diario · 21 de noviembre de 2026
Pulso DiarioVolver a portada
Inteligencia artificial

Google prueba un control que revisa las acciones de los agentes antes de ejecutarlas

Las políticas semánticas de Gemini comparan cada llamada a una herramienta con las reglas de la empresa y el encargo del usuario. Están en fase previa y dependen de un juez de IA que puede variar sus decisiones.

Por qué confiar en Pulso Diario
Añádenos en Google ↗Mis guardadosComentar

Un mensajero de papel se detiene ante un control de paso conceptual.
Ilustración editorial original
Ilustración editorial original generada con IA. Un mensajero de papel se detiene ante un control de paso conceptual. Representación conceptual; no es fotografía ni evidencia documental del hecho. · Imagen: Ilustración generada con IA para Pulso Diario · Procedencia: Generación propia mediante modelo de imagen
Licencia: Creación original generada con IA para Pulso Diario

Un agente puede tener permiso para enviar un correo y aun así usarlo para compartir un documento con un destinatario indebido. La diferencia entre poder utilizar una herramienta y estar autorizado para esa acción concreta es el problema que Google aborda en su anuncio del 20 de noviembre.

Dos preguntas antes de actuar

El sistema evalúa si una llamada propuesta cumple las reglas escritas en lenguaje corriente y si corresponde a lo que pidió el usuario. Google pone el ejemplo de resultados financieros todavía no publicados: una norma puede permitir enviarlos dentro de la empresa y bloquear su salida a una dirección personal, aunque lo pida un empleado. Son ejemplos del proveedor, no incidencias documentadas de una compañía concreta.

Fuentes: [1] Google Developers · Políticas semánticas,20de noviembre

Un filtro separado del agente

La fase previa requiere Agent Gateway, una pasarela por la que debe pasar el tráfico configurado del agente. El motor recibe la conversación, las instrucciones, la descripción de la herramienta y las políticas. Si deniega una llamada, sustituye la respuesta por un mensaje configurable; sus decisiones y razones quedan registradas. Las respuestas que solo contienen texto no se revisan con este mecanismo y tampoco se evalúan respuestas transmitidas en directo, fragmento a fragmento (streaming).

Fuentes: [1] Google Developers · Políticas semánticas,20de noviembre · [2] Google Cloud · Descripción de políticas semánticas

Sombras de manos ensayan mover sobres mientras los objetos reales permanecen quietos.
Ilustración editorial original
Ilustración editorial original generada con IA. Sombras de manos ensayan mover sobres mientras los objetos reales permanecen quietos. Representación conceptual; no es fotografía ni evidencia documental del hecho. · Procedencia: Generación propia mediante modelo de imagen
Licencia: Creación original generada con IA para Pulso Diario

Por qué hay que ensayarlo antes de bloquear

El fabricante recomienda un modo de prueba que registra lo que habría rechazado sin impedir acciones. El juez es probabilístico y sus veredictos pueden variar; las políticas complementan permisos y controles existentes. La orientación de NIST sobre identidad de agentes también defiende separar reglas y razonamiento y mantener decisiones de acceso basadas en reglas fijas. Por tanto, añadir este filtro no elimina la necesidad de limitar técnicamente qué datos y herramientas puede alcanzar el agente.

Fuentes: [1] Google Developers · Políticas semánticas,20de noviembre · [3] NIST · Principios de diseño para identidad de agentes

Fuentes y límites de verificación

La función está en Preview y las fuentes consultadas no ofrecen un precio separado ni una medición independiente de eficacia. Los ejemplos pertenecen al fabricante.

Fuentes: [1] Google Developers · Políticas semánticas,20de noviembre · [2] Google Cloud · Descripción de políticas semánticas · [3] NIST · Principios de diseño para identidad de agentes

Comentarios · ¿qué duda te queda?

¿Qué dato te ayudaría a entender mejor esta noticia? Comparte tu pregunta o señala un posible error con su fuente. Usaremos las dudas para orientar nuevas explicaciones, sin prometer una respuesta individual.

Los comentarios se revisan antes de publicarse. Respeta a los demás, aporta argumentos y evita publicidad o datos personales. Puedes eliminar tus propios comentarios.

Iniciar sesión con ChatGPT