"Visión general"
Seguridad AI para Aplicaciones te permite implementar experiencias impulsadas por AI de forma segura mientras mantienes el control sobre cómo se accede y utiliza los Datos. AI You Build te ayuda a asegurar y gobernar los sistemas de IA que tu organización desarrolla y opera. Protege las aplicaciones AI personalizadas del abuso, como el jailbreak y la inyección de solicitaciones, previene el acceso no autorizado a Datos y garantiza el Cumplimiento con requisitos reglamentarios y organizacionales.
Estos sistemas son típicamente expuestos a usuarios internos, usuarios externos o clientes, por ejemplo:
Chatbots AI internos usados por empleados para Bases de Conocimientos internas o materiales de la empresa.
Chatbots externos orientados al Cliente, p. ej. bots de Soporte al cliente.
Asistentes de IA integrados en aplicaciones empresariales
Interfaces de IA personalizadas conectadas a fuentes de datos internas como sistemas CRM o ERP
AI You Build proporciona protección y visibilidad para sistemas de IA personalizados a lo largo de su operación, incluyendo:
Protección en tiempo de ejecución: puedes proteger los sistemas de IA en tiempo de ejecución para prevenir el abuso intencional. Esto incluye bloquear intentos maliciosos de manipular solicitudes, extraer información sensible o eludir las salvaguardas del sistema.
Monitorización: Puedes monitorear cómo los Usuarios interactúan con las herramientas AI para detectar comportamiento inapropiado o no intencionado. Esto te ayuda a identificar Actividad que puede no ser maliciosa pero que aún podría violar políticas internas o requisitos de Cumplimiento.
Riesgos Presentados por Aplicaciones de IA
Los sistemas de IA que interactúan con usuarios y datos introducen riesgos únicos de seguridad, cumplimiento y gobernanza, tales como:
Ataques específicos de IA como inyecciones de solicitudes, intentos de fuga y ataques de múltiples turnos diseñados para eludir las salvaguardas
Fuga de datos: exposición de datos del cliente o empresariales desde sistemas conectados como plataformas CRM, o acceso no autorizado a información sensible, como identificadores personales o datos financieros
Violaciones de cumplimiento: incumplimiento de los requisitos regulatorios para sistemas de IA, como la Ley de IA de la UE para IA generativa
Brechas de gobernanza: falta de segmentación entre departamentos o roles, y usuarios obteniendo acceso a datos que no están autorizados a ver
Casos de uso
Caso de Uso: Prevención de que los Sistemas de IA Tomen Decisiones Reguladas
Una organización construye un sistema de IA interno para asistir a los empleados en la revisión de la información del cliente, como el historial financiero o detalles de la aplicación. Debido a los requisitos regulatorios y de cumplimiento, el sistema de IA no está permitido para tomar decisiones o determinaciones en nombre del usuario, como aprobar o denegar un préstamo.
AI You Build aplica controles que previenen que la IA genere decisiones directas, recomendaciones o resultados de elegibilidad. En cambio, la IA puede proporcionar información contextual o resumir datos relevantes, asegurando que la decisión final permanezca con un usuario humano autorizado. Esto ayuda a la organización a cumplir con los marcos regulatorios y las políticas internas de gobernanza mientras sigue beneficiándose de los flujos de trabajo asistidos por IA.