Digital Trust PractitionersAssociation of Digital Trust Practitioners · TrustPractitioners.org
ES
UnirseUnirse

Página traducida y verificada automáticamente. Prevalece la versión en inglés. Algunas partes siguen en inglés mientras se verifica su traducción. Ver en inglés · Informar un error de traducción

AIG-270Gobernanza de la IA

Pruebas y red team de sistemas de IA

Probar la IA no es como probar código. Fije criterios de aceptación antes de probar, haga ejercicios de red team en sistemas generativos y tome una decisión de lanzamiento que pueda defender.

9 lecciones Unas 3 horas 4 ALC Certificado al finalizar

Lo prepara para: AAISM · AAIA

Lo que podrá hacer

  • Fijar los criterios de aceptación y los datos de prueba antes de empezar las pruebas
  • Evaluar los resultados por grupo para que el rendimiento promedio no oculte daños
  • Planificar y realizar ejercicios de red team en sistemas de IA generativa
  • Tomar y registrar una decisión de lanzamiento, incluidas las deficiencias aceptadas
Al terminar tendrá

Un plan de pruebas y de red team de IA con resultados

Qué contiene. Uso previsto y riesgos, criterios de aceptación fijados antes de las pruebas, datos de prueba con cobertura por grupos, resultados de la evaluación por grupo, alcance y hallazgos del red team, la decisión de lanzamiento y las deficiencias aceptadas, y desencadenantes de nuevas pruebas con el conjunto de pruebas de regresión.

Lo construye lección a lección, a partir de su propia organización, y lo envía para obtener su certificado. Es suyo para conservarlo y adaptarlo.

A quién está dirigido

Ingenieros de ML, responsables de QA y equipos de gobernanza de la IA y de seguridad.

Contenido

  1. Parte 1De dónde proviene el requisito 18 min
  2. Parte 2Cómo lo cumplen los equipos pequeños y las grandes empresas 16 min
  3. Parte 3Criterios y datos de prueba 22 min
  4. Parte 4Pruebas de IA generativa 22 min
  5. Parte 5Red team 24 min
  6. Parte 6Independencia, pipelines y decisiones 20 min
  7. Parte 7Laboratorio práctico: equipo pequeño elija uno 22 min
  8. Parte 8Laboratorio práctico: gran empresa elija uno 24 min
  9. Parte 9Finalice y envíe su entregable 20 min

Diseñado para su tamaño

El requisito es el mismo en todas partes. La forma de cumplirlo depende del equipo con que cuente. Usted elige el laboratorio que corresponde a su organización.

Equipo pequeño o empresa emergenteOrganización pequeña: quienes construyen hacen las pruebas, así que primero se redactan los criterios, se usan casos difíciles realistas, se dedica una tarde a intentar romper el sistema de forma deliberada y se vuelve a ejecutar un conjunto de pruebas con cada cambio.
Gran empresaProfundidad de las pruebas según el nivel de riesgo, herramientas compartidas, validación independiente, equipos de red team internos y externos y puntos de control en el pipeline que bloquean las regresiones.

Cómo obtener el certificado

Envíe su entregable terminado, que se califica conforme a una rúbrica publicada, y apruebe un breve cuestionario de escenarios. Su certificado se guarda en su billetera y cualquier persona puede verificarlo en el registro público.

¿Listo para construir un plan de pruebas y de red team de IA con resultados?9 lecciones, unas 3 horas. Comience cuando quiera.
Únase e inscríbase