La IA no es infalible
La IA generativa tiene limitaciones serias que todo QA debe conocer. Usarla sin criterio puede introducir más riesgos de los que resuelve. La regla de oro: la IA propone, el humano dispone.
| Riesgo | Mitigación |
|---|---|
| Alucinaciones (inventa datos plausibles) | Revisar y verificar siempre lo generado |
| Sesgos en los datos de entrenamiento | Contrastar con criterio y diversidad de casos |
| Privacidad (filtrar datos confidenciales) | No pegar datos sensibles ni reales de clientes |
| Exceso de confianza | Mantener el pensamiento crítico del tester |
Nunca pegues requisitos confidenciales, credenciales o datos personales reales en una herramienta de IA pública: podrías filtrar información protegida.
PreguntaToca para voltear
¿Qué es una 'alucinación' de la IA y cómo se mitiga?
¿Cuál es una buena práctica al usar IA en QA?