Etika AI v QA: GDPR, halucinace, transparentnost
AI v QA není jen technický problém — je to i problém governance. Jakmile váš tým začne používat Claude Code nebo GitHub Copilot, posíláte data na externí servery. V regulovaných odvětvích (bankovnictví, zdravotnictví, pojišťovnictví) je to otázka pro právní a compliance tým, ne pro seniorního QA inženýra.
Tento článok pokrýva 3 hlavné riziká a ako ich mitigovať.
Riziko 1: Únik produkčných dát
Scénář: tester zkopíruje do promptu v Claude Code reálný dataset, aby AI mohla analyzovat „proč tenhle uživatel nedokáže dokončit checkout". V logu Anthropicu se teď nachází jméno, e-mail a adresa skutečného zákazníka.
Mitigácia:
- Enterprise plán Anthropicu i OpenAI garantuje, že data nejdou do trénování. Pořád jsou ale uložená v logách.
- Self-hosted alternatíva — LLM-y ako Llama alebo Mistral bežiace on-premise. Drahé, ale pre highly-regulated data jediná cesta.
- Sanitizační vrstva — před odesláním do AI běží
anonymize.py, který nahradí osobní údaje regulárními výrazy nebo ML klasifikátorem. My používáme Microsoft Presidio. - Prompt guidelines — tím má interný dokument „čo nikdy nekopírovať do AI". Staff training.
Riziko 2: Halucinácie
AI vrátí výstup, který vypadá autoritativně, ale není pravdivý. V testu to může vypadat takhle:
// AI hallucinated selector — tento element neexistuje
cy.get('[data-qa="premium-badge"]').should('be.visible');
// AI hallucinated API response
cy.intercept('GET', '/api/users', { total: 42, users: [/* vymyslené */] });
Test prejde v mockovanom prostredí, ale v produkcii zlyhá. Horšie: test ani nespadne, len nekryje to, čo mal kryť.
Mitigácia:
- Vždy test spusťte v reálném staging prostředí před mergem.
- Human review — AI nenahradí review, dopĺňa ho.
- Kritické review — u důležitých testů se zeptejte druhé AI (jiného modelu), „co může být špatně". Neshoda = varovný signál.
- Coverage overovanie — ak test prechádza, ale bug v danej oblasti stále unikne → test nestačil na ten scenár.
Riziko 3: Neauditovateľnosť
Regulátor se zeptá: „Proč tenhle test selhal ve 14:32 a byl schválen ve 14:35?" Pokud váš QA workflow zněl „AI to upravila a já klikl na merge", dobrou odpověď nemáte.
Mitigácia:
- Verzované prompty — každý AI prompt, který upravil test nebo kód, je verzovaný v gitu.
- AI-generated commit messages oddeliť od human commit messages. V PR template: „[AI-assisted]" tag.
- Audit log — každý AI nástroj s enterprise plánem (Claude Enterprise, Copilot Business) nabízí API k audit logu. Stahujte jednou denně, uchovávejte dva roky.
- Human-in-the-loop signoff — pri regulovaných zmenách (napr. testy dotýkajúce sa finančných výpočtov) povinný podpis senior engineera.
Regulované odvetvia — konkrétne požiadavky
| Odvetvie | Kľúčová regulácia | Dopad na AI v QA |
|---|---|---|
| Banking | PSD2, DORA, GDPR | Self-hosted LLM alebo enterprise contract s data residency v EU |
| Zdravotníctvo | HIPAA, GDPR, EHDS | PHI nesmie ísť do externej AI; rigorózny anonymization pipeline |
| Pojišťovnictví | Solvency II, GDPR | AI pre regresiu OK, AI pre risk engine logic problematická |
| Školství (detské dáta) | COPPA ekvivalent, GDPR | Nikdy reálne detské dáta do AI |
Praktické checklist pre QA lead-a
- Máme signed DPA (data processing agreement) s AI vendorom? (Anthropic, OpenAI, GitHub — áno, dostanete po signup ako Enterprise.)
- Používame enterprise plán s „do not train" flagom?
- Máme prompt guideline dokument a tím bol tréningom?
- PII anonymization layer je nasadený pred AI volaniami?
- Audit log sa archivuje aspoň 2 roky?
- Security team schválil AI workflow v písomnom stanovisku?
Záver
Etika AI v QA není omezení — je to předpoklad používání. Týmy, které ji přeskočí, si nasekají dluh, který se ukáže při auditu. Pět dní investovaných do nastavení governance ušetří za rok měsíce paniky.
Chcete stejný přístup u vás? Napište nám — domluvíme 30minutový discovery call.