destill.ai · Alle Branchen · English · Trust Center

Für QS, Regulatory Affairs und Klinik-IT

Wer zeigt, was der KI-Agent gesehen und getan hat?

KI prüft heute schon Bilder und Dokumente in GxP-nahen Prozessen. Später kann niemand zeigen, welches Modell was entschieden hat und ob das Bild das aufgenommene war. Ein POAW-Beleg pro Schritt und ein versiegeltes Bild geben Ihrer QS etwas zum Prüfen statt zum Glauben.

Selbst ausprobierenPilot anfragen

Siehe auch: Pharma Medical Affairs: ein Beleg für jede Antwort, die ein KI-Agent vorbereitet

Qualitätssicherung

Ein Audit Trail im System des Anbieters ist so stark wie dessen Administrator. Die QS will einen Datensatz, den sie selbst prüfen kann.

Regulatory Affairs

Part 11 und ALCOA+ verlangen zuordenbare, zeitnahe, originale Aufzeichnungen. Für KI-Schritte ist das meist noch ein Versprechen.

Klinikleitung

Fiktiver Fall aus dem Film: Ein Triage-Agent stuft eine Patientin als „nicht dringend“ ein; später sieht ihr Röntgenbild in der Akte anders aus. Das ist eine Haftungsfrage.

Der Film

Die Eingangsszene als kurzer Clip.

Das ganze Erklärvideo

Kapitel

Selbst ausprobieren: ein signierter Beleg zum Prüfen

So sieht der Beleg aus, den Ihr Agent nach dem Pilot bei jedem Lauf erzeugt. Synthetische Daten, echte Kryptografie: eine ML-DSA-65-Signatur und ein Zeitstempel nach RFC 3161 von einer unabhängigen Stelle. Prüfen Sie ihn im Browser, danach eine Kopie, in der ein Wert in Schritt 3 geändert wurde.

Schritt der visuellen Qualitätskontrolle (fiktive Charge)

SchrittWas der Agent tatZeit (UTC)
1Charge eingegangen
batchId: B-26-0417 · product: tablet 50 mg (fictional) · line: L3
06:15:00
2Bilder aufgenommen
station: inspection camera 2 · images: 3 × hash
06:15:42
3Defekte klassifiziert
model: vision-qc 1.7 · defectsFound: 2 · classes: chipped edge, spot · confidence: 0.94
06:15:44
4SOP-Grenzwert geprüft
sop: SOP-QC-112 v5 · acceptLimit: 3 · result: within limit
06:15:44
5Verwendung vorgeschlagen
disposition: forward to QA review
06:15:45
6Menschliche Freigabe
role: QA reviewer · approver: hash
07:02:19
7Datensatz archiviert
system: eQMS · record: hash
07:02:21

Diesen Beleg prüfenManipulierte Kopie prüfen

Beleg herunterladen (JSON) · Oder ziehen Sie die Datei selbst in die Prüfseite, ändern Sie eine Zahl im Texteditor und ziehen Sie sie erneut hinein.

Ihre Technik kann die Prüfung offline wiederholen, mit OpenSSL ab 3.5 und dem veröffentlichten Skript: Prüfpaket.

Was Sie bekommen

Jeder Punkt trägt seinen Stand aus unserem Funktionsregister: Gebaut, Pilot oder Roadmap. Der Hinweis am Etikett nennt den Beleg dafür.

Der rechtliche Rahmen

Wo ein Beleg hilft, eine Pflicht nachzuweisen. Er erfüllt die Pflicht nicht für Sie und macht niemanden von selbst rechtskonform. Keine Rechtsberatung.

AI Act Art. 50

Kennzeichnung KI-erzeugter oder manipulierter Inhalte. Fortress-Marken können helfen, die Kennzeichnung nachzuweisen. Ob und wie Art. 50 für Sie gilt, ist eine rechtliche Bewertung.

Quelle: eur-lex.europa.eu

AI Act, Art. 6 Abs. 1 mit Art. 12 und 26 Abs. 6

KI als Sicherheitsbauteil eines Medizinprodukts nach MDR/IVDR ist Hochrisiko; sie muss Ereignisse protokollieren, Betreiber bewahren Logs mindestens sechs Monate auf. Ein Beleg hilft nachzuweisen, dass ein Log zu einem festen Zeitpunkt bestand, unverändert.

Quelle: eur-lex.europa.eu

21 CFR 11.10(e)

Sichere, computergenerierte, zeitgestempelte Audit Trails. Der Beleg hilft, Reihenfolge und Zeit der KI-Schritte mit einem unabhängigen Zeitstempel nachzuweisen; die Validierung Ihres Systems bleibt bei Ihnen.

Quelle: www.ecfr.gov

ALCOA+ (EMA-Leitlinie zu computergestützten Systemen)

Zuordenbar, zeitnah, original. Signatur und Zeitstempel helfen, die ersten beiden für jeden KI-Schritt nachzuweisen.

Quelle: www.ema.europa.eu

EU-GMP Annex 22 (Entwurf) und DSGVO Art. 9

Annex 22 zu KI in der GMP ist ein Konsultationsentwurf; was die finale Fassung verlangt, ist offen. Gesundheitsdaten sind besondere Kategorien: Der Beleg speichert Hashes, nicht die Daten selbst.

Quelle: health.ec.europa.eu

Geplant, noch nicht gebaut

Was als Nächstes kommt, je nach Bedarf und Investition. Nichts davon gehört zum Pilot.

Der Pilot: Umfang und Dauer gemeinsam festgelegt, Preis nach Scoping

Umfang

Ein Anwendungsfall, z. B. visuelle Qualitätskontrolle oder ein Bild-Workflow, ein Standort, ein Team. Läuft in Ihrem Netz oder Cloud-Mandanten. Dazu ein Mapping-Dokument (AI Act Art. 12, 21 CFR 11.10(e), ALCOA+) als Arbeitsgrundlage für QS und RA, keine Validierung. Abschlussbericht mit Go/No-Go. Ihr eigener Implementierungspartner kann es anbinden: Wir übergeben das SDK und den Sandbox-Aufbau (ein Rechner, Docker). Der Zeitrahmen wird im Scoping festgelegt.

Preisrahmen: Preis nach dem Scoping, abhängig von Ihrem Prozess und Ihrer Umgebung.

Erfolgskriterien, beim Start schriftlich vereinbart

  • Mindestens 99 % der KI-Schritte im Pilot-Ablauf erzeugen einen prüfbaren Beleg.
  • Ihr Team prüft einen Beleg selbst, ohne unsere Hilfe (OpenSSL).
  • SEAL findet veränderte Bildbereiche in mindestens 95 % der Fälle, höchstens 1 % Falschmeldungen, auf einem vorab vereinbarten Testsatz.
  • Der Mehraufwand pro Arbeitsschritt wird gemessen; das Ziel legen wir beim Start gemeinsam fest.

Quelle: unser schriftliches Pilotangebot; die Zielwerte sind das, was wir zu messen zusagen, keine Ergebnisse eines früheren Piloten.

Was Sie beisteuern

  • Einen konkreten Ablauf und eine verantwortliche Person
  • Testdaten oder Testbilder und Zugang zu einer Testumgebung
  • Ansprechpartner aus IT und Compliance oder Revision
  • Eine Verbindung zu einer Zeitstempel-Stelle, beim Signieren oder später (das Signieren selbst geht offline)
  • Ihre eigene rechtliche Bewertung
  • Validierung (CSV/CSA) und QS-Freigabe bleiben bei Ihnen

Sie möchten das schriftliche Pilotangebot? Wählen Sie unten „Über einen Piloten sprechen“, wir senden es mit unserer Antwort.