destill.ai · Alle Branchen · English · Trust Center

Für Medical Affairs, medizinische Information und Pharmakovigilanz in großen Pharmaunternehmen

Morgens hunderte Anfragen, abends sortiert. Wer zeigt, wie jede Antwort zustande kam?

Im fiktiven Tag aus dem Film liest ein KI-Agent jede Anfrage, prüft sie gegen freigegebene Quellen, entwirft im passenden Ton und gibt nur die unsicheren Fälle an einen Menschen. Proof of Agent Work gibt jedem dieser Schritte einen signierten Beleg, den Ihre QS und Ihre Prüfer ohne uns prüfen können. Große Pharma-Teams haben zusätzlich Fragen zu GxP, Audit Trails, gefälschten Bildern und Lecks; der Abschnitt darunter nimmt jede auf und sagt, was wir abdecken und was nicht.

Selbst ausprobierenPilot anfragenGespräch buchen

Siehe auch: Healthcare und Pharma: QK-Schritte, Audit Trails, versiegelte Bilder

Medizinische Information

Eine Antwort an Fachkreise muss auf freigegebenen Quellen beruhen. Hinterher müssen Sie zeigen, auf welchen, in welcher Fassung.

Pharmakovigilanz

Enthält eine Anfrage einen Verdacht auf eine Nebenwirkung, darf er nicht verloren gehen. Sie wollen zeigen, wann er erkannt wurde und an wen er ging.

Compliance

Medizinische Antworten dürfen nicht zu Werbung werden. Ein Pfad dessen, worauf der Agent sich stützte, hilft zu zeigen, wo die Grenze lag.

Woran große Pharma-Teams mit KI heute hängen

Öffentliche Regelungsentwürfe, Branchen-Leitfäden und Studien zur Forschungsintegrität, mit der Quelle auf jeder Karte. Zu jedem Problem sagen wir, was Proof of Agent Work und Fortress heute abdecken und was nicht.

KI-Antworten brauchen einen Audit Trail

Teams für medizinische Information werden gefragt, ob sie für KI-gestützte Antworten einen vollständigen Audit Trail zeigen können. Erfundene Inhalte und die Verbreitung von Off-Label-Informationen gelten als Hauptrisiken; die Verantwortung bleibt beim Menschen im Team.

Was wir heute abdecken: Ein Beleg je Schritt nennt das freigegebene Quelldokument und seine Fassung, auf die der Agent sich stützte, das Modell mit Version und die Person, die die Antwort freigegeben hat.

Was nicht abgedeckt ist: Ob die Antwort medizinisch stimmt und ob sie Information oder Werbung ist. Das bleibt bei Ihren Prüfern.

Quellen: Medical Affairs roadmap (PDF) · IntuitionLabs: GenAI in Medical Affairs

EU-GMP Annex 11 und Annex 22 (Entwürfe)

Der Entwurf des überarbeiteten Annex 11 und der neue Annex 22 zu KI waren bis 7. Oktober 2025 in Konsultation und gelten nicht. Sie deuten schärfere Erwartungen an Audit Trails für GMP-Computersysteme an und für kritische GMP-Anwendungen statische, deterministische Modelle mit einem Menschen in der Schleife.

Was wir heute abdecken: Eine signierte, unabhängig zeitgestempelte Aufzeichnung dessen, was jeder Agentenschritt tat, die Ihre QS offline prüfen kann.

Was nicht abgedeckt ist: Es ist keine Validierung und macht kein Modell statisch. Annex 22 betrifft die GMP-Herstellung, nicht jeden Medical-Affairs-Ablauf; ob er gilt, bewerten Sie.

Quellen: gmp-compliance.org: Annex 22 draft · European Commission: consultation page

21 CFR 11.10(e): Audit Trails

Part 11 erwartet sichere, computererzeugte, zeitgestempelte Audit Trails für Handlungen, die elektronische Aufzeichnungen anlegen, ändern oder löschen.

Was wir heute abdecken: Eine hash-verkettete, zeitgestempelte Aufzeichnung der Agentenschritte, bei der jede spätere Änderung die Prüfung bricht. Der Pilot liefert ein Mapping-Dokument als Arbeitsgrundlage für QS und RA.

Was nicht abgedeckt ist: Es ersetzt nicht den Audit Trail Ihres validierten Systems (zum Beispiel des eQMS) und nicht die Part-11-Regeln zu elektronischen Signaturen, und es ist keine Validierung.

Quellen: eCFR: 21 CFR 11.10

Modelländerungen und Verwendungszweck

Der FDA-Entwurf vom Januar 2025 zu KI bei regulatorischen Entscheidungen verlangt eine Glaubwürdigkeitsbewertung je Verwendungszweck und die Dokumentation von Änderungen, die die Modellausgabe beeinflussen können. Er gilt für KI, die Daten für Entscheidungen zu Sicherheit, Wirksamkeit oder Qualität erzeugt.

Was wir heute abdecken: Jeder Schritt hält Modell und Version fest, eine Modelländerung zeigt sich also im Pfad.

Was nicht abgedeckt ist: Die Glaubwürdigkeitsbewertung selbst und alles außerhalb des Geltungsbereichs dieses Entwurfs.

Quellen: gmp-compliance.org: FDA draft guidance on AI · HHS: FDA draft guidance

Pharmakovigilanz und menschliche Aufsicht

Die CIOMS-XIV-Arbeit zu KI in der Pharmakovigilanz staffelt die menschliche Aufsicht nach Risiko; Behörden erwarten bei der Fallbearbeitung einen Menschen in der Schleife. Ein Verdacht auf eine Nebenwirkung darf nicht verloren gehen.

Was wir heute abdecken: Ein Beleg zeigt, wann der Agent einen Fall markiert hat, wohin er ging, und die signierte Freigabe der entscheidenden Person.

Was nicht abgedeckt ist: Fallkodierung, Meldefristen und Einreichungen. Wir melden nicht und verfolgen keine Fristen.

Quellen: Qualio: CIOMS XIV summary · ProPharma: AI in PV

Gefälschte Studien- und Mikroskopiebilder

Generative KI kann realistische Western Blots erzeugen, und freie KI-Detektoren schnitten in einer Studie von 2025 darauf schlecht ab. Paper Mills gelten als Hauptsorge. Das betrifft eigene Labore, Due Diligence und Einlizenzierung.

Was wir heute abdecken: Fortress SEAL: Ein Foto, das live in unserer Kamera-App aufgenommen wird, wird bei der Aufnahme versiegelt; nach jeder Änderung bricht das Siegel und die Prüfung zeigt, wo. Sinnvoll für Bilder, die Ihre eigenen Labore künftig aufnehmen.

Was nicht abgedeckt ist: Archive, hochgeladene und fremde Bilder lassen sich nicht versiegeln, es gibt keine nachträgliche Erkennung, und das SIEGEL sagt nie, ein Bild sei „nicht KI-erzeugt“.

Quellen: PeerJ: AI detectors and western blots · arXiv: explainable artifacts for synthetic western blots

Lecks und IP-Verfolgung

Unterlagen vor der Markteinführung, Dossiers und Schulungsmaterial gehen an viele Empfänger. Taucht eine Kopie auf, wollen Sie wissen, welche es war.

Was wir heute abdecken: Fortress TRACE: eine unsichtbar markierte Kopie pro Empfänger; eine gefundene Kopie verweist auf den Empfänger, an den sie ging.

Was nicht abgedeckt ist: Eine Markierung lässt sich mit Aufwand entfernen, und kein Treffer ist kein Beweis für kein Leck. Es ist Anlass für ein Gespräch, kein Urteil.

Modell- und Datenherkunft

Prüfer fragen, welches Modell welche Antwort erzeugt hat, in welcher Fassung, aus welchen Quellen.

Was wir heute abdecken: Der Beleg hält Modell, Version und die im Schritt genannten Quelldokumente fest.

Was nicht abgedeckt ist: Woher die Trainingsdaten eines Modells stammen und ob seine Ausgabe richtig war. Ein Beleg deckt ab, was protokolliert wurde.

Schätzen oder prüfen: probabilistisch gegen deterministisch

Deepfake-Detektoren schätzen

Ein Detektor sieht sich ein fertiges Bild an und gibt eine Wahrscheinlichkeit aus. Er kann sich in beide Richtungen irren, und jedes neue Generator-Modell macht ihm die Arbeit schwerer.

Fortress SEAL prüft

Ein Foto, das live in unserer Kamera-App aufgenommen wird, wird im Moment der Aufnahme versiegelt. Die Prüfung vergleicht das Foto mit diesem Siegel und antwortet mit Ja oder Nein: seit der Aufnahme verändert, und wenn ja, wo. Bestehende oder hochgeladene Fotos lassen sich nicht versiegeln, und das Abzeichen sagt „Captured live & unaltered“ (live aufgenommen und unverändert), nicht mehr.

POAW: ein Beleg pro Agentenschritt

Jeder Schritt eines KI-Agenten bekommt einen Beleg: signiert mit ML-DSA-65, zeitgestempelt nach RFC 3161, offline mit OpenSSL prüfbar. Das stützt die Nachweise für die Protokollpflichten des AI Act (Art. 12, 19 und 26 Abs. 6); es macht niemanden regelkonform.

Geplant, nicht gebaut: eine Beweiskette vom versiegelten Foto bis zur Entscheidung. Pilotpartner gesucht.

Der Film

Die Eingangsszene als kurzer Clip.

Das ganze Erklärvideo

Kapitel

Selbst ausprobieren: ein signierter Beleg zum Prüfen

So sieht der Beleg aus, den Ihr Agent nach dem Pilot bei jedem Lauf erzeugt. Synthetische Daten, echte Kryptografie: eine ML-DSA-65-Signatur und ein Zeitstempel nach RFC 3161 von einer unabhängigen Stelle. Prüfen Sie ihn im Browser, danach eine Kopie, in der ein Wert in Schritt 3 geändert wurde.

Schritt der visuellen Qualitätskontrolle (fiktive Charge)

SchrittWas der Agent tatZeit (UTC)
1Charge eingegangen
batchId: B-26-0417 · product: tablet 50 mg (fictional) · line: L3
06:15:00
2Bilder aufgenommen
station: inspection camera 2 · images: 3 × hash
06:15:42
3Defekte klassifiziert
model: vision-qc 1.7 · defectsFound: 2 · classes: chipped edge, spot · confidence: 0.94
06:15:44
4SOP-Grenzwert geprüft
sop: SOP-QC-112 v5 · acceptLimit: 3 · result: within limit
06:15:44
5Verwendung vorgeschlagen
disposition: forward to QA review
06:15:45
6Menschliche Freigabe
role: QA reviewer · approver: hash
07:02:19
7Datensatz archiviert
system: eQMS · record: hash
07:02:21

Diesen Beleg prüfenManipulierte Kopie prüfen

Beleg herunterladen (JSON) · Oder ziehen Sie die Datei selbst in die Prüfseite, ändern Sie eine Zahl im Texteditor und ziehen Sie sie erneut hinein.

Ihre Technik kann die Prüfung offline wiederholen, mit OpenSSL ab 3.5 und dem veröffentlichten Skript: Prüfpaket.

Was Sie bekommen

Jeder Punkt trägt seinen Stand aus unserem Funktionsregister: Gebaut, Pilot oder Roadmap. Der Hinweis am Etikett nennt den Beleg dafür.

Der rechtliche Rahmen

Wo ein Beleg hilft, eine Pflicht nachzuweisen. Er erfüllt die Pflicht nicht für Sie und macht niemanden von selbst rechtskonform. Keine Rechtsberatung.

AI Act Art. 12, 14 und 26

Protokollierung und menschliche Aufsicht bei Hochrisiko-KI. Ob Ihr Anwendungsfall Hochrisiko ist, bewertet Ihre Rechtsabteilung. Wo er es ist, hilft ein Beleg nachzuweisen, dass ein Log zu einem festen Zeitpunkt unverändert bestand und ein Mensch entschieden hat.

Quelle: eur-lex.europa.eu

AI Act Art. 50

Kennzeichnung KI-erzeugter oder manipulierter Inhalte. Fortress-Marken können helfen, die Kennzeichnung nachzuweisen. Ob und wie Art. 50 für Sie gilt, ist eine rechtliche Bewertung.

Quelle: eur-lex.europa.eu

Richtlinie 2001/83/EG, Art. 86 bis 88

Regeln zur Werbung für Arzneimittel. Der Beleg zeigt, auf welche freigegebene Quelle sich eine Antwort stützte; die Grenze zwischen Information und Werbung ziehen Sie.

Quelle: eur-lex.europa.eu

EMA GVP Modul VI

Erfassung und Meldung von Verdachtsfällen von Nebenwirkungen. Der Beleg hilft nachzuweisen, wann der Agent einen Fall markiert hat und an wen er eskaliert wurde.

Quelle: www.ema.europa.eu

DSGVO Art. 9

Gesundheitsdaten sind besondere Kategorien. Der Beleg speichert Hashes, nicht die Daten selbst.

Quelle: eur-lex.europa.eu

Geplant, noch nicht gebaut

Was als Nächstes kommt, je nach Bedarf und Investition. Nichts davon gehört zum Pilot.

Der Pilot: Umfang und Dauer gemeinsam festgelegt, Preis nach Scoping

Umfang

Ein Anfrage-Ablauf, ein Team, ein Produktbereich. Läuft in Ihrem Netz oder Cloud-Mandanten. POAW-Belege für die Agentenschritte und die menschliche Freigabe; optional TRACE für versandte Unterlagen. Abschlussbericht mit Go/No-Go. Ihr eigener Umsetzungspartner kann es anbinden: Wir übergeben das SDK und den Sandbox-Aufbau (eine Maschine, Docker). Der Zeitrahmen wird im Scoping festgelegt.

Preisrahmen: Preis nach dem Scoping, abhängig von Ihrem Prozess und Ihrer Umgebung.

Erfolgskriterien, beim Start schriftlich vereinbart

  • Mindestens 99 % der KI-Schritte im Pilot-Ablauf erzeugen einen prüfbaren Beleg.
  • Ihr Team prüft einen Beleg selbst, ohne unsere Hilfe (OpenSSL).
  • Der Mehraufwand pro Arbeitsschritt wird gemessen; das Ziel legen wir beim Start gemeinsam fest.

Quelle: unser schriftliches Pilotangebot; die Zielwerte sind das, was wir zu messen zusagen, keine Ergebnisse eines früheren Piloten.

Was Sie beisteuern

  • Einen konkreten Ablauf und eine verantwortliche Person
  • Testdaten oder Testbilder und Zugang zu einer Testumgebung
  • Ansprechpartner aus IT und Compliance oder Revision
  • Eine Verbindung zu einer Zeitstempel-Stelle, beim Signieren oder später (das Signieren selbst geht offline)
  • Ihre eigene rechtliche Bewertung
  • Freigegebene Quelldokumente und Testanfragen ohne echte Patientendaten

Sie möchten das schriftliche Pilotangebot? Wählen Sie unten „Über einen Piloten sprechen“, wir senden es mit unserer Antwort.