KI hält zunehmend Einzug in viele Lebensbereiche, auch in die Medizin, etwa durch Wearables. Führende Unternehmen arbeiten zudem daran, LLMs in Kliniken einzusetzen. Aktuelle Studien zeigen jedoch, dass diese Modelle dafür noch nicht ausreichend vorbereitet sind und Patientinnen und Patienten sogar gefährden könnten. Daher müssen KI-Anwendungen in Hochrisikobereichen wie der Medizin überprüfbar bleiben und menschliche Eingriffe ermöglichen, um Fehler zu vermeiden. Dies spiegelt sich auch im EU AI Act wider. Für eine sichere, transparente und verlässliche Nutzung dieser Technologie ist weitere Forschung somit dringend erforderlich. Das Projekt integriert verschiedene Ansätze, um medizinisches „Wissen“ in aktuelle LLMs einzubinden, und bewertet deren klinische Wirkung. Ziel ist es, das klinische Urteilsvermögen der Modelle zu verbessern, eine datenbasierte, robuste Bewertung zu ermöglichen und die Entwicklung eines medizinisch fundierten klinischen Entscheidungssystems zu unterstützen. Indem das Projekt Methoden zur Verbesserung von Robustheit, medizinischer Genauigkeit und Leitlinientreue von LLMs entwickelt, trägt es zur Patientensicherheit in der zunehmend digitalisierten Gesundheitsversorgung bei