Gehirn
|

Optimierung multimodaler Sprachmodelle in der Radiologie durch gewichtete Integration von Bild- und Kontextinformationen am Beispiel der Neuroonkologie

Institution: Institut für Diagnostische und Interventionelle Radiologie, Universitätsklinikum Köln
Antragsteller: Dr. Jonathan Kottlors
Förderlinie:
Erst- und Zweitantragstellung
Jonathan Kottlors

Radiologische Entscheidungen basieren auf der Integration visueller Bilddaten und klinischer Informationen. Multimodale Large Language Modelle können beide Modalitäten verarbeiten, bislang jedoch ohne gezielte Gewichtung. Ziel des Projekts ist es, am Beispiel der Neuroonkologie systematisch zu untersuchen, wie Bild- und Kontextinformationen optimal kombiniert werden können, um diagnostische Präzision zu steigern, Fehlinterpretationen zu reduzieren und Fallverläufe strukturiert – auch visuell unterstützt – darzustellen.

Das Projekt umfasst drei Arbeitspakete: (1) Untersuchung des Einflusses synthetischer klinischer Zusatzinformationen unterschiedlicher Spezifität auf die visuelle Tumorerkennung sowie Entwicklung von Gewichtungsstrategien; (2) Validierung dieser Strategien an realen neuroonkologischen Fällen; (3) Überführung der Ergebnisse in ein System zur automatisierten Erstellung strukturierter, visuell angereicherter Fallübersichten für Tumorboards.

Ziel ist die Ableitung belastbarer Konzepte zur multimodalen Informationsintegration sowie die Bereitstellung standardisierter Gewichtungsschemata und Promptvorlagen für den klinischen Einsatz.