Das in Lausanne entwickelte Rahmenwerk dokumentiert Daten, Code und Auswertungen, um den Einsatz von Sprachmodellen im Gesundheitswesen besser nachvollziehbar zu machen.

Das Gesundheitswesen ist einer der Bereiche, in denen die Einführung derkünstliche Intelligenz und Big Data Man geht mit größerer Vorsicht vor, nicht aus Desinteresse, sondern weil Fehler direkte Folgen für Menschen haben. Umfangreiche Sprachmodelle werden bereits eingesetzt oder getestet, um Ärzte bei ihrer Arbeit zu unterstützen: Sie können bei der Diagnosestellung helfen, klinische Dokumentationen zusammenfassen, Prioritäten vorschlagen oder Entscheidungen in der Notaufnahme unterstützen. Der entscheidende Punkt bleibt jedoch die Überprüfbarkeit. Wenn ein System eine Empfehlung ausgibt, ohne seine Daten, Methoden und Trainingskriterien offenzulegen, wird die unabhängige Kontrolle gefährdet.

An diesem Punkt greift er ein. MeditronFO, angekündigt von derÉcole Polytechnique Fédérale de LausanneLaut der Universität Waadt handelt es sich hierbei um das erste vollständig offene Framework für den Aufbau von große SprachmodellärzteDer Fokus liegt nicht nur auf der Verfügbarkeit des finalen Modells, sondern auf der gesamten Entwicklungskette: Daten, Code, Schulungsverfahren, Dokumentation und Evaluierungen. In einer regulierten, sensiblen und professionell verantwortungsvollen Branche ist dieser Unterschied nicht unerheblich.

Das Projekt entstand im Jahr Labor für intelligente globale Gesundheits- und humanitäre Reaktionstechnologien, noto kommen HellIm Rahmen der Fakultät für Informatik und Kommunikationswissenschaften der EPFL. Die technische Grundlage bildet die bereits von Meditron (veröffentlicht 2023) genutzte Open-Source-Architektur. Die hier vorgestellte Weiterentwicklung zielt darauf ab, die gesamte Konstruktionsmethode transparenter zu gestalten. Das erklärte Ziel ist die „Medikalisierung“ grundlegender Open-Source-Modelle, also deren Anpassung an den Gesundheitsbereich durch klinisches Wissen, dokumentierte Datensätze und spezifische Validierungsverfahren.

Warum die Eröffnung mehr Gewicht hat als nur die Modelveröffentlichung.

Im KI-Jargon wird der Begriff „offen“ oft uneinheitlich verwendet. Ein Modell kann zwar Gewichtungen bereitstellen, aber die Datensätze, Filterschritte, Trainingsentscheidungen oder Evaluierungsprotokolle intransparent halten. Für die klinische Anwendung führt diese partielle Offenheit zu einem Problem bei der Überprüfung: Krankenhäuser, Forscher, Behörden und die medizinische Fachwelt können zwar die Ergebnisse einsehen, aber nicht immer nachvollziehen, wie diese erzielt wurden.

MeditronFO Versuche, diese Lücke zu schließen. Das Framework wurde auf vollständig offene Basismodelle angewendet, einschließlich OLMo, EuroLLM e Offen, ein Schweizer Modell, das von der EPFL und der ETH Zürich im Rahmen der Schweizer KI-Initiative entwickelt wurde. Dieser Schritt ist bedeutsam, da er den Fokus von isolierter Leistung auf Rückverfolgbarkeit der EntwicklungIn der Medizin kann es genauso wichtig sein, den Weg zu kennen, den ein System zu einer Reaktion zurücklegt, wie die Genauigkeit der Reaktion selbst zu messen.

Xavier Theimer-Lienhard, ein Doktorand, der Meditron bei LiGHT leitet, fasst das Prinzip mit einem direkten Vergleich zwischen klinischem Training und Modelltraining zusammen.

„Wir würden niemals einem Arzt vertrauen, dessen Ausbildung nicht nachweisbar ist: Derselbe Standard sollte auch für KI im Gesundheitswesen gelten.“

Die Aussage verdeutlicht einen Aspekt, der in der Debatte um generative Systeme oft übersehen wird: Zuverlässigkeit ist nicht gleichzusetzen mit der Verfügbarkeit einer effektiven Schnittstelle. Vielmehr erfordert sie Dokumentation, Reproduzierbarkeit und Kontrollierbarkeit. Das Thema betrifft auch die Sicherheit und PrivatsphäreDenn Gesundheitsmodelle verarbeiten Wissen und Daten, die unter Umständen sensible Informationen betreffen, selbst wenn sie keine direkt identifizierbaren medizinischen Aufzeichnungen enthalten.

Die offene Struktur beseitigt an sich nicht das Risiko von Verzerrungen, Fehlern oder Missbrauch. Sie reduziert jedoch eine der größten Hürden für unabhängige Analysen. Anders ausgedrückt: Sie garantiert nicht automatisch klinische Sicherheit, macht aber die Überprüfung, den Vergleich und die Verbesserung konkreter.

Kliniker, die am Bau beteiligt sind, nicht nur am Abschlusstest

Ein besonderes Merkmal des Projekts ist die Einbindung von medizinischem Fachpersonal von Beginn an. Laut EPFL wurde MeditronFO unter Beteiligung von Klinikern entwickelt, die an der Datenauswahl, der Validierung der Ergebnisse und der Identifizierung potenzieller kritischer Punkte beteiligt waren. Dieser Ansatz verringert das Risiko, formal hochentwickelte Instrumente zu entwickeln, die nur unzureichend mit der täglichen Praxis vereinbar sind.

Die Validierung wird ebenfalls durchgeführt. MOOVE, ein Akronym für Massive Open Online Validation and Evaluations (Massive offene Online-Validierung und -Evaluierung), bezeichnet eine Umgebung, in der Kliniker an der Bewertung und kontinuierlichen Verbesserung von Modellen mitwirken. Für eine Technologie, die für die Interaktion mit der realen medizinischen Praxis entwickelt wurde, ist dies ein entscheidender Punkt: Die Herausforderung besteht nicht nur darin, eine Frage korrekt zu beantworten, sondern dies unter Bedingungen zu tun, die denen im Arbeitsalltag eines Arztes ähneln – mit Zeitdruck, unvollständigen Informationen und operativen Verpflichtungen.

Das Framework kombiniert öffentliche medizinische Datensätze mit von Ärzten geprüften synthetischen Daten, die aus medizinischen Untersuchungen, Leitlinien und realen Patientenfällen stammen. Die EPFL-Quelle weist zudem auf die Verwendung von Experten zusammengestellten klinischen Datensätzen hin, die aus über 46.000 Leitlinien für die klinische PraxisDiese Daten sind wichtig, weil sie den Umfang der Dokumentation aufzeigen, die zur Spezialisierung der Modelle verwendet wird. Sie müssen jedoch im Zusammenhang mit der Frage der Qualität betrachtet werden: Im Gesundheitswesen reicht die Menge des integrierten Wissens nicht aus, wenn sie nicht durch Auswahl, Überprüfung und Kontextualisierung ergänzt wird.

Mary-Anne Hartley, Arzt und Direktor von ,Hell Verknüpft die Wettbewerbsfähigkeit von Modellen mit der aktiven Rolle von Klinikern und Gemeinschaften.

„Unsere Ergebnisse zeigen, dass wettbewerbsfähige medizinische Modelle durch die aktive Beteiligung von Ärzten und der Bevölkerung aufgebaut werden können.“

Dieser Wandel hat organisatorische Konsequenzen. Medizinische KI wird nicht mehr als ein von außen auf das Gesundheitssystem einwirkendes Werkzeug präsentiert, sondern als eine Softwarearchitektur, die gemeinsam mit denjenigen entwickelt wird, die mit Abläufen, wiederkehrenden Fehlern, institutionellen Beschränkungen und kontextuellen Unterschieden vertraut sind. Für Healthtech-Unternehmen, Universitätskliniken und Krankenhäuser ist die Lehre klar: Der Transfer vom Zentrum der KI in die Praxis erfordert die Zusammenarbeit mit Experten, die mit den Abläufen, wiederkehrenden Fehlern, institutionellen Beschränkungen und den Unterschieden zwischen den Kontexten vertraut sind. Forschung und Entwicklung Für die klinische Praxis ist eine gute Steuerung erforderlich, nicht nur Rechenleistung.

Technische Ergebnisse und die Rolle der Schweizer Hochleistungsrechenleistung

Hinsichtlich der Leistung berichtet die EPFL, dass jedes MeditronFO-Modell sein jeweiliges Basismodell übertroffen hat. Das beste Ergebnis, das in der Pressemitteilung genannt wird, betrifft Apertus-70B-MeditronFO, was die Leistung bei medizinischen Tests verbesserte 6,6 Prozentpunkte im Vergleich zum zugrunde liegenden Modell. Die Daten sollten mit Vorsicht interpretiert werden: Benchmarks sind zwar nützlich für den Vergleich technischer Konfigurationen, ersetzen aber keine klinischen Bewertungen unter realen Bedingungen.

Die industrielle Relevanz des Falls liegt auch in der ihn tragenden Infrastruktur. Die Entwicklung von MeditronFO wurde unterstützt durch Schweizer KI-Initiative, Zusammenarbeit zwischen EPFL, ETH Zürich und CSCSDas Schweizerische Nationale Supercomputing-Zentrum (SNC) hat das Programm ins Leben gerufen. Laut der Website der Initiative wurde es im Dezember 2023 mit über 1000 Rechenzentren gestartet. 10 Millionen GPU-Stunden auf Alps, dem vom CSCS betriebenen Supercomputer, und mit finanzieller Unterstützung von 20 Millionen Franken vom Bereich der Bundesfachhochschulen.

Diese Zahlen verdeutlichen, warum der Wettbewerb im Bereich KI im Gesundheitswesen weit mehr als nur Algorithmen und Datensätze umfasst. Er erfordert Rechenleistung, verteiltes Fachwissen, Evaluierungsinfrastrukturen und eine kritische Masse an Forschung. Die Schweizer KI-Initiative selbst gibt an, von den Beiträgen von über 800 Forscher, enthalten 70 Professoren mit Schwerpunkt KI, von mehr als zehn akademischen Institutionen in SchweizIn questo quadro, il Supercomputer Es handelt sich nicht um einen einfachen technischen Beschleuniger, sondern um einen Bestandteil der wissenschaftlichen Souveränität.

Die Verbindung zu Apertus untermauert diese Interpretation. Auf der Projektwebsite wird es als vollständig offenes Fundamentmodell für souveräne KI beschrieben, entwickelt von der Swiss AI Initiative in Zusammenarbeit mit der EPFL, der ETH Zürich und dem CSCS. Apertus beansprucht Offenheit in Bezug auf Gewichtungen, Daten, Code, Methoden und Ausrichtungsprinzipien. MeditronFO nutzt dieses Fundament als eines der Modelle, um sich auf den medizinischen Bereich zu spezialisieren und demonstriert so, wie ein vorgelagerter Ansatz für Offenheit besser kontrollierbare vertikale Anwendungen hervorbringen kann.

Von Experimenten bis zu den Stationen – das Testgelände in Tansania

Der nächste Schritt wird nicht nur ein neuer Modellvergleich sein. Laut EPFL bereitet das Team klinische Studien an mehreren Standorten vor, von Schweiz eine TansaniaZiel der Studie ist es, zu evaluieren, wie Ärzte KI im realen Gesundheitswesen einsetzen. Dabei wird beobachtet, ob Ärzte den generierten Empfehlungen folgen oder sie ablehnen und wie sich diese Entscheidungen auf die Patientenversorgung auswirken.

Das von der EPFL erwähnte mehrjährige Projekt, genannt Medizinische AnwendungZiel ist es auch zu verstehen, ob KI die Versorgungsqualität verbessern kann, indem unnötige Behandlungen und Eingriffe reduziert werden. Dies ist ein heikles Feld: Ein Entscheidungsunterstützungssystem kann nützlich sein, wenn es die Qualität der verfügbaren Informationen verbessert, aber problematisch werden, wenn es Automatisierung einführt oder übermäßiges Vertrauen in algorithmische Empfehlungen fördert.

Hartley fordert ausdrücklich, den Effekt in Behandlungspfaden zu messen, nicht nur in technischen Tests.

„Es ist wichtig, Feedback aus der Praxis zu erhalten, das auf den Patientenergebnissen basiert.“

Klinische KI wird glaubwürdiger sein, wenn sie überprüfbar ist.

Für den Gesundheitssektor schlägt MeditronFO eine klare Richtung vor: Klinische KI wird glaubwürdiger, wenn sie von unabhängigen Fachkreisen geprüft, angepasst und bewertet werden kann. Für Unternehmen bedeutet dies, dass proprietäre Modelle den steigenden Transparenzerwartungen gerecht werden müssen. Für Institutionen geht es um die Frage, wie Regeln definiert werden können, die zwischen formaler und tatsächlicher Offenheit unterscheiden.

Es ist unrealistisch anzunehmen, dass alle medizinischen Systeme darauf basieren Maschinelles Lernen e tiefe Lernen vollständig transparent werden. Es ist jedoch plausibel, dass das Gesundheitswesen höhere Standards für Dokumentation, Nachvollziehbarkeit und Verantwortlichkeit fordern wird, insbesondere wenn KI in Entscheidungsprozesse Einzug hält. In diesem Sinne sollte MeditronFO nicht einfach als neues Modell, sondern als Experiment in technischer Steuerung betrachtet werden: Es macht sichtbar, was oft hinter einer generierten Antwort verborgen bleibt.

Die entscheidende Frage ist daher nicht das abstrakte Versprechen leistungsfähigerer KI. Vielmehr geht es um die Art der Infrastruktur, die Gesundheitssysteme, Universitäten und Aufsichtsbehörden akzeptieren wollen. Wenn die Modelle in die klinische Praxis Einzug halten, muss Vertrauen auf überprüfbaren Elementen beruhen: Datenherkunft, unabhängige Audits, transparent gemessene Leistung und identifizierbare menschliche Verantwortung. MeditronFO stellt diese Elemente in den Mittelpunkt der Diskussion und überlässt es der klinischen Studie, ihre praktische Umsetzbarkeit zu bewerten.

Meditron Open Sources: Auditierbare KI-Workflows für klinische LLMs

Drei zentrale Einsichten, die besonders hervorzuheben sind:

Von der EPFL ein neues multimodales Modell für flexiblere KI
Apertus ist die Schweizer „Open AI“ für eine transparentere Zukunft.
Ein hochmodernes, vollständig auf KI basierendes Gesundheitszentrum in Genf