Licht im KI-Normendschungel – Klarheit über die Anforderungen und fehlende Normen zur Erfüllung des AI Act

In seinem Vortrag „Licht im KI-Normendschungel – Klarheit über die Anforderungen und fehlende Normen zur Erfüllung des AI Act“ wird Dominik Kowalski von Brainlab die aktuellen Entwicklungen und Herausforderungen im Bereich der Künstlichen Intelligenz (KI) beleuchten. Ein Fokus liegt dabei auf den Anforderungen des AI Act und den noch fehlenden Normen, die notwendig sind, um diesen zu erfüllen. Der Vortrag bietet einen umfassenden Überblick über die Fortschritte des letzten Jahres und gibt Einblicke in die zukünftigen Schritte, die erforderlich sind, um eine klare und strukturierte Normenlandschaft für KI zu schaffen.

Referent: Dominik Kowalski, Brainlab

Nach seinem Abschluss als Dipl. Ing. Mikrosystemtechnik in Freiburg 2003 ist Dominik Kowalski im Bereich Medizintechnik tätig. Herr Kowalski arbeitet sich in die Anforderungen der IEC 60601 ein und setzt diese erfolgreich zuerst als Elektronik Entwickler und dann als Projekt Engineer / Projektleiter in verschiedenen Projekten ein.

Bei Brainlab wurde er Mitglied im NAR (Nominierungsausschuss Radiologie) und in Folge auch Mitglied im IEC (SC62CWG1 Strahlentherapie). In diesem Umfeld gestaltete er verschiedene Normen mit und setzte diese auch bei seiner Arbeit im Bereich Strahlentherapie im Rahmen von CB Reports ein.

Aufgrund der steigenden Anforderungen im Bereich Erstfehlersicherheit arbeitet Herr Kowalski bei der IEC an den kommenden Normen zu diesem Thema mit. Dieses Konzept verantwortet Herr Kowalski im Bereich der Strahlentherapie, was auch in verschieden Audits stand hielt.

IEC TC62s Standards für KI unterstützte Medizinprodukte

IEC TC62 hat teilweise zusammen mit ISO TC210 ein Arbeitsprogramm für Medizinprodukte, die KI verwenden, auf die Beine gestellt, dass aus Sicht von IEC TC62 die Basisanforderungen der KI Regulierungen weltweit abdeckt, soweit sie Medizinprodukte betreffen.

Es setzt auf internationale Standards auf und ist im Unterschied zu horizontalen Standards in die bestehende Landschaft der Medizinproduktestandards einfügt.

Auf Grund dieser Eigenschaft ist es aber vollkommen anders strukturiert als die horizontalen Standards, was eine Herausforderung in Regionen darstellen kann, die alle KI verwendenden Produkte mit horizontaler-Gesetze regulieren (z.B. EU, Korea)

Der Vortrag möchte ich das Arbeitsprogramm vorstellen und auch erläutern, wie es zusammen mit den Basisstandards für Medizinprodukte (e.g. ISO 14971, ISO 62366-1) die Anforderungen abzudecken glaubt.

Referentin: Regina Geierhofer, Siemens Healthineers

Frau Geierhofer ist derzeit Sekretärin des IEC TC62, SC62B, SC62C und Obfrau der „Advisory Group for software, network and AI (AG SNAIG)“, die IEC TC62 hinsichtlich neuer Technologien („emerging technologies“) berät.

Nach ihrem Studium der Angewandten Chemie und der Angewandten Mathematik arbeitete Frau Geierhofer ein Jahrzehnt lang in einem Universitätskrankenhaus in Österreich, mit Schwerpunkt auf IT für Radiologie, Nuklearmedizin und Pathologie. Das umfasste Routinesysteme, aber auch Expertensysteme zur Erschließung medizinischer Texte.

Sie wechselte in die Industrie, wo sie für verschiedene internationale Unternehmen als Risikomanagerin bzw. Regulatory Affairs Managerin tätig war.

Sie besitzt eine Zertifizierung als Lead Auditor für Medizinprodukte und Informationssicherheit sowie eine Zertifizierung als Risikomanagerin.

Während mehr als 20 Jahren war sie auch in der nationalen und internationalen Normung auf dem Gebiet der Normung von Medizinprodukten und der Sicherheit auf nationaler und internationaler Ebene tätig.

„Prof. Valmed® – Der erste KI-gestützte Medizin-Co-Pilot mit CE-Zertifizierung der Klasse IIb“

Künstliche Intelligenz revolutioniert das Gesundheitswesen – doch wie kann sie sicher und zuverlässig in der klinischen Praxis eingesetzt werden? Prof. Valmed® ist das erste KI-gestützte Clinical Decision Support System (CDSS) in Europa, das als Medizinprodukt der Klasse IIb gemäß EU-MDR zertifiziert wurde. Diese Zertifizierung garantiert höchste Sicherheits- und Qualitätsstandards für den Einsatz in der medizinischen Entscheidungsfindung.

In diesem Vortrag beleuchten wir, wie Prof. Valmed® Ärztinnen und Ärzte mit validierten, evidenzbasierten Empfehlungen unterstützt, um Diagnose- und Therapieentscheidungen effizienter zu gestalten. Wir zeigen, welche Herausforderungen bei der Zulassung einer medizinischen KI bestehen, welche regulatorischen Anforderungen erfüllt werden müssen und warum zertifizierte KI-Anwendungen essenziell für die Zukunft der digitalen Medizin sind. Zudem geben wir einen Ausblick auf die Skalierung in Europa und die nächsten Schritte für den breiten Einsatz von Prof. Valmed®.

Referentin: Dr. Vera Rödel, Prof. Valmed

Dr. Vera Rödel ist eine erfahrene Juristin mit ausgewiesener Expertise im Medizinrecht, der Regulierung von Medizinprodukten und der digitalen Gesundheitsbranche. Sie ist CEO und Mitgründerin von Prof. Valmed®, dem ersten KI-gestützten Medizinprodukt der Klasse IIb in Europa, das Ärztinnen und Ärzte in Diagnostik und Therapie unterstützt. Mit ihrer tiefgehenden regulatorischen Erfahrung treibt sie die Entwicklung und Markteinführung innovativer KI-Lösungen im Gesundheitswesen voran. Ihre Karriere begann sie als Rechtsanwältin mit Fokus auf Medizinprodukterecht und Compliance, bevor sie in führenden Positionen in der Gesundheits- und Tech-Branche tätig wurde. Dr. Rödel kombiniert juristische Präzision mit unternehmerischer Vision, um sichere und effiziente KI-Lösungen für die medizinische Praxis zu etablieren. Sie verfügt über ein starkes internationales Netzwerk und arbeitet eng mit Behörden, Industriepartnern und medizinischen Fachgesellschaften zusammen. Ihre strategische Führung hat Prof. Valmed® zur ersten CE-zertifizierten KI-Lösung dieser Art in Europa gemacht. Neben ihrer Arbeit engagiert sie sich für die Weiterentwicklung der Regulierungslandschaft im Bereich Künstliche Intelligenz in der Medizin. Sie ist eine gefragte Expertin und Sprecherin zu den Themen digitale Gesundheitsinnovationen und KI-Regulierung. Mit ihrer Arbeit setzt sie neue Standards für die sichere und verantwortungsvolle Integration von KI in die medizinische Versorgung.

Optimierung regulatorischer Prozesse durch KI

Wie Künstliche Intelligenz (KI) als Schlüsseltechnologie eingesetzt werden kann, um regulatorische Herausforderungen in der Medizinproduktebranche zu bewältigen. Es wird aufgezeigt, wie KI-gestützte Lösungen die Komplexität behördlicher Anforderungen reduzieren, Dokumentationsprozesse optimieren und die Einhaltung von Vorschriften erleichtern können.

Referent: Michael Galliker

Mit über 15 Jahren Erfahrung in der Medizinproduktebranche hat sich Michael Galliker in seiner Karriere der Bewältigung der Komplexität regulatorischer Angelegenheiten verschrieben. Als Gründer und CEO der Regulatory Globe GmbH ist Michael nicht nur Unternehmer, sondern auch ein visionärer Denker, der Technologie und Compliance verbindet.
Angetrieben von seiner Leidenschaft für Innovation kombiniert Michael sein fundiertes regulatorisches Wissen mit der revolutionären KI-Technologie, um die Bewältigung globaler Regulierungen für Medizinprodukteunternehmen zu revolutionieren. Er hat „Elly“ einen KI-basierten Regulatory Affairs Assistant entwickelt. Seine Vision ist klar: Unternehmen durch den Einsatz von KI zu stärken, um regulatorische Prozesse zu vereinfachen und ihnen zu ermöglichen, ihre Ressourcen in die Entwicklung hochwertiger und lebensverändernder Produkte zu lenken.

KI, die wirkt – Erfolgsmodelle in der MedTech-Praxis

Nach rund einer Dekade intensiver Produkt- und Marktentwicklung hat sich der Einsatz von Künstlicher Intelligenz in der Medizintechnik deutlich professionalisiert. Anwendungen auf Basis von Deep Learning und zunehmend auch Large Language Models haben die Forschungsphase hinter sich gelassen und schaffen nachweislich klinischen Mehrwert. Dies betrifft längst nicht mehr nur die Vorreiter in der medizinischen Bildgebung, sondern reicht von Robotik bis hin zu administrativen Workflows. Für Medizintechnikhersteller bedeutet dies, dass neue Chancen aber auch Risiken für bestehende Geschäftsmodelle entstehen.
Aus dem Rückblick auf etablierte und gescheiterte Versuche, den Versorgungsalltag mit künstlicher Intelligenz zu verbessern, lassen sich Kriterien für zukünftige Innovationsstrategien extrahieren. Erfolgreiche KI-Geschäftsmodelle basieren nicht primär auf technologischer Exzellenz, sondern auf Evidenz für medizinischen und betriebswirtschaftlichen Nutzen sowie einer ganzheitlichen Berücksichtigung des klinischen Kontexts. Der Beitrag zeigt, wie Unternehmen heute strategisch agieren müssen, um KI-basierte Lösungen erfolgreich in Markt und Klinik zu bringen und welche Denkweisen, Partnerschaften und Vermarktungsansätze dabei den Unterschied machen.

Referent: Dr. Stefan Braunewell, Synwisery

Dr. Stefan Braunewell ist Strategieberater für Künstliche Intelligenz in der Medizin. Nach der Promotion in theoretischer Physik umfasste seine Laufbahn leitende Rollen in den Bereichen Forschungstransfer, Strategie und Geschäftsentwicklung. Als Mitglied der erweiterten Institutsleitung am Fraunhofer-Institut für Digitale Medizin war er zuständig für Verwertung von Technologien im Bereich Bildverarbeitung. Bei Konica Minolta gründete und leitete er das KI-Innovationslabor für das globale Medizintechnikgeschäft und für das Münchner Startup deepc war er maßgeblich an der Entwicklung des Plattformgeschäfts für Radiologie KI beteiligt.
Als Mitgeschäftsführer von Synwisery berät er Medizintechnik- und HealthTech-Unternehmen in Strategie und Vermarktung von KI-gestützten Innovationen. Aktuell unterstützt er zudem den Strategischen BMBF-Dialog „Klinisches Lebenszyklusmanagement KI-gestützter Medizinprodukte“.

Bridging AI Regulation and Technical Standards for Trustworthy Medical AI

As AI systems increasingly support clinical decision-making, ensuring their trustworthiness becomes critical. This presentation connects horizontal AI regulations—with a focus on the EU AI Act—to technical standards that address key dimensions of robustness, safety, fairness, and explainability.
Through realistic hypothetical use cases, we demonstrate how these principles can be operationalized and tested in practice:
1) a diagnostic chatbot advising patients on care pathways,
2) a computer vision tool classifying skin lesions accessible to both patients and professionals,
3) a semantic segmentation system for brain tumors, aiding surgical decision-making.
We explore how technical standards contribute to testing and verification frameworks, aligning legal requirements with engineering practices.

Referenten: Arman Iranfar und Mazen Mansour, CertX AG

Arman Iranfar: PhD in applied machine learning in embedded systems from EPFL, Switzerland
Swiss delegate in ISO JTC 1 SC 42: Artificial Intelligence
Swiss delegate in JTC 21 CEN-CENELEC Artificial Intelligence

Mazen Mansour: Head of Functional Safety

KI und Datenschutz: Wer schützt unsere Daten im Zeitalter der Intelligenz?

Im digitalen Zeitalter ist Künstliche Intelligenz allgegenwärtig – sie optimiert Prozesse, trifft Entscheidungen und verändert, wie wir leben und arbeiten. Doch inmitten dieser Revolution stellt sich eine brennende Frage: Wer schützt unsere Daten, wenn Maschinen immer intelligenter werden?

Martin Schiele, KI-Experte und Gründer eines innovativen Unternehmens, geht in dieser Keynote den brisanten Fragen rund um Datenschutz und sichere KI auf den Grund. In einer Zeit, in der Datenschutz immer mehr zur Achillesferse digitaler Innovation wird, zeigt er auf, wie Unternehmen KI erfolgreich und datenschutzkonform einsetzen können – ohne Kompromisse bei der Sicherheit zu machen.

Er beleuchtet, warum KI und Datenschutz nicht miteinander konkurrieren, sondern Hand in Hand gehen müssen, wenn Unternehmen den Schritt in die Zukunft wagen wollen. Wie kann man Prozesse automatisieren, KI-gestützte Chatbots sicher und datenschutzkonform einsetzen und dabei gleichzeitig den größtmöglichen Nutzen erzielen? Was sind die Risiken und wie können Unternehmen sich davor schützen?

Martin präsentiert praktische Lösungen und Use Cases, die zeigen, wie KI in verschiedenen Branchen implementiert wird, ohne dass der Datenschutz gefährdet wird. Dabei wird klar: In der Welt der Künstlichen Intelligenz sind nicht nur technologische Innovationen gefragt, sondern vor allem auch rechtliche und ethische Verantwortung.

Seien Sie dabei, wenn Martin Schiele zeigt, wie Unternehmen sicher durch die digitale Transformation navigieren können – ohne die Privatsphäre ihrer Kunden und Mitarbeiter zu gefährden.

Referent: Dr. Martin Schiele, AIUI GmbH

Dr. Martin Schiele ist ein führender Experte im Bereich Künstliche Intelligenz (KI) und Gründer eines erfolgreichen Unternehmens, das sich auf die sichere und effiziente Implementierung von KI-Lösungen spezialisiert hat. Seit 2021 unterstützt er Unternehmen dabei, KI-Technologien gezielt einzusetzen, um Prozesse zu automatisieren, Innovationen voranzutreiben und Wettbewerbsvorteile zu sichern.

Mit seiner langjährigen Erfahrung und tiefen Expertise hat Martin Schiele bereits zahlreiche namhafte Veranstaltungen bereichert, darunter die Hannover Messe, der Kongress für Einzelfertiger, die KI Connect Karlsruhe und der ERWICON Wirtschaftskongress. Als gefragter Speaker begeistert er sein Publikum mit praxisnahen Einblicken, klar verständlichen Erklärungen und konkreten Anwendungsbeispielen aus verschiedenen Branchen.

Im Jahr 2023 wurde er mit den Auszeichnungen „Innovator des Jahres“ und dem Thüringer Digitalpreis geehrt – eine Bestätigung seiner herausragenden Arbeit im Bereich der digitalen Transformation und Künstlichen Intelligenz.

Martin Schiele vermittelt nicht nur fundiertes Fachwissen, sondern inspiriert auch dazu, KI als strategisches Werkzeug für die Zukunft zu nutzen. Er ist ein echter Vordenker und treibende Kraft in der digitalen Revolution.

Künstliche Intelligenz in der Clinical Decision Support Software – Chancen und Herausforderungen

Künstliche Intelligenz (KI) spielt eine immer größere Rolle in der medizinischen Entscheidungsunterstützung. Während KI-gestützte Clinical Decision Support Software (CDSS) das Potenzial hat, die Patientenversorgung zu verbessern, stellt ihre Entwicklung und Markteinführung Unternehmen vor verschiedene Herausforderungen – insbesondere in Bezug auf regulatorische Anforderungen.

Je nach Markt können CDSS-Lösungen mit KI unterschiedlich klassifiziert werden: In einigen Ländern gelten sie als Medizinprodukte mit entsprechenden Zulassungspflichten, während andere regulatorische Rahmenbedingungen – wie die aktuelle FDA-Guidance in den USA – unter bestimmten Umständen eine andere Einordnung erlauben. Diese Unterschiede beeinflussen nicht nur den Innovationsprozess, sondern auch die Verfügbarkeit und Skalierbarkeit solcher Systeme.

Der Vortrag gibt einen Überblick über aktuelle Entwicklungen in diesem Bereich und beleuchtet einige zentrale Fragestellungen: Wie können Unternehmen mit regulatorischer Unsicherheit umgehen? Welche Rolle spielen Transparenz und Nachvollziehbarkeit von KI-Entscheidungen? Und welche Trends zeichnen sich für die Zukunft ab?

Referentin: Verena Wieser, Lorit Consultancy GmbH

Verena arbeitet seit 10 Jahren im Bereich Medizinprodukte und ist auf Software as a Medical Device (SaMD) spezialisiert.

Als Software-Engineer konnte sie praktische Erfahrung im Softwarelebenszyklus von der initialen Anforderungsformulierung, über die Implementierung von Anforderungen bis hin zum Testen von Software sammeln. Ein besonderer Fokus lag dabei auch auf der Validierung nach dem GAMP 5 Standard.

Nach ihrer Tätigkeit als Software-Engineer wechselte Verena in den Bereich Qualitätsmanagement/ Regulatory Affairs und arbeitete in Projekten zur kontinuierlichen Verbesserung der QMS-Prozesse, insbesondere des Software-Entwicklungsprozesses nach IEC 62304 und dem Risikomanagementprozesse nach ISO14971, mit.

Als interne Auditorin führte sie interne Audits für die MDD, MDR und die Standards 9001 und 13485 durch.

Klinische Daten für die KI-Entwicklung: Das Universitätsklinikum Augsburg und M3i entwickeln eine innovative Plattform für die effiziente Zusammenarbeit zwischen Industrie und Kliniken

Von der Datenerhebung über den Datenaustausch bis hin zur Annotation ist der Weg der klinischen Daten von vielen Medienbrüchen geprägt, die in der Regel mit viel Aufwand und Ressourcen verbunden sind. In dem von Bayern Innovativ geförderten Forschungsprojekt DRIVE arbeitet die Industrie-in-Klinik-Plattform M3i gemeinsam mit dem Universitätsklinikum Augsburg an der Digitalisierung der Datenerfassung und -verarbeitung auf einer einzigen Plattform. Ziel ist es, Medizintechnikunternehmen einen schnelleren Überblick über die im Klinikum vorhandenen Daten zu verschaffen und diese in den Entwicklungsprozess zu integrieren sowie die Einbindung von klinischen Experten in die Datenauswertung und Validierung von Medizintechnikprodukten zu erleichtern. Mit der Plattform wird eine Proof-of-Concept-Forschungsstudie durchgeführt.

Diese Forschungsstudie umfasst die Entwicklung einer Softwareplattform, die auf künstlicher Intelligenz (KI) basierende Algorithmen verwendet, um MRT-Bilddaten von echten Patienten auszuwerten. Anhand der Lokalisierung von Hirntumoren und ihrer Lagebeziehung zu funktionell wichtigen Hirnarealen (z. B. motorischer Kortex, Sprachzentrum) oder Faserbahnen (z. B. Sehbahn, Pyramidenbahn) soll das Risiko einer möglichen Beeinträchtigung durch eine Operation vorhergesagt werden.

Referenten: Berinyuy Basil und Ikenna Ikeliani, inventorai / M3i GmbH

Berinyuy Basil: Medical doctor passionate about bridging the gap between medicine and technology.

Ikenna Ikeliani: Medical expert/ senior project manager

Best Practices for Testing Medical AI Models

As artificial intelligence (AI) becomes increasingly integrated into medical applications, ensuring its reliability, safety, and regulatory compliance is paramount. This presentation outlines a structured approach to testing medical AI models, balancing technical robustness with the regulatory requirements of the FDA, MDR, and the EU AI Act.

We propose comprehensive testing steps that includes clinical validation (using multi-center datasets, performance metrics like AUC-ROC, and statistical validation via scikit-learn), bias and fairness assessments, explainability analysis (leveraging SHAP, LIME, and TCAV for regulatory transparency), stress testing (robustness testing under challenging conditions, such as noisy or low-quality images), and post-market surveillance (continuous performance monitoring with MLflow, TensorFlow Model Analysis, and real-world drift detection strategies). Each of these testing methods ensures that medical AI models are accurate, fair, explainable, robust and continuously monitored.

Additionally, we discuss the integration of regulatory compliance into the testing pipeline, ensuring adherence to the FDA’s Total Product Lifecycle (TPLC) approach, MDR’s Clinical Evaluation Report (CER) requirements, and the EU AI Act’s risk classification framework.

By adopting a rigorous, regulation-aware testing strategy, medical AI developers can not only enhance model performance and reliability but also accelerate market approval and build trust with clinicians and patients.

Note: This presentation is based on insights gathered from research articles, online resources, and industry learnings.

Referent: Pranav Sharma, sepp.med GmbH

I am Pranav Sharma, a Software Developer at sepp.med GmbH, with a strong focus on software development, test automation, and quality assurance. Over the past three years, I have been closely working in Image Quality R&D at Advanced Therapies, Siemens Healthineers, gaining hands-on experience in ensuring the reliability and compliance of image processing algorithms. My expertise lies in software development, designing and implementing robust testing frameworks, and aligning software quality assurance with industry regulations. My personal interests are AI advancements, AI testing methodologies, and the development of safe and regulatory-compliant AI systems.

Large Language Modelle in der Entwicklung der Medizingeräte – Aspekt des Risikomanagements von Halluzination

Die rasante Entwicklung von Large Language Modellen (LLMs) kann die Entwicklungsprozesse von Medizingeräten grundlegend transformieren. LLMs können u. a. Code und technische Dokumentationen erstellen, unterstützen die Analyse von Log-Dateien bzw. Fehler oder tragen allgemein zur Konzept- und Designphase bei. Ein sicherheitskritisches Risiko von LLMs ist das Phänomen der Halluzinationen, d.h. überzeugend vorgebrachter Behauptungen, die sich als faktisch inkorrekt oder frei erfunden erweisen. Wir entwickeln Vorschläge für Best Practices zur Beherrschung von Halluzinationen anhand von Beispielen, z.B. eines Fehlerbericht- und Log-Datei-Analysators. Eine sorgfältige Prüfung von Vorrausetzungen für die Anwendung von LLMs wird kombiniert mit der Implementierung spezifischer Risikobeherrschungsmaßnahmen, sowie die regulatorische Rahmenbedingungen. Vorteile und Nachteile solcher Maßnahmen werden abgewogen u. a. für Prompt- Engineering, Retrieval-Augmented Generation, Finetuning, Reinforcement Learning with Human Feedback, Direct Preference Optimization, Mixture-of-Experts Language Modelle, Semantische Funktionen und Faktenprüfungsmodelle.

Referenten: Ernst Wellnhofer, IMSC und Cheng Ni, Hamilton Bonaduz AG

Ernst Wellnhofer arbeitet als freier Senior-Berater u. a. für die Fa. InnoVance und die Charité. Der habilitierte und promovierte Mediziner war mehrere Jahrzehnte als Kardiologe tätig und ist Gastwissenschaftler am Institut für kardiovaskuläre Computer-assistierte Medizin und Externer Dozent am Fernstudieninstitut der Berliner Hochschule für Technik. Schwerpunkte seiner Fortbildung und Beratung sind die Entwicklung und Regulation von Software für oder als Medizinprodukte, wobei die mit der Integration Künstlicher Intelligenz und der Vernetzung der Medizinprodukte auftretenden Chancen, Risiken und regulatorischen Herausforderungen im Vordergrund stehen. Der Referent Ist seit Beginn 2024 Vorsitzender im Fachausschuss „Software in der Medizintechnik“ im VDI.

Cheng Ni ist erfahrenen Software-Architekt und AI-Experte mit mehr als 15 Jahren Berufserfahrung bei Sulzer Metco, Belimed und Hamilton, wo er maßgeblich an der Optimierung von Softwarelösungen für medizinische Geräte arbeitete. Studium in China und an RWTH Aachen mit Abschluss Informatik. Forschung & Promotion im Bereich Maschinenbau am Fraunhofer-Institut IAO. Cheng Ni ist seit Jahren aktives Mitglied des VDI-Fachausschusses für Medizinsoftware. Seine umfassende Erfahrung aus Forschung, Industrie und Standortsetzung prägt eine integrative Sichtweise auf die Entwicklung zukunftsorientierter Lösungen in der Medizintechnik.