Nach Einschätzung der Autorinnen und Autoren kann agentische KI dazu beitragen, die medizinische Versorgung langfristig zu sichern, Qualität und Patientensicherheit zu erhöhen und die Verwaltung effizienter zu gestalten. Die Autorinnen und Autoren empfehlen, agentische KI als strategisches Schwerpunktthema in der Hightech Agenda des Bundesministeriums für Forschung, Technologie und Raumfahrt zu verankern.
Agentische KI unterscheidet sich von konventioneller KI, indem sie nicht nur einzelne Aufgaben wie Datenauswertung oder Bildinterpretation unterstützt, sondern auch eigene Maßnahmen plant und koordiniert. Sie kann innerhalb eines vorgegebenen – und von Menschen verantworteten – Rahmens selbstständig agieren. Mögliche Einsatzfelder reichen von Diagnostik und Therapie über die Überwachung des Gesundheitszustands von Patientinnen und Patienten bis hin zu Terminplanung, Dokumentation und der Steuerung von Behandlungsschritten. Sogar bei der Versorgung chronisch kranker Menschen kann agentische KI künftig eine Rolle spielen, etwa als digitaler Co-Pilot für Patientinnen und Patienten. In Disziplinen wie Pathologie und medizinischer Bildgebung könnten KI-gestützte Analysen die Konsistenz und Reproduzierbarkeit diagnostischer Prozesse erhöhen sowie verschiedene Patientendaten verknüpfen und Entscheidungsempfehlungen für mögliche Therapien geben.
Nach Einschätzung der Autorinnen und Autoren ist agentische KI insbesondere dafür geeignet, „wissensbasierte Prozesse“ zu automatisieren, also Abläufe, die sich aus medizinischem Wissen wie Leitlinien, standardisierten Arbeitsanweisungen (Standard Operating Procedures), Medikamenten- und Interaktionsregeln ableiten. In Kombination mit KI-Sprachmodellen kann sie dieses Wissen mit unstrukturierten Patientendaten verbinden, nötige Schritte oder Werkzeuge zur Umsetzung koordinieren und bei Bedarf bestimmte Vorgänge an Fachpersonal weiterleiten.
Die Integration agentischer KI in das Gesundheitswesen sei kein fernes Zukunftsszenario, sondern zeichne sich bereits jetzt ab. Deshalb sollten aus Sicht der Autorinnen und Autoren schon jetzt die Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Sie empfehlen, agentische KI als strategisches Schwerpunktthema in der Hightech Agenda der Bundesregierung zu verankern, domänenspezifische KI-Systeme für die Medizin gezielt zu fördern, regionale Kompetenzzentren aufzubauen, rechtssichere Erprobungsräume zu schaffen und die digitale Infrastruktur im Gesundheitswesen auszubauen. Die Publikation betont, dass dabei die Kontrolle über medizinische Prozesse letztlich beim Menschen verbleiben muss. Transparenz und Nachvollziehbarkeit seien zentrale Voraussetzungen, um Verantwortlichkeit sicherzustellen und Vertrauen in die Technologie zu schaffen.
Ein zentrales Thema der Publikation ist die technologische Souveränität. Die Grundlagenforschung im Bereich agentischer KI sei in Deutschland und Europa stark, doch gelinge es zu selten, deutsche oder europäische Produkte bis zur Marktreife zu entwickeln und entsprechend zu skalieren. Die Autorinnen und Autoren sprechen sich daher für Partnerschaften zwischen Universitätskliniken, Forschungseinrichtungen und Industrie aus.
Für den verantwortungsvollen Einsatz agentischer KI brauche es zudem pragmatische und verlässliche regulatorische Rahmenbedingungen. Diese müssten die Nutzung innovativer KI-Anwendungen ermöglichen und zugleich Nachvollziehbarkeit, Verantwortlichkeit, den Schutz sensibler Gesundheitsdaten sowie faire Entscheidungsprozesse sichern. Aufsichtsbehörden sollten dabei nicht allein als Kontrollinstanzen auftreten, sondern ihre Beratungsfunktion stärker wahrnehmen und Innovatoren bei der rechtssicheren Implementierung von KI-Anwendungen begleiten.