Leopoldina Menü

Leopoldina Home

Gemeinsamer Ausschuss Dual Use

Sicherheit statt Freiheit? Forschung zwischen Erkenntnisgewinn und Risikosteigerung

Sicherheit statt Freiheit? Forschung zwischen Erkenntnisgewinn und Risikosteigerung

Foto: David Ausserhofer für die Leopoldina

Am 1. April 2019 fand ein Gesprächsabend des Gemeinsamen Ausschusses zum Umgang mit sicherheitsrelevanter Forschung im Rahmen der Kampagne „Freiheit ist unser System“ der Allianz der zehn Forschungsorganisationen zur Wissenschaftsfreiheit in der Hörsaalruine der Charité in Berlin statt.

 

Gefragt wurde danach, wer die Verantwortung trägt, wenn Forschungsergebnisse auch unbeabsichtigte schädliche Folgen haben und ob die eigenverantwortliche Restriktion der Forschenden ausreicht, um dystopischen Szenarien vorzubeugen.

In der Einführung stellte der Leiter der Geschäftsstelle des Gemeinsamen Ausschusses, Johannes Fritsch, die Empfehlungen von DFG und Leopoldina „Wissenschaftsfreiheit und Wissenschaftsverantwortung“ vor und erläuterte die Arbeit des Gemeinsamen Ausschusses und dessen Ziele, die Forschungseinrichtungen bei der Etablierung von Kommissionen für Ethik sicherheitsrelevanter Forschung zu unterstützen, die Wissenschaft in diesem Themenfeld zu beraten sowie das Bewusstsein zu stärken für einen möglichen Missbrauch von Forschungsergebnissen. Anschließend entwarf der Science-Fiction-Autor Andreas Brandhorst ein dystopisches Szenario zur Künstlichen Intelligenz (KI). Er postulierte, dass die Menschheit bereits am Abgrund stehe und Gefahr laufe, die Kontrolle über ihre selbstgeschaffene Technologie zu verlieren.

In der abschließenden Podiumsdiskussion, die von der Wissenschaftsjournalistin Verena Gonsch moderiert wurde, debattierten Andreas Brandhorst und Jochen Taupitz, Experte für Medizin- und Gesundheitsrecht sowie Bioethik, über die Risiken des wissenschaftlichen Fortschritts für die Gesellschaft. Taupitz wies auf das hohe Gut der Wissenschaftsfreiheit hin und plädierte dafür, die Chancen der Forschung voll auszuschöpfen. Gleichzeitig müsse man potentielle Gefahren, die neue Entwicklungen mit sich tragen, und deren Nutzen sorgfältig abwägen.

Während Andreas Brandhorst davor warnte, aufgrund der rasanten Technologieentwicklung der letzten 25 Jahre Missbrauchspotentiale zu unterschätzen, plädierte Jochen Taupitz für eine Stärkung der Selbstkontrolle der Wissenschaft, die ein mächtiges Instrument sei. Das interessierte Publikum beteiligte sich rege an der Diskussion. Ein IT-Wissenschaftler insistierte, dass die KIs noch lange nicht „intelligent“ sind, sondern man in der Forschung eher vom „Maschinellen Lernen“ oder „Mustererkennung“ spricht. Die Entwicklung sei noch nicht auf dem Stand, dass KI beispielsweise eigenständige Entscheidungen treffe und ihre Umwelt manipulieren könne. Eine Medizinethikerin sprach sich unter anderem dafür aus, neben Risiken auch den Nutzen neuer Entwicklungen in den Blick zu nehmen, so wie es in der medizinischen Forschung weitestgehend der Fall ist.

Letztlich stellten die Diskutanten fest, dass auch die Kunst ähnlichen Abwägungen hinsichtlich ihrer Freiheit unterliegt und dass sich Wissenschaft und Kunst seither stets wechselseitig beflügelt haben.

Impressionen aus der Veranstaltung

Geschäftsstelle

Gemeinsamer Ausschuss zum Umgang mit sicherheitsrelevanter Forschung von DFG und Leopoldina

Geschäftsstelle c/o ABC Business Center (4. OG)
Friedrichstraße 79
10117 Berlin

Dr. Johannes Fritsch

Dr. Johannes Fritsch

Leiter der Geschäftsstelle

Telefon: 0160 - 9121 2676
E-Mail: johannes.fritsch@leopoldina.org

Lena Diekmann

Lena Diekmann

Projektkoordinatorin

Telefon: 0170 - 79 206 49
E-Mail: lena.diekmann@leopoldina.org

Dr. Anita Krätzner-Ebert

Dr. Anita Krätzner-Ebert

Wissenschaftliche Referentin

Telefon: 0175 - 293 3935
E-Mail: anita.kraetzner-ebert@leopoldina.org

Dr. Katarina Timofeev

Ansprechpartnerin der Deutschen Forschungsgemeinschaft

Telefon: 0228 - 885 2591
Fax: 0228 - 885 713 320
E-Mail: dual-use@dfg.de

Dr. Ingrid Ohlert

Ansprechpartnerin der Deutschen Forschungsgemeinschaft

Telefon: 0228 - 885 2258
Fax: 0228 - 885 713 320
E-Mail: ingrid.ohlert@dfg.de