FAQ

Häufige Fragen rund um sicherheitsrelevante Forschung und die KEFs

Der Deutsche Ethikrat definiert in seiner Stellungnahme „Biosicherheit – Freiheit und Verantwortung in der Wissenschaft“ (2014) die aus dem englischen entlehnte Bezeichnung Dual Use Research of Concern (DURC) als „lebenswissenschaftliche Arbeiten […], bei denen anzunehmen ist, dass sie Wissen, Produkte oder Technologien hervorbringen, die unmittelbar von Dritten missbraucht werden können, um die öffentliche Gesundheit oder Sicherheit oder die natürlichen Lebensgrundlagen zu bedrohen.“ Nach Auffassung von DFG und Leopoldina geht diese Problematik jedoch weit über die Lebenswissenschaften hinaus und betrifft nahezu alle Wissenschaftsbereiche. Die beiden Organisationen sprechen daher allgemeiner von „besorgniserregender sicherheitsrelevanter Forschung“.

Bei besorgniserregender sicherheitsrelevanter Forschung handelt es sich um wissenschaftliche Arbeiten, bei denen die Möglichkeit besteht, dass sie Wissen, Produkte oder Technologien hervorbringen, die unmittelbar von Dritten missbraucht werden können, um Menschenwürde, Leben, Gesundheit, Freiheit, Eigentum, Umwelt oder ein friedliches Zusammenleben erheblich zu schädigen.

Prinzipiell ist in nahezu allen Disziplinen, wenn auch in unterschiedlicher Ausprägung, denkbar, dass Forschungsergebnisse und -methoden durch Dritte mit schädlichen Absichten zweckentfremdet werden. Neben den klassischen Dual-Use-Beispielen in der Nuklear- und Pathogenforschung könnten die Materialforschung und Nanotechnologie zur Entwicklung von Kriegswaffen beitragen; die Forschung zu autonom agierenden Industrie- und Haushaltsrobotern kann zur Konstruktion von intelligenten Kampfrobotern befähigen. Analysen in der molekularen Pflanzengenetik zu Züchtungszwecken könnten gezielte Angriffe auf Saatgut ermöglichen. Forschungen in der Informationstechnologie, beispielsweise zu Bewegungsanalysen und zur Biometrie, könnten zur umfassenden Überwachung und Repression von Personen genutzt werden und damit die Menschenrechte einschränken. Um die Cybersicherheit zu verbessern, entwickeln Forschende häufig intendiert kompromittierende Hard- und Software und brechen Verschlüsselungsverfahren. Psychologische, medizinische oder neurobiologische Forschungen könnten die Manipulation von Personen bis hin zu aggressiven Vernehmungstechniken und Folter unterstützen. Linguistische Forschungen an Spracherkennungssystemen sind unter Umständen auch für die missbräuchliche Kommunikationsüberwachung einsetzbar. Letztlich könnten sogar auch Geistes-, Kultur-, Sozial- und Verhaltenswissenschaften sicherheitsrelevante Ergebnisse hervorbringen.  Diese Liste lässt sich nahezu beliebig erweitern.

Der Gemeinsame Ausschuss zum Umgang mit sicherheitsrelevanter Forschung ist ein 2015 von der Leopoldina und der Deutschen Forschungsgemeinschaft (DFG) eingerichtetes Gremium, das das Bewusstsein für die doppelte Verwendbarkeit (Dual-Use) von Forschungsergebnissen, den verantwortungsvollen Umgang mit sicherheitsrelevanter Forschung und die diesbezügliche Selbstregulierung der Wissenschaften nachhaltig stärken soll. Gemäß den Beschlüssen der Präsidien von Leopoldina und DFG hat der Ausschuss das Mandat, „[…] die wirksame und nachhaltige Umsetzung der Empfehlungen von DFG und Leopoldina zu ‚Wissenschaftsfreiheit und Wissenschaftsverantwortung‘ zu unterstützen. Der Ausschuss soll den Stand der Umsetzung an den Forschungseinrichtungen verfolgen (Monitoring) und proaktiv vorantreiben sowie die Institutionen bei der sachgerechten Implementierung der Empfehlungen, z. B. durch die Erstellung von Mustertexten, unterstützen. Dies gilt insbesondere für die Etablierung der in den Empfehlungen vorgesehenen Kommissionen für Ethik sicherheitsrelevanter Forschung (KEF) […].“

KEF bedeutet „Kommission für Ethik sicherheitsrelevanter Forschung“. Für den sachgerechten Umgang mit sicherheitsrelevanter Forschung empfehlen DFG und Leopoldina in ihrem Papier „Wissenschaftsfreiheit und Wissenschaftsverantwortung – Empfehlungen zum Umgang mit sicherheitsrelevanter Forschung“ (2022), dass möglichst jede Forschungsinstitution eine eigene KEF einrichtet, die Forschenden und Forschungseinrichtungen bei Fragen zu sicherheitsrelevanten Aspekten ihrer Forschung beratend zur Seite steht.

Besorgniserregende sicherheitsrelevante Arbeiten stellen nur seltene Ausnahmen im akademischen Forschungsbetrieb dar. Im komplexen Spannungsfeld zwischen Freiheit und Verantwortung der Forschung geben die KEFs auf Anfrage Forschenden und Forschungseinrichtungen Hilfe durch Beratung und Bewertung ethischer Aspekte von sicherheitsrelevanten Forschungsprojekten. Dazu gehören zum einen Fragen, die das Projekt und dessen mögliche Konsequenzen direkt betreffen, aber auch Fragen zu Kooperationspartnerschaften und Drittmittelgebenden. Darüber hinaus fördern die KEFs innerhalb der Einrichtung die Bewusstseinsbildung für sicherheitsrelevante Aspekte der Forschung und damit eine Kultur der Verantwortung. Je nach konkreter Einbettung der KEFs in der Forschungseinrichtung können sie auch weitere Aufgaben wahrnehmen, beispielsweise zur Klärung der Vereinbarkeit von Forschung mit verfassungsrechtlichen Grundlagen bzw. der Grundordnung oder Richtlinien der jeweiligen Forschungseinrichtung, mit den DFG-Leitlinien zur Sicherung der guten wissenschaftlichen Praxis, mit Erfordernissen für die Datensicherheit und mit dem Außenwirtschaftsrecht (Ausfuhrkontrolle). Zahlreiche KEFs sind gleichzeitig für ethische Fragen der Forschung an Menschen und Tieren zuständig. Die KEFs übernehmen ausschließlich eine beratende Funktion.

Da KEFs eine Beratungsfunktion haben, entscheiden sie nicht darüber, ob ein Forschungsprojekt beispielsweise aus ethischen Gründen nicht durchgeführt werden darf. In der Regel sind KEFs auch kein Ersatz für eine Compliance-Stelle, die Forschende über die rechtlichen Grenzen ihrer Forschung, etwa im Rahmen des Außenwirtschaftsrechts und der Exportkontrolle, informieren soll. In mehreren Fällen haben jedoch „klassische“ Ethikkommissionen, die auf Basis rechtlicher Regularien über die Forschung an Tier und Mensch entscheiden, zusätzlich das Mandat einer KEF übernommen.

Eine KEF soll u. a. sicherstellen, dass Forschenden, die sich bei bekannten wie auch unerwarteten sicherheitsrelevanten Risiken ihrer Forschung beraten lassen und absichern möchten, vor Ort entsprechende Ansprechpersonen zur Verfügung stehen. Im Beratungsprozess kann sich auch herausstellen, dass das jeweilige Forschungsvorhaben nicht mit sicherheitsrelevanten Risiken verbunden ist. Die DFG hat die Notwendigkeit geeigneter Organisationsstrukturen für den verantwortlichen Umgang mit Forschungsrisiken in die im Juli 2019 überarbeiteten Leitlinien zur Sicherung der guten wissenschaftlichen Praxis aufgenommen. Auch im EU-Rahmenprogramm für Forschung und Innovation „Horizon Europe“ ist bei der Antragstellung eine ethische (Selbst-)Evaluation hinsichtlich möglicher Missbrauchsrisiken des Forschungsvorhabens für eine Gefährdung von Mensch, Tier und Umwelt verpflichtend und es wird die Etablierung von Beratungsgremien für entsprechende ethische Fragestellungen empfohlen. Hier kann die KEF also eine Grundbedingung für die Beantragung bestimmter Fördermittel sein. Darüber hinaus kann eine KEF im Falle eines unerwarteten sicherheitsrelevanten Vorfalls auch ein geeignetes Instrument des Krisenmanagements und der Krisenkommunikation für die jeweilige Forschungseinrichtung darstellen. Damit kann sie helfen, das Vertrauen der Öffentlichkeit in die Forschungsfreiheit zu stärken.

Es gibt keine Berichtspflicht gegenüber dem Gemeinsamen Ausschuss; die Berichterstattung der Forschungseinrichtungen zum jeweiligen Umgang mit sicherheitsrelevanter Forschung erfolgt vollkommen freiwillig. Der Gemeinsame Ausschuss ist gleichwohl dankbar, Informationen über die Tätigkeit der KEFs in hinreichend aggregierter und anonymisierter Form oder durch seine regelmäßigen Umfragen zu erhalten. Berichte, die der Gemeinsame Ausschuss erhält, werden von ihm ausgewertet, damit er seine Aufgaben bei der nachhaltigen Stärkung des eigenverantwortlichen Umgangs der deutschen Wissenschaften mit sicherheitsrelevanten Risiken der Forschung besser erfüllen kann. Weiterhin möchte der Ausschuss diese Auswertungen anonymisiert öffentlich machen, um zu dokumentieren, wie die deutschen Forschungseinrichtungen eigenverantwortlich mit Risiken ihrer Forschung umgehen. Die Rückmeldungen sollen zugleich andere KEFs bei ihrer Arbeit unterstützen.

In diesem Fall haben die Forschenden vor dem erfolgten Missbrauch ihrer Ergebnisse durch Dritte idealerweise zumindest die zuständige KEF kontaktiert; im Zuge des folgenden Beratungs- und Beurteilungsprozesses sollte im Falle eines befürwortenden Votums der KEF ein bedeutsamer potentieller Nutzen der sicherheitsrelevanten Arbeiten festgestellt worden sein. Sollten die Institution oder die Forschenden dann für den erfolgten Schaden, z. B. durch die Medien, verantwortlich gemacht werden, können sie vorweisen, dass im Vorfeld der Arbeiten bzw. der Veröffentlichung nach bestem Wissen und Gewissen gehandelt wurde und dass der potentielle Nutzen der Arbeiten möglicherweise in Zukunft den erfolgten Schaden aufwiegen kann.

Dies hängt von der konkreten Umsetzung der Empfehlungen „Wissenschaftsfreiheit und Wissenschaftsverantwortung“ (2022) von DFG und Leopoldina durch die jeweilige Einrichtung ab, bei der der Gemeinsame Ausschuss auch beratend unterstützen kann. Er führt u. a. auf seiner Webseite eine Liste mit allen Ansprechpersonen und Kommissionen in Deutschland, die für Ethik sicherheitsrelevanter Forschung zuständig sind, und erleichtert so die Vernetzung und den Erfahrungsaustausch unter den einzelnen Institutionen. Außerdem lädt der Ausschuss Ansprechpersonen und KEF-Mitglieder regelmäßig zu KEF-Foren und fachspezifischen Veranstaltungen ein, um die Bewusstseinsbildung und Kompetenz für sicherheitsrelevante Risiken der Forschung sowie den diesbezüglichen Erfahrungsaustausch zu fördern. In regelmäßigen Abständen bittet der Ausschuss die KEFs um Auskunft zu ihren Aktivitäten und entwickelt das Konzept des sachgerechten eigenverantwortlichen Umgangs mit sicherheitsrelevanter Forschung weiter.

Soweit diese Ethikkommission über die gesetzlich oder durch Satzung vorgeschriebene Beratung und Entscheidungen, etwa bei Forschungsvorhaben an Mensch und Tier, hinaus auch für die Beratung bei sicherheitsrelevanten Forschungsvorhaben zuständig und angemessen ausgestattet ist, ist sie im Sinne der Empfehlungen von DFG und Leopoldina „Wissenschaftsfreiheit und Wissenschaftsverantwortung“ (2022) ausreichend. Es gibt eine Reihe von Forschungseinrichtungen, wo vorhandene Kommissionen mit ganz unterschiedlichen Zuständigkeiten auch die Aufgabe einer KEF übernommen haben. Dies hat den Vorteil, dass sie in der Regel auf etablierte Verfahrensabläufe und Erfahrungen zurückgreifen können.

Den Erfahrungen des Gemeinsamen Ausschusses zufolge gab es in den letzten 7 Jahren in Deutschland nur wenige tatsächlich besorgniserregende sicherheitsrelevante Fälle, zu denen eine KEF beraten hat. Es sind knapp 100 Fälle dokumentiert, in denen zwischen 2015 und 2021 Beratungsvoten eingeholt wurden. Hier greift dennoch das in Deutschland hochgehaltene Vorsorgeprinzip, d. h. die Forschenden und Institutionen sollten auch für seltene oder unerwartet auftretende sicherheitsrelevante Fälle gewappnet sein, um Risiken zu minimieren. Zudem ist ein wichtiger Aspekt der Arbeit der KEF auch die Bewusstseinsbildung bei den Forschenden für sicherheitsrelevante Risiken ihrer Arbeiten, damit die Forschenden problematische Fälle überhaupt erst erkennen. Zu dieser Bewusstseinsbildung gehört auch, dass Forschende erfahren, dass sie sich im Zweifelsfall an eine KEF wenden können. Weiterhin spielen Ethikvoten vermehrt bei der Vergabe von Drittmitteln für potentiell sicherheitsrelevante Forschungsprojekte durch die DFG und die Europäische Kommission eine Rolle.

Die Chancen und Risiken freier Forschung sind nach Ansicht von DFG und Leopoldina durch gesetzliche Regelungen nur begrenzt steuerbar. Forschungsmethoden und -inhalte sind immerzu im Wandel, z.B. durch neue Synergien unterschiedlicher Disziplinen, und die Ergebnisse von Forschung sowie deren zukünftige Anwendung in der Regel kaum vorhersagbar. Die DFG und die Leopoldina wirken kontinuierlich darauf hin, dass in den Wissenschaften ethische Prinzipien sowie Mechanismen zum verantwortungsvollen Umgang mit Forschungsfreiheit und Forschungsrisiken weiterentwickelt und beachtet werden. Dies ermöglich einen sachnahen und flexiblen Umgang mit Missbrauchsrisiken.