Download PDF
Nervenheilkunde 2021; 40(08): 588-597
DOI: 10.1055/a-1467-0665
Editorial

Digital, automatisch – unbehaglich, gefährlich

Manfred Spitzer∗
› Further Information
Also available at
   Permissions and Reprints

Schon mehrfach war an dieser Stelle von Fortschritten in der Informationstechnik die Rede, bei denen es um die Resultate der Anwendung künstlicher (d. h. im Computer simulierter) neuronaler Netzwerke auf reale Probleme ging. Diese Arbeiten sind zuweilen spektakulär und werden nicht zuletzt deswegen in den bedeutendsten wissenschaftlichen Fachblättern publiziert.

Vor einem halben Jahrzehnt beispielsweise hatte ein solches Netzwerk an Beispielen gelernt, das komplexeste Brettspiel der Welt – Go mit seinen 10171 möglichen Kombinationen[ 1 ] – zu spielen. Es war also kein Programm geschrieben worden, das Go spielen konnte; vielmehr lernte ein Computer, der künstliche Neuronen und Synapsen simulierte (man nannte das System Alpha-Go), durch das Nachspielen publizierter Go-Partien dieses Spiel und gewann danach vier von fünf Spielen gegen Lee Sedol, den damals weltbesten Go-Spieler, wie das Fachblatt Nature berichtete [26]. Nur eineinhalb Jahre später erschien – ebenfalls in Nature – eine Arbeit zu einem neueren neuronalen Netzwerk (genannt Alpha-Go zero), das gleichsam bei „Null“ mit dem Lernen begonnen hatte (daher der Name) und von Anfang an nur gegen sich selbst spielte. Innerhalb von 3 Tagen durchlief es 3000 Jahre Go-Geschichte (d. h. entdeckte beispielsweise Eröffnungen und Endspiele, für deren Entdeckung die Go-spielenden Menschen 3 Jahrtausende gebraucht hatten) und spielte dann 37 Tage weiter gegen sich selbst auf eine Weise, die für Go-Experten immer unverständlicher wurde, d. h. von ihnen nicht mehr nachvollzogen werden konnte. Danach ließ man Alpha-Go zero 100-mal gegen Alpha-Go (also dasjenige neuronale Netzwerk, das zuvor den weltbesten Spieler besiegt hatte) spielen, wobei Alpha-Go zero 100 Mal gewann [26]. Seither versuchen die weltbesten Go-Spieler, von Alpha-Go zero zu lernen, wie man dieses Spiel besser spielt.

Spiele waren jedoch nur der Anfang. Ebenfalls im Jahr 2017 wurde – wieder in Nature – publiziert, dass ein mit entsprechend trainierten neuronalen Netzwerken im Internet verbundenes Smartphone Hautkrebs so gut diagnostizieren kann wie ein Dermatologe. Neuronale Netzwerke finden mittlerweile neue Synthesewege in der Chemie, haben das Problem der Faltung von Eiweißkörpern, völlig neue Erkenntnisse in der Radiologie und vieles mehr an Problemen in der Medizin schon gelöst oder sind dabei, wo es ja oft um komplexe Zusammenhänge geht, die man anhand von sehr vielen Daten herausfinden möchte. Dies befeuert seit einigen Jahren gerade in der Medizin eine Goldgräberstimmung mit Hoffnungen auf weitere ungeahnte Fortschritte [1]. Bei all diesen Fortschritten des Einsatzes von automatisch lernenden künstlichen neuronalen Netzen gibt es jedoch immer das gleiche Problem: Nachdem diese sehr große Datenmengen verarbeitet und gelernt haben, können sie etwas – aber niemand weiß, warum. Es bleibt unklar, auf welche Weise sie ihre Kunststücke vollbringen. Denn in ihnen steckt kein Programm, das man versuchen könnte, rational zu rekonstruieren und damit zu verstehen. Vielmehr enthält ein solches trainiertes neuronales Netzwerk neben seiner allgemeinen Struktur – meist in Schichten angeordneten Neuronen mit bestimmten Funktionsregeln – aufgrund seines Trainings mit wirklichen Daten Milliarden von einzelnen konkreten Zahlen, welche die Stärke der Milliarden von Verbindungen (Synapsenstärken) zwischen den simulierten Neuronen angeben. In diesem riesigen Zahlenhaufen steckt das „Können“ des neuronalen Netzwerks. Zu verstehen gibt es hier nichts. Von „Wissen“ kann und sollte man daher nicht sprechen. Wenn Computer lernen und danach etwas können, ist niemand hinterher schlauer.

Gerade einmal 5 Jahre nach dem eingangs erwähnten Go-Turnier gibt es neue Nachrichten zu weiteren von neuronalen Netzwerken vollbrachten Kunststücken, die ahnen lassen, was vielleicht noch alles kommen könnte. Ich rede nicht von mittlerweile erstaunlich guter automatischer Übersetzung von einer Sprache in eine andere, von automatischer Gesichtserkennung und Personenidentifizierung in Videoüberwachungssystemen oder von Alexa, Siri und Cartana, dem auf Zuruf aktiven digitalen Dienstpersonal der Firmen Amazon, Apple und Microsoft in Millionen von Haushalten der westlichen Welt. – An all das haben wir uns längst ebenso gewöhnt wie an die frustranen Kämpfe mit automatisierten Telefonsystemen, mit denen wir am anderen Ende der Leitung beim Wählen einer Kundendienstnummer konfrontiert sind. Die 3 im Folgenden kurz dargestellten neuen Entwicklungen aus völlig verschiedenen Anwendungsgebieten der digitalen künstlichen Intelligenz lösen vielmehr Unbehagen[ 2 ] oder gar Angst aus, denn man muss sich an manche Gedanken und Tatsachen erst gewöhnen, und an andere möchte man sich am liebsten gar nicht gewöhnen.

3 „Unsere Methode wurde für das Design der nächsten Generation der Google TPU bei deren Produktion eingesetzt“ (Übersetzung durch den Autor).


4 “It is conceivable that this new AI-designed chip will be used in the future to design its successor, and that successor would in turn be used to design its own replacement.”


5 “The team believes that the same neural network approach can be applied to the various other time-consuming stages of chip design, slashing the overall design time from years to days. The company aims to iterate quickly because even small improvements in speed or power consumption can make an enormous difference at the vast scale it operates at.”


7 “Key-Concepts Identification”, „Claim Leads and Counter-Evidence Detection“, „ Sentiment Leads“, „Claim Leads from the Argument Knowledge-Base“, „iDebate-Based Rebuttal“ [„a manually curated database of motions, containing a list of arguments for and against each motion“; Suppl., S. 36] und „Detecting Opponent’s Main Themes.“




Publication History

Article published online:
04 August 2021

© 2021. Thieme. All rights reserved.

Georg Thieme Verlag KG
Rüdigerstraße 14, 70469 Stuttgart, Germany