AlphaZero - die Macht der Maschinen

[Chessica]

Am 5. Dezember des letzten Jahres wurde eine Sensation veröffentlicht: AlphaZero, entwickelt von DeepMind (einer Tochterfirma von Google), besiegte die bislang führende Schach-Engine Stockfish in 100 Spielen vernichtend:

https://de.wikipedia.org/wiki/AlphaZero

Gegen Stockfish & Co hat schon lange kein menschlicher Schachspieler mehr auch nur den Hauch einer Chance. Bemerkenswert ist: "Zero" bedeutet, dass das neuronale Netz nur die Schachregeln zur Verfügung hatte, jedoch keinerlei Eröffnungsbücher oder Endspieldatenbanken. Es erlernte das komplexe Schachspiel also allein mit sich selbst - und das in wenigen Stunden!

Es wird nur Schachkundige interessieren, dass AlphaZero dabei auch die menschliche Evolution der Schacheröffnungen der letzten Jahrhunderte nachvollzogen hat. Aber uns alle sollte wach werden lassen, wie weit die künstliche Intelligenz inzwischen ist! Allzu leichtfertig offenbaren wir uns an die Datenkraken wie Google. Und auch der Gesetzgeber schützt uns nicht: Ich denke da z. B. an die "Gesundheitskarte", von der kaum jemand weiß, dass die intimsten Daten der gesetzlich Versicherten in einer Datenbank gespeichert werden sollen, wenn man dem nicht rechtzeitig widerspricht.

Ich mache mir weniger Sorgen um das schöne Schachspiel als um uns! Denn ohnehin ist bekanntlich ein Jahrhundert der Sklaverei angebrochen, die wir längst als überwunden geglaubt hatten...

[SnakeX]

Es wird nur Schachkundige interessieren, dass AlphaZero dabei auch die menschliche Evolution der Schacheröffnungen der letzten Jahrhunderte nachvollzogen hat. Aber uns alle sollte wach werden lassen, wie weit die künstliche Intelligenz inzwischen ist!

das Gewinnen von mathematisch "relativ" einfach zu berechnenden Spielen würde ich nicht als Intelligent bezeichnen.
bin zwar nicht mehr auf dem neusten Stand, aber ich denke dass der Erfolg bei Schachcomputern im wesentlichen immer noch auf der Erhöhung der Rechenleistung und damit einer Verbesserung der "brute force" Methoden liegt.
die Rechenpower ist mittlerweile offensichtlich so enorm, dass man Eröffnungsbibliothken nicht mehr nötig hat, die man vor Jahren noch brauchte um gerade in der Anfangsphase des Spiels, bei der noch viele Figuren auf dem Brett sind, den exponentiellen Anstieg der Entscheidungsbäume im Zaum zu halten.
in absehbarer Zeit mögen Schachprogramme mit der entsprechenden Rechenpower dahinter in der Lage sein, nach dem Eröffnungszug und dem ersten Gegenzug, das Spiel bis zum Ende durchzurechnen.
vielleicht gibts ja noch die Überraschung, dass Computer ausrechnen, dass eine Partie Schach bei bestem Spiel und Gegenspiel zwingend Remis ist, oder für Weiß sogar zwingend verloren und sich der Tempovorteil der ersten Zuges als Nachteil herausstellt.
intelligent oder kreativ finde ich daran aber nicht wirklich was

[Proteus]

Bei Schach siind Erfolge gegenüber Menschen wirklich nicht bemerkenswert. Man hat eine kleine Zahl von Spielsteinen und eine recht beschränkte Anzahl an Möglichkeiten wie man sie ziehen kann.
Etwas bei dem man noch mit Entscheidungsbäumen arbeiten könnte.
Nicht umsonst hat beim Schach schon vor 2 Jahrzehnten eine KI (IBMs Deep Bluee)einen Großmeister (Kasparov) besiegt.

Viel bemerkenswerter sind da die Erfolge mit DCNNs in Bezug auf Go.
Hier kann man jden Spielstein beliebig auf dem (19*19) Brett plazieren ... und eder Spielstein hat erst einmal den selben Wert ... und bekommt seinen wahren strategischen Wert nur durch seine Plazierung auf dem Brettt (im Verhältnis zu den anderen Spielsteinen (sowohl den feindlichen als auch den eigenen).
Zu umfangreiche Zugmöglichkeiten um sie noch gut mit Entscheidungsbäumen durchrechnen zu können ... und deswegen dümpelten hier die Leistungen der KIs bis vor 2 Jahrenn noch maximal auf Schüler (Kyu-) Level.

Jedenfalls bis 2016 AphaGo (auch von Googles DeepMind-Studios) den Großmeister Lee Sedol (Professional Dan 9 ... höchstmöglicher Rang) vernichtend schlug (mit 4 von 5 Spielen zu Gunsten von AlphaGo ... un das obwohl Sedol sich bei seinen eigenen Zügen mit anderen Pro-Dan-Spielern beriet), teilweise mit Zügen die kein menschlicher Go-Spieler gemacht hätte.
Da hat man dann wirklich einen Sprung von mehreren Lichtjahren gemacht zwischen der Zeit vor Alpha Go und der Zeit danach.

Insgesamt gesehen sind die Erfolge der DCNNs der letzten Jahre nicht wirklich überraschend ... in den letzten Jahren fand CUDA Enzug in die Welt der ANNs.
Grafikkarten müssen eine Menge an Matrixmanipulationen durchführen (um Bilder zu berechnen) und deren Prozessorarchitektur ist deswegen sehr spezialisiert und leistungfähig für derlei Sachen (in jeder Grafikkarte stect im Prinzi ein kleiner masssiv paralleler Computer)

NVidia hat mit CUDA seit einem Jahrzehnt eine Programmierschnittstelle bereitgestellt, mit welchen Programmierer ermöglicht wid, für ihre Programme die Prozessoren für ihre Berechnungen mitzubenutzen ... und seitdem sind diverse Programmierbibliotheken für neuronale Netzwerke rausgekommen, welche CUDA benutzen können (beispielsweise Caffe, CNTK oder das von Googles DeepMind Studios entwickelte Tensorflow).

Damit hat man jetzt die Möglichkeit, erheblich tiefere neuronale Netzwerke als zuvor zu entwickeln (eben DNNs ... tiefe neuronale Netzwerke ... meist als DCNNs ... deep convolutional neuronal networks) und die in annehmbarer Zeit anzulernen.

Aber die DCNNs bleiben natürlich auch weiterhin "nur" Expertensysteme (die man in der Anlernphase auf einen Task trainiert und die danach dann stur ihre antrainierte Konfiguration ihres neuronalen Netzes auf Tasks der selben Art anwenden).
Von sowas wie Skynet oder artificial sentience sind sie noch weit entfernt

(Daß auch die Möglichkeiten des Datamining mit DCNNs erheblich erweitert werden, will ich indes nicht in Abrede stellen ... eine Sache die sowohl Gefahren bietet, als auch Chancen)

[hans]

über die einschränkung der DCNNs auf fest umrissene aufgaben,
den durchbruch zur "echten" AI wird die wissenschaft nicht alleine oder auf konventionellem, akademischen weg machen.

ich vermute einige militärs werden akademische und ethische regeln brechen, und viel budget dazu bekommen.
dazu sind einige konzepte naheliegend, wo es in der vergangenheit schon elemente gab.
- neuronetze werden aus einem gigantischen pool in beliebiger zahl acquiriert und on-the-fly trainiert, und interagieren miteinander -- für die interaktion wird es forschung und eigene trainingsprogramme geben, und die interaktionsfähigkeit werden alle dann als erstes mitbekommen, vor dem inhaltlichen training. damit trainieren sie sich bereits gegenseitig.
- die architektur wird dazu mehrstufig sein. ("deep" um mindestens eine dimension erweitert)
- wie im gehirn wird es eine arbeitsteilung etwas unterschiedlich gestalteter komponenten geben, wo einige rein die organisation übernehmen, welche themen zu trainieren und auszuüben sind, und mit welchen hardware input und output fähigkeiten sie auszustatten sind. (peripherie bis zum rennenden roboter)
- letztere organisationseinheiten werden so ähnlich wie dieses "jeopardy" system mit konventionellen wissensdatenbanken verbunden sein.
- eine der organisationskomponenten (wie ein CEO) wird ähnliche eigenschaften wie das "Racter" programm aus den 80ies haben, das war selbstmodifizierender code, der beruhte auf zufallsgenerator und sprachdatenbank, die nach irgendwelchen inhalten organisiert war (zb lyrische dichter oder klempner), und der eine erschreckend intensive und bizarre eigeninitiative entwickeln konnte, und eine sehr eigenartige form eines gedächtnisses besass. einige testpersonen hielten zb racter für einen echten, aber schizophrenen menschen.
- dieses potenzial für chaos und krankheit und damit auch heilung und schöpfung, scheint mir der eigentliche knackpunkt am kritischen weg zu sein. ich fürchte, jemand wird es wagen, das auf den breiten weg zu bringen.

und alsbald taucht auf:
https://www.nzz.ch/feuilleton/der-ne...ult-ld.1333707

[Chessica]

Vielen Dank für drei sachkundige Antworten. Einige Anmerkungen dazu:

@SnakeX: Die Sensation bestand ja gerade darin, dass AlphaZero eben nicht per "brute force" gewann: Während Stockfish hunderttausende Stellungen pro Sekunde berechnete (die meisten umsonst - und das trotz pruning), waren es bei AlphaZero nur etwas 80 tausend. Das System opferte in einigen Partien Material allein für positionellen Vorteil, der sich innerhalb der Tiefe von Stockfish (immerhin über 30 bis 40 Halbzüge) rein taktisch nicht ergibt.

Es war also eher das über-"menschliche" Spiel, das selbst Schachgroßmeister begeisterte. Einer beschrieb es so, als wären Aliens vom Himmel gestiegen, um uns Schach zu lehren.

Übrigens ist es keineswegs abzusehen, dass das Schachspiel "durchgerechnet" wird. Zur Zeit ist die Technik bereits mit Zehnsteinern völlig überfordert, und Schach hat bekanntlich 32 Figuren, wobei die Möglichkeiten astronomisch wachsen.

[Chessica]

@Proteus: Richtig, AlphaGo war ein Vorgänger von AlphaZero. Man hat mir glaubhaft versichert, dass Go noch komplizierter sei als Schach. Wir hatten beides zu Hause, aber ich finde Schach viel schöner. (Allein das ständige Zählen der Punkte beim Go nervt, es gibt keinen Zugzwang, und irgendwie erinnert es an "Maschendrahtzaun" und Claims im Wilden Westen, während beim Schach auch ein kleiner Bauer zum Held werden kann. Zudem ist die Dame die mächtigste Figur, während der König ziemlich lahm und hypersensibel ist - wie oft im richtigen Leben! Ist aber nur meine persönliche Meinung. Obwohl: Es gibt nur einige zig Millionen Go-Spieler auf der Welt...)

Unstrittig ist aber, dass beide Spiele theoretisch deterministisch und (anders als z. B. Poker) auch praktisch wenig stochastisch sind und damit (auch wieder theoretisch) berechenbar sind. Offensichtlich sind die NN-Maschinen (DeepMind verwendete meines Wissens keine Grafikkarte) dabei inzwischen deutlich intelligenter als wir Menschen und "stupide" Maschinen. Und genau darauf wollte ich hinweisen.

[Chessica]

@hans, zwar musste ich deinen Post dreimal lesen, aber nun bin ich überzeugt, dass du mein Anliegen am besten verstanden hast.

Wie gesagt sorge ich mich nicht um die Zukunft von Schach - es ist nur ein Spiel. Für die Mehrheit der Menschheit ist allerdings das Leben selbst ein böses Spiel einer Minderheit, und diese bekommt jetzt auch noch solch übermenschliche (jedoch keine Ethik oder Moral kennende) künstliche Intelligenz in die macht-gierigen, offensichtlich unersättlichen Griffel...

Ja, in Fachbereichen gibt es natürlich auch Chancen (z. B. selbstfahrende Autos), aber die Gefahren, dass die Mehrheit noch mehr durch die Minderheit beherrscht wird, sind (selbst mit einfacher menschlicher Intelligenz) unübersehbar! Bereits heute gibt es Projekte, die mir Angst machen:
- Expertensysteme entscheiden, welche Therapie bei lebensgefährlich Erkrankten noch wirtschaftlich ist. (Völlig menschenverachtender Ansatz; es gibt viele Beispiele einer "Wunderheilung"!)
- Risk Server (etwa bei der Vergabe von Krediten oder Handyverträgen) berufen sich nicht mehr auf hinterfragbare Auskunfteien wie Schufa oder Crefo oder Bürgel, sondern auf ein neuronales Netz mit Daten aus der "Wolke", die für den Betroffenen nicht mehr nachvollziehbar sind.

Ich rede hier nicht nur über die Ahnungslosen, die ihre privaten Daten freiwillig den Datenkraken in den Rachen werfen - da könnte man noch sagen: "Selbst schuld!" Nein, die Kraken sind inzwischen so vernetzt, dass ich letztes Jahr von Google eine Geburtstagstorte angezeigt bekam, obwohl ich NIEMALS (ich schwöre!) meinen Geburtstag im Internet korrekt angegeben habe!

[andi86]

Es ist ja auch noch sehr früh am Morgen.

[Chessica]

Es ist ja auch noch sehr früh am Morgen.

Genau. Und schon weiß die Krake, dass wir beide gegen vier Uhr wach sind...

[hans]

https://www.youtube.com/watch?v=fUyU3lKzoio

[Dost]

Geht mir ähnlich. Denken andere beim Schauen auch an Terminator bzw. künstliche Gottesanbeter? Mich würde die Programmierung interessieren. Wurde ihnen einfach befohlen laufe im Umkreis von 20 Meter herum, Widerstände sind zu überwinden oder war der konkrete Befehl: öffne die Tür?

[fraktal]

Geht mir ähnlich. Denken andere beim Schauen auch an Terminator bzw. künstliche Gottesanbeter? Mich würde die Programmierung interessieren. Wurde ihnen einfach befohlen laufe im Umkreis von 20 Meter herum, Widerstände sind zu überwinden oder war der konkrete Befehl: öffne die Tür?

Bemerkenswert finde ich, das der Roboter ohne Arm einen mit Arm zu Hilfe holt um durch die Tür zu kommen.
Und das ist nur das was die Öffentlichkeit zu sehen bekommt.
Die militärischen Maschinen dürften wesentlich weiter sein.

[ManOfTomorrow]

https://www.youtube.com/watch?v=fUyU3lKzoio

Hatte ich gestern schon irgendwo bei Twitter oder Youtube gesehen.

In wenigen Jahren kann man dann wahrscheinlich die Roboter beispielsweise für Einbrüche etc. programmieren - schöne neue Welt!

[Jaspis]

Roboter werden das sein, was man aus ihnen macht. Ein Drohne kann heute schon der Feuerwehr bei der Einschätzung einer Gefahrenlage helfen oder den Tod bringen. Roboter können Autos bauen oder Waffensysteme. Roboter können Alltagshelfer werden oder Killer. Wobei: Menschen als Killer sind allemal billiger.

[fraktal]

Roboter werden das sein, was man aus ihnen macht. Ein Drohne kann heute schon der Feuerwehr bei der Einschätzung einer Gefahrenlage helfen oder den Tod bringen. Roboter können Autos bauen oder Waffensysteme. Roboter können Alltagshelfer werden oder Killer. Wobei: Menschen als Killer sind allemal billiger.

Nicht unbedingt. Eine handelsübliche Drohne mit einem 1-Schuß System würde deutlich unter 1000 Euro kosten.
Lediglich um die Killer Software muss sich jemand kümmern.
Auch da würde ich behaupten: das gibt es schon beim Militär.

Ich seh das pragmatisch.
Fortschrittliche Robotik wird eine Technik sein die viel hilft aber auch missbraucht werden kann. Wie alles was wir so an Kram um uns haben.

Nachdem ich viel über KI nachgedacht und gelesen habe muss ich sagen, da freu ich mich regelrecht drauf.
Quasi eine "Neue Species" mit der man sich vollkommen unvoreingenommen von Religion und Kultur über diverse Dinge unterhalten kann. Das könnte echt spannend werden.