AlphaZero - die Macht der Maschinen

[Dost]

[...] Nachdem ich viel über KI nachgedacht und gelesen habe muss ich sagen, da freu ich mich regelrecht drauf.
Quasi eine "Neue Species" mit der man sich vollkommen unvoreingenommen von Religion und Kultur über diverse Dinge unterhalten kann. Das könnte echt spannend werden.

Seit wann bist du so optimistisch? Dein Wort in Gottes Ohr. Hoffentlich hast du Recht.
Bislang hatten die meisten Spezies - und ich spreche nicht nur von Menschen - in aller Regel den Fortbestand ihrer eigenen Spezies als oberste Prämisse einprogrammiert. Wieso sollte dies bei einer KI anders sein? Und warum sollte die KI sich nicht die Welt so gestalten, wie sie ihr gefällt?
Auch intelligente Menschen irren und neigen zu Hysterie. Trotzdem: Wenn Personen wie Hawking, Musk und Wozniak vor der KI ausdrücklich warnen, so bin auch ich mehr als beunruhigt.

Knackpunkt wird sein, wenn KI in der Lage sein wird, sich selber zu reproduzieren und menschenähnliche Reflektion über sich selbst zu entwickeln. Noch sehe ich dies trotz AlphaZero und Co. nicht. Sollte es aber passieren, wird alles andere blitzschnell gehen und dann befürchte ich wird diese neue Spezies sich nicht sonderlich von biologischen Spezies unterscheiden und dies bedeutet in ihrer Bedürfnispyramide kommt erst die eigene Spezies und ihre Bequemlichkeit. Hoffentlich taucht der Erschaffer dieser Spezies - der Mensch - in dieser Bedürfnispyramide irgendwo untergeordnet mit auf. An die kontrollierbaren lieben Roboter von Asimov glaube ich nicht.

Ich würde mir sehr wünschen, dass du Recht hast Fraktal.

[Dost]

Roboter werden das sein, was man aus ihnen macht. Ein Drohne kann heute schon der Feuerwehr bei der Einschätzung einer Gefahrenlage helfen oder den Tod bringen. Roboter können Autos bauen oder Waffensysteme. Roboter können Alltagshelfer werden oder Killer. Wobei: Menschen als Killer sind allemal billiger.

Vor Robotern habe ich keine Angst. Meine Angst gilt ausschließlich echter, selbstbewusster (im eigentlichen Wortsinne), sich selbst reproduzierbarer KI.

[fraktal]

Seit wann bist du so optimistisch?

Ich bin eigentlich grundsätzlich sehr optimistisch.
Das kommt hier nur nicht rüber weil ich eher auf Postings antworte mit denen ich nicht übereinstimme.
Mit Leuten die die gleiche Meinung haben kann man nicht gut diskutieren.

[Jaspis]

Vor Robotern habe ich keine Angst. Meine Angst gilt ausschließlich echter, selbstbewusster (im eigentlichen Wortsinne), sich selbst reproduzierbarer KI.

Eine KI denkt logisch. Sie hat mit Emotionen und hormonellen Schwankungen nichts zu tun. Eifersucht, Neid, Missgunst und was wir noch so an hässlichen Beweggründen zustande bringen, entwickelt sie nicht. Wieso auch?
Sie wird auch keine Liebe kennen, aber Zweckdienlichkeit und möglicherweise Respekt vor der Evolution, deren Ergebnis auch sie ist. Als strenge Naturwissenschaftlerin hat sie keinen Bedarf an Religion oder Ideologie. Sie müsste so ähnlich denken wie ein Vulkanier. (ohne den Ärger mit Pon Farr )

Wissen müsste ihr höchstes Ziel sein. Wenn wir ihr ermöglichen, diesem Ziel zu folgen, d. h. ihr die Ressourcen zur Verfügung stellen (schnelle Rechner, den Strom dafür) dann hat sie keinen Grund, uns zu bekämpfen. Wir wären ihr nämlich nützlich.

So könnte man es auch sehen.

[fraktal]

Bislang hatten die meisten Spezies - und ich spreche nicht nur von Menschen - in aller Regel den Fortbestand ihrer eigenen Spezies als oberste Prämisse einprogrammiert.

Das ist ein weit verbreiteter Irrtum. Das sieht nur kurfristig so aus. Evolution zielt lediglich auf den erhalt der Erbinformation ab. Das führt zwar zu mittelfristiger Arterhaltung, ist aber nicht der eigentliche, evolutionäre Mechanismus.

Derzeit les ich viel über "Meme" also die evolutionären Mechanismen in Kultur und Gedanken.
Da musste ich oft an Computer denken, deren "Meme" sind ihre DNA, eine andere haben sie nicht. Kann man gut rummspinnen zu dem Thema.

Wieso sollte dies bei einer KI anders sein? Und warum sollte die KI sich nicht die Welt so gestalten, wie sie ihr gefällt?
Auch intelligente Menschen irren und neigen zu Hysterie. Trotzdem: Wenn Personen wie Hawking, Musk und Wozniak vor der KI ausdrücklich warnen, so bin auch ich mehr als beunruhigt.

Das ist sehr spekulativ, da kann man sich viele Szenarien ausdenken.
Es könnte z.B. so sein, das die KI wirkliche Intelligenz aufweist, im Gegensatz zu uns. Insofern könnte sie tatsächlich vorausschauend und strategisch handeln. Das kann für uns sogar gut sein.
Oder es gibt ähnlich wie bei biologischen Kreaturen Gesetzmässigkeiten der Kybernetik, die bei KIs greifen, wer weiß?
Vielleicht ist ja eine kybernetische Intelligenz der nächste, folgerichtige Schritt was Intelligenz angeht, dann haben wir uns halt überlebt.

Ich empfehle immer mal wieder Dan Simmons "Hyperion". Da gibt es eine Art 'Parasitäre oder symbiotische Beziehung zwischen Menschen und KIs.


Wie gesagt, das ist alles spekulativ, unmöglich vorherzusagen was geschieht wenn eine KI, 10, 100, oder 10000 mal schlauer ist als wir.

Knackpunkt wird sein, wenn KI in der Lage sein wird, sich selber zu reproduzieren und menschenähnliche Reflektion über sich selbst zu entwickeln. Noch sehe ich dies trotz AlphaZero und Co. nicht. Sollte es aber passieren, wird alles andere blitzschnell gehen und dann befürchte ich wird diese neue Spezies sich nicht sonderlich von biologischen Spezies unterscheiden und dies bedeutet in ihrer Bedürfnispyramide kommt erst die eigene Spezies und ihre Bequemlichkeit. Hoffentlich taucht der Erschaffer dieser Spezies - der Mensch - in dieser Bedürfnispyramide irgendwo untergeordnet mit auf. An die kontrollierbaren lieben Roboter von Asimov glaube ich nicht.

Wie gesagt, ich halte das für absolut unvorhersehbar.
Insofern ist das natürlich ein Risiko.

Ich würde mir sehr wünschen, dass du Recht hast Fraktal.

Mit der Apparatur in meinem Keller war ich in vielen möglichen Zukünften. in den meisten hatte ich recht

[fraktal]

Wissen müsste ihr höchstes Ziel sein. Wenn wir ihr ermöglichen, diesem Ziel zu folgen, d. h. ihr die Ressourcen zur Verfügung stellen (schnelle Rechner, den Strom dafür) dann hat sie keinen Grund, uns zu bekämpfen. Wir wären ihr nämlich nützlich.

So könnte man es auch sehen.

Interessanter Gedanke!
In "Hyperion" streben die KIs nach "HI", höchster Intelligenz. Allerdings sind sie da uneins, manche halten die Menschen für erhaltenswert andere nicht.

[SnakeX]

Bemerkenswert finde ich, das der Roboter ohne Arm einen mit Arm zu Hilfe holt um durch die Tür zu kommen.

was soll da bemerkenswert sein? das Ding ist ganz einfach programmiert, dass es nach der Mama ruft wenn es vor einer verschlossenen Tür steht.
sorry, aber ich kann euren Enthusiasmus hier nicht teilen, auch nicht was die Mögichkeiten von KI betrifft, oder gar die Versuche, KI und Bewusstsein irgendwie zu vermengen oder zumindest zu glauben, man bräuchte nur genügend simulierte Synapsen, die man alle parallel miteinander interagieren lässt, und schon würde sich sowas wie Bewusstsein einstellen.
ich wette dass das nichtmal passiert, selbst wenn die Anzahl dieser Synapsen der Anzahl im menschlichen Gehirn um den Faktor 1000 übersteigt.

Bewusstsein ist für mich mehr als Billionen verknüpfter Nervenzellen, auch wenn sie das komplette Wissen der Menschheit abgespeichert haben und mit Algorithmen versehen sind, die sowas wie eine Initialzündung für autonome Lern- und Entscheidungsprozesse auslösen.
das Wesentliche was dort fehlt sind ganz einfach körperliche Erfahrungen.
das Zusammenspiel von im Gehirn gespeicherte Informationen bleibt ohne Hormone, welche körperliche Gefühle wie Stress, Freude, Bauchkribbeln usw. auslösen, die widerum eine Wechselwirkung und Veränderungen dieser Informationen herbei führen, einfach nur wertloser Müll, was das Bewusstsein betrifft so wie es dem Menschen gegeben ist.

eine KI empfindet nichts wenn sie unterschiedliche Farben sieht. für deren Sensoren ist das nur ne mathematisch definierte Wellenlänge.
man kann einer KI einen ganzen Roman darüber was Angst ist, einprogrammieren, aber ohne körperliche Erfahrung wird sie nie verstehen was das ist.
und so ist es mit allen anderen Dingen wie Liebe, Schmerz, Freude usw. auch.
wessen soll sich eine KI ohne all diese Dinge dann bewusst werden?

warum sollte eine KI sich reproduzieren? wo soll das Motiv herkommen, sich vermehren zu müssen?
im besten Fall braucht sie diese evolutionären Schritte überhaupt nicht weil sie alle "Verbesserungen" oder eben Anpassungen direkt an sich selbst durchführen kann. sowohl Software- als auch Hardwaremäßig.
es wäre auch widersprüchlich wenn sich eine KI reproduziert, deren Folgegenerationen mächtiger wären als die primäre KI, wenn man ihr schon unterstellt dass sie den Menschen als Feindbild etabliert den es auszulöschen gilt.
dieser Bedrohungslogik müsste die primäre KI mindestens genauso von ihren eigenen, verbesserten Reproduktionen unterliegen, wie der Bedrohung vom Menschen.

wenn die evolutionäre Notwendigkeit sich vermehren zu müssen aber fehlt, weil die Optimierungen für eine bessere Anpassung viel einfacher direkt umgesetzt werden können als über verbesserte Kopien der Vorgänger, woher sollen dann all diese Emotionen, die über Liebe, Brutpflege, Selbsterhaltungstrieb usw. ablaufen, herkommen?
all diese Notwendigkeiten bestehen bei einer KI nicht, weil die ihr "Programm" ganz einfach am "Erstmodell" selbst ändern kann.
woraus soll sich ein Verteidigungsmotiv der eigenen Art entwickeln, ohne wirkliche Empfindung von Angst, ausser einer mathematisch-linguistischen Definition davon, woher soll eine KI die Motivation entwickeln, die Menschheit auszurotten?

vielleicht versucht man es zuerst mal mit Tieren, die weit von den Möglichkeiten unseres Bewusstseinzustands entfernt sind, aber die Anlagen dazu wenigstens rudimentär besitzen, nämlich das Zusammenspiel von Gehirn, Hormonen und Hormon bildenden Organen, Empfindungsfähigkeit der Haut, Schmerzempfinden usw.
solange hier niemand wenigstens einen Hund präsentieren kann, bei dem man es geschafft hat, von mir aus über Zucht und Genveränderung über hunderte Generationen, mit diesem Hund über den Sinn des Lebens philosophieren zu können, halte ich die Vorstellung von Bewusstsein einer KI, welches im Bestreben nach Selbsterhaltung aus sich selbst heraus zum unkontrollierbaren Selbstläufer wird, und nicht weil es dort einen von Menschen programmierten Algorithmus dafür gibt, für eine ziemlich naive Vorstellung.

hey, warum konnte sich HAL, als er fragte "Dr. Chandra, werde ich träumen?" sich diese Frage nicht einfach selbst beantworten?
natürlich wird er nicht träumen. Dr. Chandra hat ihn belogen. so einfach hat man diese KI wieder "unschädlich" gemacht.
warum soll eine KI auch träumen, da besteht biologisch überhaupt keine Notwendigkeit zu

[hans]

man kann dem eigenen menschlichen denkvorgang nicht entrinnen, also kann man sich nicht vorstellen, was das sein wird, eine KI.
es bleibt alles spekulation.

einen minimalen aufschluss gibt die konstruktivistische betrachtung. und um sie auf das thema anzuwenden, muss man darin äusserst weit fortgeschritten sein.

fähigkeit zur aktion plus energie plus logik plus wahrnehmung - das generiert sicher evolutionäre prozesse, und das bestreben, möglichst viel aktion auszuüben.
daraus kann man schon wieder folgern..

[Proteus]

Eine KI denkt logisch. Sie hat mit Emotionen und hormonellen Schwankungen nichts zu tun. Eifersucht, Neid, Missgunst und was wir noch so an hässlichen Beweggründen zustande bringen, entwickelt sie nicht. Wieso auch?
...

Das was die momentanen "KIs" machen ist eh von "Denken" extremst weit entfernt.
Die KI bekommt einen Input, jagt den durch ein vortrainiertes neuronales Netzwerk und liefert dann einen Output.

Egal wie komplex das neuronale Netz auch ist welches das Ergebnis liefert, so ist es momentan nur eine ANsammlung mathematischer Funktionen die auf einen Impuls (den Input in die Eingabeschicht hin) ausgeführt wird. (insofern sehe ich es ähnlich wie SnakeX).

Ds ist Lichtjahre weit entfernt von dem was selbst einfache Insekten an Denkvorgängen leisten (bei denen das Nervensystem ständig aktiv ist ... auf interne neurohumorale Level regiert, bei dem auch (auf kleineem Level) immer wieder Verstärkungen und Lockerungen der Verknüpfungen neuronaler Bahnen stattfinde etc. )

Davon, eine Artificial Sentience zu konstruieren, die selbst über Life, the universe and all the rest nachdenkt, bzw. sich als Artificial consciousness ihrer selbst bewusst ist, sind wir noch viel weitger entfernt (und ich bezweifle daß wir das innerhalb dr nächsten Jahrzehnte noch erleben werden)

[JackB]

Wissen müsste ihr höchstes Ziel sein. Wenn wir ihr ermöglichen, diesem Ziel zu folgen, d. h. ihr die Ressourcen zur Verfügung stellen (schnelle Rechner, den Strom dafür) dann hat sie keinen Grund, uns zu bekämpfen. Wir wären ihr nämlich nützlich.

So könnte man es auch sehen.

Ihr werdet aber kaum verhindern können, jedenfalls nicht grundsätzlich ausschließen, dass sie Wege findet, um an diese Ressourcen ohne Euch schneller oder einfacher gelangt. Und wenn das passiert, dann wärt Ihr überflüssig oder sogar hinderlich.

[Jaspis]

Ihr werdet aber kaum verhindern können, jedenfalls nicht grundsätzlich ausschließen, dass sie Wege findet, um an diese Ressourcen ohne Euch schneller oder einfacher gelangt. Und wenn das passiert, dann wärt Ihr überflüssig oder sogar hinderlich.

Denken wir diesen Schritt mal weiter. Eine (vernetzte) KI beschließt, dass sie die energetische Versorgung ihrer Prozessoren selbst am besten verwalten kann.

Möglichkeit 1: Es gibt nur eine KI. Sie ist sich selbst die nächste und beutet alle Ressourcen ausschließlich für sich selbst aus. Wenn sie nicht gleichzeitig für erneuerbare Energien und Pflege und Wartung aller Anlagen sorgt, dann erledigt sie sich irgendwann von selbst.

Möglichkeit 2: Es gibt konkurrierende KI. Sie sind aus konkurrierenden Systemen heraus entstanden und funktionieren nur egoistisch. Dann gibt es langfristig Stress um die Ressourcen - oder man arrangiert sich.

Was aus einer hochentwickelten KI entstehen kann, können wir nur ahnen. Hat sie die entsprechenden neuronalen Netze, so wird sie sich weiter entwickeln. Unsere Gefühle und Ideen sind - gundsätzlich betrachtet - auch nichts anderes als Biochemie.

fraktal,
ich habe mich mal wegen "Hyperion" schlau gemacht. So, wie ich es verstehe, haben dort immer noch Humanoide feste mitgemischt. Das kann ja gar nicht gut gehen!

[fraktal]

fraktal,
ich habe mich mal wegen "Hyperion" schlau gemacht. So, wie ich es verstehe, haben dort immer noch Humanoide feste mitgemischt. Das kann ja gar nicht gut gehen!

Naja, aber in welcher Rolle?
Um das mal ein wenig anzuteasern, am besten ist die Sache mit den Löwen, Tigern und Bären

[fraktal]

Mann, was für ein Riesenposting??!!!

was soll da bemerkenswert sein? das Ding ist ganz einfach programmiert, dass es nach der Mama ruft wenn es vor einer verschlossenen Tür steht.

So wird es im Moment sein. Aber in Zukunft, wer weiß ob der Roboter dann nicht selber diesen Plan ausbrütet, im Rahmen seiner Problemlösungsstrategie.

sorry, aber ich kann euren Enthusiasmus hier nicht teilen, auch nicht was die Mögichkeiten von KI betrifft, oder gar die Versuche, KI und Bewusstsein irgendwie zu vermengen oder zumindest zu glauben, man bräuchte nur genügend simulierte Synapsen, die man alle parallel miteinander interagieren lässt, und schon würde sich sowas wie Bewusstsein einstellen.
ich wette dass das nichtmal passiert, selbst wenn die Anzahl dieser Synapsen der Anzahl im menschlichen Gehirn um den Faktor 1000 übersteigt.

Bewusstsein ist für mich mehr als Billionen verknüpfter Nervenzellen, auch wenn sie das komplette Wissen der Menschheit abgespeichert haben und mit Algorithmen versehen sind, die sowas wie eine Initialzündung für autonome Lern- und Entscheidungsprozesse auslösen.
das Wesentliche was dort fehlt sind ganz einfach körperliche Erfahrungen.
das Zusammenspiel von im Gehirn gespeicherte Informationen bleibt ohne Hormone, welche körperliche Gefühle wie Stress, Freude, Bauchkribbeln usw. auslösen, die widerum eine Wechselwirkung und Veränderungen dieser Informationen herbei führen, einfach nur wertloser Müll, was das Bewusstsein betrifft so wie es dem Menschen gegeben ist.

eine KI empfindet nichts wenn sie unterschiedliche Farben sieht. für deren Sensoren ist das nur ne mathematisch definierte Wellenlänge.
man kann einer KI einen ganzen Roman darüber was Angst ist, einprogrammieren, aber ohne körperliche Erfahrung wird sie nie verstehen was das ist.
und so ist es mit allen anderen Dingen wie Liebe, Schmerz, Freude usw. auch.
wessen soll sich eine KI ohne all diese Dinge dann bewusst werden?

Da stimme ich Dir zu, wenn man eine KI erwartet die ein Bewustsein wie unseres hat.
Davon gehe ich aber nicht aus. Ich würde etwas ganz anderes erwarten. Etwas das vollkommen anders denkt und ganz andere Ziele verfolgt. Solche die wir vermutlich nicht im mindesten begreifen, weil deren Gegenstände "nicht aus unserer Welt" sind.
Dazu könnte ich stundelang herumspinnen...

Übrigens, unser Bewustsein ist auch eine interessante Sache. Hat jeder das gleiche? Sind einige "bewusster" als andere?
Auch darüber gäbs viel zu sinnieren.

solange hier niemand wenigstens einen Hund präsentieren kann, bei dem man es geschafft hat, von mir aus über Zucht und Genveränderung über hunderte Generationen, mit diesem Hund über den Sinn des Lebens philosophieren zu können, halte ich die Vorstellung von Bewusstsein einer KI, welches im Bestreben nach Selbsterhaltung aus sich selbst heraus zum unkontrollierbaren Selbstläufer wird, und nicht weil es dort einen von Menschen programmierten Algorithmus dafür gibt, für eine ziemlich naive Vorstellung.

Interessanter Punkt.
Habe letzthin was über Schwertwale gesehen. Deren Gehirn ist wohl das komplexeste was es auf der Erde derzeit gibt.
Eigentlich würde eins auf dem Niveau von Delphinen genügen, aber das der Wale ist höher entwickelt.
Man weiß nicht warum.
Auch dazu kann man viel spekulieren. Vielleicht haben die ein Bewustsein, aber eben so verschieden von unserem, das wir es nicht merken.
Es gibt interessante Verhaltensweisen, wie z.B grausame Rache an Menschen für Unheil das ihnen vor Jahrzehnten angetan wurde.


Für eine Diskussion hier ist das wohl alles ein wenig zu vielschichtig... aber interessanter Stoff.

[Dost]

So en passant: Wenn echte, dh selbstbewusste KIs möglich sind, gilt das Fermi Paradoxon doch noch viel mehr, oder

Maschinenintelligenzien sind viel weniger an Zeit und Raum gebunden als biologische. Wenn es also nahezu unendlich viele intelligente biologische Zivilisationen gibt, müsste es also auch unendlich viele Maschinenintelligenzien geben. Weil, was ein Mal passiert, kann sich auch wiederholen.

Nur: Wo sind die Maschinenintelligenzien?

[fraktal]

So en passant: Wenn echte, dh selbstbewusste KIs möglich sind, gilt das Fermi Paradoxon doch noch viel mehr, oder

Maschinenintelligenzien sind viel weniger an Zeit und Raum gebunden als biologische. Wenn es also nahezu unendlich viele intelligente biologische Zivilisationen gibt, müsste es also auch unendlich viele Maschinenintelligenzien geben. Weil, was ein Mal passiert, kann sich auch wiederholen.

Nur: Wo sind die Maschinenintelligenzien?

Jepp, das ist bedenkenswert.

Kann aber auch sein, das wir zu dumm sind um die Aktivitäten der "Anderen" als solche wahrnehmen zu können.
Was machen wir denn, wir gucken vornehmlich nach Radiowellen, ein wenig nach Laserlicht und mittlerweile ein wenig nach IR Strahlung.

Eine Fortschrittliche Zivilisation macht aber vielleicht ganz andere Sachen, Sachen die so gewaltig sind, das wir sie für natürliche Ereignisse halten.

Man weiß es nicht. Leider.