Seit wann bist du so optimistisch? Dein Wort in Gottes Ohr. Hoffentlich hast du Recht.
Bislang hatten die meisten Spezies - und ich spreche nicht nur von Menschen - in aller Regel den Fortbestand ihrer eigenen Spezies als oberste Prämisse einprogrammiert. Wieso sollte dies bei einer KI anders sein? Und warum sollte die KI sich nicht die Welt so gestalten, wie sie ihr gefällt?
Auch intelligente Menschen irren und neigen zu Hysterie. Trotzdem: Wenn Personen wie Hawking, Musk und Wozniak vor der KI ausdrücklich warnen, so bin auch ich mehr als beunruhigt.
Knackpunkt wird sein, wenn KI in der Lage sein wird, sich selber zu reproduzieren und menschenähnliche Reflektion über sich selbst zu entwickeln. Noch sehe ich dies trotz AlphaZero und Co. nicht. Sollte es aber passieren, wird alles andere blitzschnell gehen und dann befürchte ich wird diese neue Spezies sich nicht sonderlich von biologischen Spezies unterscheiden und dies bedeutet in ihrer Bedürfnispyramide kommt erst die eigene Spezies und ihre Bequemlichkeit. Hoffentlich taucht der Erschaffer dieser Spezies - der Mensch - in dieser Bedürfnispyramide irgendwo untergeordnet mit auf. An die kontrollierbaren lieben Roboter von Asimov glaube ich nicht.
Ich würde mir sehr wünschen, dass du Recht hast Fraktal.