Der Todes-Algorithmus

[Little_Ally]

Ja, da habe ich die Schlagzeile der Tagesschau teilweise übernommen um Aufmerksamkeit zu erregen. Aber es ist auch gruselig und es macht mir durchaus Angst, was da in den USA gerade entwickelt wird:

...Neue Computerprogramme sollen die Lebenserwartung von Menschen möglichst genau berechnen. Ein US-Unternehmen will so teure und vermeintlich unnötige Therapien für Schwerkranke vermeiden. Aber dürfen Entscheidungen über Leben und Tod an Algorithmen ausgelagert werden? ...
...
...Das von Google mitfinanzierte Unternehmen wertet mithilfe von Algorithmen ärztliche Diagnosen von Patienten aus und gleicht das Krankheitsbild mit Mustern häufiger Therapien ab. So soll verhindert werden, dass Schwerkranke unnötige Behandlungen bekommen, die außerdem noch viel Geld kosten. Das spart teure Untersuchungen, wenn man zu wissen glaubt, dass es ohnehin bald um den Patienten geschehen ist....
...

Quelle



Ich hoffe, dass so was in Deutschland nie erlaubt werden wird. Meiner Ansicht nach müssen immer Menschen, fachlich kompetente Menschen und auch die Patienten, in einen solchen Prozess einbezogen werden und letztendlich die Entscheidungen treffen.

[Saruman]

Das ist doch das ideale Werkzeug für Lebensversicherungen?

[JackB]

Ja, da habe ich die Schlagzeile der Tagesschau teilweise übernommen um Aufmerksamkeit zu erregen. Aber es ist auch gruselig und es macht mir durchaus Angst, was da in den USA gerade entwickelt wird:



Quelle

:fürcht:

Ich hoffe, dass so was in Deutschland nie erlaubt werden wird. Meiner Ansicht nach müssen immer Menschen, fachlich kompetente Menschen und auch die Patienten, in einen solchen Prozess einbezogen werden und letztendlich die Entscheidungen treffen.

Wo steht denn, dass die Algorithmen Entscheidungen treffen sollen? Die Programme können bei der Auswertung von Diagnosen helfen und Prognosen erstellen. Die Entscheidung, welche Handlungen daraus abgeleitet werden sollen, bleibt immer noch Menschen.

Ich denke, dass ein solches Instrument vielen Patienten helfen könnte, ihre letzten Monate angenehmer zu verbringen. Mein Opa, oder der Opa der Frau eines Kollegen, hatte in letzten Lebenshalbjahr eine aufwendige und für ihn äußerst unangenehme Gebissrestauration, und er ließ sich eine künstliche Hüfte einbauen. Als alles fertig war, starb er. Seine letzten Worte waren: "Wenn mir das doch einer vorher gesagt hätte ... "

[Proteus]

Gibt aber auch Ausreisser aus der Statistik.
Meine Mutter hatte in 2010 Krebs der jahrelang unentdeckt war (trotz ständiger Untersuchungen beim Gynäkologen und Allgemeinmediziner), sehr stark entartet war und einen großen Teil des Unterleibs befallen hatte.

Ich hab keinen Zweifel daran daß ein Algorithmus meine Mutter zu der Majorität der Krebspatienten gezählt hätte, welche die "magischen 5 Jahre" nach Diagnosestelölung nicht überleben. Vielleicht hätte der Algorithmus gar von einer Operation (um den Krebs zu entfernen) "abgeraten" (um es vereinfacht auszudrücken)

Nun, meine Mutter hatte eine Woche nach Diagnosestellung eine umfangreiche OP in der die Mehrheit der Tumore entfernt wurden. Danach eine harte Chemo. Und lebt heute noch, ohne ein Rezidiv in der ganzen Zeit.

[ganzblau]

Schönes Beispiel, Proteus. Und freut mich sehr für deine Mom, und für euch

Nach meiner Meinung können Algorithmen das Wesentliche nicht abbilden: Ich meine den Willen, zu leben. Menschen sind nicht berechenbar, weil der Faktor "Sinn" sich nicht statistisch erfassen lässt.

Natürlich können Rechner Krankheitsverläufe simulieren und damit alternative Wege aufzeigen. Gegen Entscheidungshilfen ist nichts einzuwenden.

Aber an den Faktoren, die unseren Lebenswillen bestimmen - inklusive der Hoffnungen und Ängste, die uns gerade vor grösseren Eingriffen umtreiben - scheitern die Berechnungen. Meine Sorge ist, dass man hier aus rein ökonomischen Beweggründen Maschinen über Sinnfragen entscheiden lassen möchte. Und das wäre dann wieder einmal schiere Hybris.

[JackB]

Gibt aber auch Ausreisser aus der Statistik.
Meine Mutter hatte in 2010 Krebs der jahrelang unentdeckt war (trotz ständiger Untersuchungen beim Gynäkologen und Allgemeinmediziner), sehr stark entartet war und einen großen Teil des Unterleibs befallen hatte.

Ich hab keinen Zweifel daran daß ein Algorithmus meine Mutter zu der Majorität der Krebspatienten gezählt hätte, welche die "magischen 5 Jahre" nach Diagnosestelölung nicht überleben. Vielleicht hätte der Algorithmus gar von einer Operation (um den Krebs zu entfernen) "abgeraten" (um es vereinfacht auszudrücken)

Nun, meine Mutter hatte eine Woche nach Diagnosestellung eine umfangreiche OP in der die Mehrheit der Tumore entfernt wurden. Danach eine harte Chemo. Und lebt heute noch, ohne ein Rezidiv in der ganzen Zeit.

Dazu hat sie doch sicher auch ihr Arzt gezählt, und ihr diese Prognose ehrlich mitgeteilt?

[JackB]

Schönes Beispiel, Proteus. Und freut mich sehr für deine Mom, und für euch

Nach meiner Meinung können Algorithmen das Wesentliche nicht abbilden: Ich meine den Willen, zu leben. Menschen sind nicht berechenbar, weil der Faktor "Sinn" sich nicht statistisch erfassen lässt.

Natürlich können Rechner Krankheitsverläufe simulieren und damit alternative Wege aufzeigen. Gegen Entscheidungshilfen ist nichts einzuwenden.

Aber an den Faktoren, die unseren Lebenswillen bestimmen - inklusive der Hoffnungen und Ängste, die uns gerade vor grösseren Eingriffen umtreiben - scheitern die Berechnungen. Meine Sorge ist, dass man hier aus rein ökonomischen Beweggründen Maschinen über Sinnfragen entscheiden lassen möchte. Und das wäre dann wieder einmal schiere Hybris.

Sofern diese Faktoren für Ärzte erkennbar sind, können sie durchaus auch in die Computerberechnungen einfließen.
Dass bei Patienten, die psychisch stabil sind, die Rückhalt durch ihr soziales Umfeld haben, oder die in ihrem Leben noch Ziele erreichen wollen, und dadurch "motiviert" sind, wieder auf die Beine zu kommen, bessere Perspektiven haben als solche, bei denen das nicht zutrifft, ist statistisch belegt und kann deshalb auch in die Berechnungen aufgenommen werden.

[Little_Ally]

Wo steht denn, dass die Algorithmen Entscheidungen treffen sollen? Die Programme können bei der Auswertung von Diagnosen helfen und Prognosen erstellen. Die Entscheidung, welche Handlungen daraus abgeleitet werden sollen, bleibt immer noch Menschen.

In den USA klingt das schon so, dass es damit Ärzten und schwerkranken Patienten mit Überlebenswillen sehr schwer gemacht werden soll, eine teure Behandlung genehmigt zu bekommen, wenn der
Algorithmus von einem baldigen Tod ausgeht:

..."Aspire Health" will Kosten senken. Rund 40 Prozent der Ausgaben für Behandlungen könnten eingespart werden, erwartet das US-Unternehmen, das sein Geld mit Palliativpflege verdient. Denn Pflege kostet weniger als Behandlung. Das klingt nach Effizienz. ...
...
...Diese Rechenprogramme sind, auch wenn sie nüchtern und objektiv erscheinen, Menschenwerk. Und doch werden sie zu Black Boxes, wenn die Maschine sich selbst weiter entwickelt. Selbst die Entwickler wissen nicht mehr genau, wie ihr Geschöpf denkt und weshalb genau die Maschine welchen Lösungsweg gewählt hat. Und doch sollen diese Berechnungen über Leben und Tod entscheiden. ...
...

Quelle

Nicht umsonst warnen deutsche Ärzte und Computerethiker davor, hier zu weit zu gehen.

[Proteus]

Dazu hat sie doch sicher auch ihr Arzt gezählt, und ihr diese Prognose ehrlich mitgeteilt?

Ich glaube die Antwort darauf lautet nein, AFAIK hat er nicht über Überlebenswahrscheinlichkeite (oder sonstige Wahrscheinlichkeiten) mit ihr gesprchen.
Der Onkologe und ich hatten es auch so schon schwer genug, meine Mutter davon zu überzeugen, die Chemo zu machen (sie hat ihr Schicksal mit dem meiner Großmutter gleichgesetzt (ebenfalls (zu) spät erkannter metastasierter Krebs ... weniger als ein Jahr nach Diagnosestellung war sie tot ) und gaubte sich daher als Todeskandidatin und daß eine Chemo sinnlos wäre ... eine Erwähnung von Wahrscheinlichkeiten (wie 70+% Wahrscheinlichkeit auf ein Rezidiv, hätten sie erst Recht davon abgebracht, die Chemo zu machen)

[hans]

ein argument gegen zu viel automatische beurteilung:
neue aber auch alte therapien wirken öfter mal unvorhergesehen gut oder auch schlecht.
wie der mensch drauf anspricht, wird zwar auch berechenbarer, aber nie garantiert.

[JackB]

Ich glaube die Antwort darauf lautet nein, AFAIK hat er nicht über Überlebenswahrscheinlichkeite (oder sonstige Wahrscheinlichkeiten) mit ihr gesprchen.
Der Onkologe und ich hatten es auch so schon schwer genug, meine Mutter davon zu überzeugen, die Chemo zu machen (sie hat ihr Schicksal mit dem meiner Großmutter gleichgesetzt (ebenfalls (zu) spät erkannter metastasierter Krebs ... weniger als ein Jahr nach Diagnosestellung war sie tot ) und gaubte sich daher als Todeskandidatin und daß eine Chemo sinnlos wäre ... eine Erwähnung von Wahrscheinlichkeiten (wie 70+% Wahrscheinlichkeit auf ein Rezidiv, hätten sie erst Recht davon abgebracht, die Chemo zu machen)

Das ist aber ein sehr fragwürdiges Verhalten. Das klingt für mich nach einem Verstoß gegen die ärztliche Aufklärungspflicht:

In § 630c Absatz 2 Satz 1 Bürgerliches Gesetzbuch (BGB) ist durch das sog. Patientenrechtegesetz1 die diesbezügliche zivilrechtliche Pflicht aus dem Behandlungsvertrag zur therapeutischen Aufklärung ausdrücklich geregelt: „Der Behandelnde ist verpflichtet, dem Patienten in verständlicher Weise zu Beginn der Behandlung und, soweit erforderlich, in deren Verlauf sämtliche für die Behandlung wesentlichen Umstände zu erläutern, insbesondere die Diagnose, die voraussichtliche gesundheitliche Entwicklung, die Therapie und die zu und nach der Therapie zu ergreifenden Maßnahmen.“

https://www.aerztekammer-berlin.de/1...ngspflicht.pdf

Einen Patienten durch Vorenthaltung von Informationen dazu zu bringen, einer Behandlung zuzustimmen, die er, wenn er umfassend informiert wäre, wahrscheinlich ablehnen würde, ist ein recht klarer Verstoß gegen die angeführte Vorschrift des BGB durch den behandelnden Arzt.

Es kommt häufig vor, wie anscheinend auch im Fall deiner Mutter, dass Angehörige den Arzt bei einem solchen Verhalten unterstützen, oder es von ihm sogar einfordern. Die Absichten sind dabei meistens die besten. Problematisch, sowohl ethisch wie auch rechtlich, ist es trotzdem.

[Proteus]

Das ist aber ein sehr fragwürdiges Verhalten. Das klingt für mich nach einem Verstoß gegen die ärztliche Aufklärungspflicht:


https://www.aerztekammer-berlin.de/1...ngspflicht.pdf

Einen Patienten durch Vorenthaltung von Informationen dazu zu bringen, einer Behandlung zuzustimmen, die er, wenn er umfassend informiert wäre, wahrscheinlich ablehnen würde, ist ein recht klarer Verstoß gegen die angeführte Vorschrift des BGB durch den behandelnden Arzt.

Es kommt häufig vor, wie anscheinend auch im Fall deiner Mutter, dass Angehörige den Arzt bei einem solchen Verhalten unterstützen, oder es von ihm sogar einfordern. Die Absichten sind dabei meistens die besten. Problematisch, sowohl ethisch wie auch rechtlich, ist es trotzdem.

Nun, die Frage ist, ob dazu gehört daß man ungefragt zum Beispiel 5-Jahres-Überlebensstatistiken nennt. IMHO gehört es nicht dazu.

Was ja definitiv nicht gemacht wurde ist, daß meine Mutter im Unklaren darüber gelassen wurde was passieren kann ... etwa daß Rezidive auftreten können. Es wurde (AFAIK) nur nicht gesagt, wie hoch die Wahrscheinlichkeit (nach bisherigen Statistiken) dafür ist daß sie auftreten können ... und sie hat AFAIK in weiser Voraussicht auch nicht selbst danach gefragt

Sie ist jedenfalls mittlerweile froh darüber daß sie sich damals dazu "überreden" ließ, die Chemo zu machen

[JackB]

Nun, die Frage ist, ob dazu gehört daß man ungefragt zum Beispiel 5-Jahres-Überlebensstatistiken nennt. IMHO gehört es nicht dazu.

Was ja definitiv nicht gemacht wurde ist, daß meine Mutter im Unklaren darüber gelassen wurde was passieren kann ... etwa daß Rezidive auftreten können. Es wurde (AFAIK) nur nicht gesagt, wie hoch die Wahrscheinlichkeit (nach bisherigen Statistiken) dafür ist daß sie auftreten können ... und sie hat AFAIK in weiser Voraussicht auch nicht selbst danach gefragt

Warum eigentlich nicht?

Für eine Frau, die sich schon selbst aufgegeben und mit ihrem baldigen Tod abgefunden hat (so interpretiere ich deine Schilderung), muss doch eine 30 Prozent Wahrscheinlichkeit, dass sie nicht nur überlebt, sondern sogar gesund wird und ihre Enkel aufwachsen sehen kann, ausgesprochen ermutigend und motivierend sein.

Ich würde Patienten eine solche Information nicht verschweigen.

[Proteus]

Warum eigentlich nicht?

Für eine Frau, die sich schon selbst aufgegeben und mit ihrem baldigen Tod abgefunden hat (so interpretiere ich deine Schilderung), muss doch eine 30 Prozent Wahrscheinlichkeit, dass sie nicht nur überlebt, sondern sogar gesund wird und ihre Enkel aufwachsen sehen kann, ausgesprochen ermutigend und motivierend sein.

Ich würde Patienten eine solche Information nicht verschweigen.

Sie ist eben nicht durch rationales Nachdenken zu ihrem Schluß gelangt (daß sie Todeskandidatin sei)
Sie hatte miterlebt wie ihre eigene Mutter etwas mehr als ein Jahrzehnt zuvor einen jahrelang unentdeckten (stark entarteten und überall hin metastasierten) Krebs diagnostiziert bekommen hat und weniger als ein Jahr danach starb (mit dem letzten halben Jahr qualvoller Krankenhausaufenthalte, sowie einer ebenfalls nicht angenehmen leichten Chemo kurz nach Diagnosestellung).
Nach ihrer eigenen ähnlichen Diagnose (da ebenfalls jahrelang unentdeckt, stark entartet (höchste Stufe) und weithin metastasiert) ist sie dann in das Denkmuster verfallen, daß nun sie selbst dran sei und bald sterben werde, egal was man macht (und daß deswegen die Chemo nur ne zusätzliche Qual in ihren letzten paar Monaten sei)

Rationale Argumente (wie beispielsweise auch, daß meine Großmutter schon als austherapiert betrachtet wurde und die lechte Chemo nur dazu diente, ihr eventuell ein paar Wochen mehr zu geben, wohingegen meine Mutter selbst eben nicht als austherapiert betrachtet wurde und die geplante (starke) Chemo ihr tatsächlich eine reelle Überlebenschance ermöglichen würde) verfingen sich in dem Stadium nicht bei ihr.
Hätte mn ihr gesagt daß sie eine 30% 5+-Jahres-Überlebenschance hätte, hätte sie sich zu dem Zeitpunkt einfch automatisch zu den anderen 70% gezählt.

Es war nicht bevor sie selbst realisierte, daß sie sich tatsächlich (in ihrer Gedankenwelt) sehr stark mit ihrer Mutter identifizierte (und deren Krebs-Schicksal), daß sie für rationale Argumente zugänglich wurde (im Sinne von "vielleicht ist ja doch was dran an den Sachen was mir der Onkologe, mein Sohn und andere Leute erzählen") und schlussendlich der Chemo zustimmte

[SilverER]

Wo steht denn, dass die Algorithmen Entscheidungen treffen sollen? Die Programme können bei der Auswertung von Diagnosen helfen und Prognosen erstellen. Die Entscheidung, welche Handlungen daraus abgeleitet werden sollen, bleibt immer noch Menschen.

Nun, die Entscheidungsfindung scheint doch schon vorgezeichnet und der Sinn (?) solcher Algorithmen klar...

Das von Google mitfinanzierte Unternehmen wertet mithilfe von Algorithmen ärztliche Diagnosen von Patienten aus und gleicht das Krankheitsbild mit Mustern häufiger Therapien ab. So soll verhindert werden, dass Schwerkranke unnötige Behandlungen bekommen, die außerdem noch viel Geld kosten. Das spart teure Untersuchungen, wenn man zu wissen glaubt, dass es ohnehin bald um den Patienten geschehen ist.