In der Krebsmedizin gewinnt Künstliche Intelligenz gerade enorm an Bedeutung. Doch es gibt noch Probleme - zum Beispiel, wenn es um die Zusammenarbeit von Mensch und KI geht. Von Frank Wittig.
Bei Hautkrebsscreening und in der Pathologie machen KI- unterstütze Diagnosen durchaus Sinn
Bei jeder Krebsart macht KI Sinn.
bei vielen, insbesondere wenn pathologische Gewebeproben vorliegen
In der Pathologie ? Zumindest können sich die Patienten dann nicht mehr über Fehldiagnosen beschweren ..,
was glauben Sie, wo Gewebeproben von OPs untersucht werden?
Na dann hoffen wir mal das auch in diesem Anwendungsbeispiel die KI neuartige Zellen ganz genau und ganz exakt erkennt und erfahrungsgemäß keinen Fehler macht.
muss trainiert werden an Proben
Der Vorteil zum Mensch, die KI ermüdet nicht bei der Analyse mikroskopischer Präparate
KI. Ja genau.
Mal abgesehen von der Fehlerrate, ist dieser Automatismus (nein, nicht KI. Aber um das zu erkennen, müsste man zumindest NI haben - natürliche Intelligenz) nicht geeignet, Krebs wirklich zu erkennen. Selbst die Nase eines Hundes (ja, es gibt für sowas ausgebildete Hunde) ist besser, wenn auch nicht so zuverlässig.
"besser, wenn auch nicht so zuverlässig."
Guter Vergleich. Diese Spürhunde behandeln ja auch nicht den Patienten. Genauso verhält es sich mit KI. Sie wird als Werkzeug genutzt, um langwierige Prozesse zu verkürzen bzw in der gleichen Zeit mehr Screenings zu machen. Und dafür ist sie sicher auch geeignet und wird von Tag zu Tag besser...
"Guter Vergleich. Diese Spürhunde behandeln ja auch nicht den Patienten. Genauso verhält es sich mit KI. Sie wird als Werkzeug genutzt, um langwierige Prozesse zu verkürzen bzw in der gleichen Zeit mehr Screenings zu machen. Und dafür ist sie sicher auch geeignet und wird von Tag zu Tag besser..."
So ist es. Letzlich ist die KI in der Medizin auch kein Ersatz für vorhandene Systeme sondern nur eine Weiterentwicklung.
Selbst die Nase eines Hundes (ja, es gibt für sowas ausgebildete Hunde) ist besser, wenn auch nicht so zuverlässig.
Medizinische Diagnostik, die sich auch auf KI stützt, ist um Lichtjahre besser und zuverlässiger als ein Hund.
Aber sollte ein solchermaßen ausgebildeter Hund mal auffälliges Interesse an Ihnen zeigen, wäre er letzten Endes derjenige, der Ihr Leben gerettet hat.
kenn mich nicht aus und kann ihnen deshalb nicht widersprechen
aber weshalb gibt es auf Flughafen so Rauschgifthunde welches das Zeug erschnüffeln und keine techn. Kiste die das kann
wobei vielleicht kommt es noch
Da kommen wir eher in den Bereich von predictive policing.
Das ist allerdings auch schon nichts so ganz neues mehr und wird mehr eingesetzt, als Ihnen oder mir lieb ist...
ich habe kein oder weniger Probleme
wer sortiert denn Briefe ? und ordnet die zu
wer sortiert Schrauben aus oder so Zeugs
doch Maschinen weils erheblich schneller geht
Eine KI kann aber theoretisch auf alle bisherigen diesbezüglichen Erkenntnisse und Untersuchungsbilder auf der ganzen Welt zugreifen und daraus Schlüsse ziehen. Ein Arzt bekäme das in kurzer Zeit niemals hin und auch Hunde würden da scheitern.
Ich meine daß die KI besonders effektiv einsetzbar ist auf Gebieten, die Erfahrung fordern. Die KI vergisst nicht. Bei Rückmeldung kann sie emotionslos lernen. Hinweise wie "zu xx % krebsartig" sind z.B. bei Hautkrebserkennung doch hilfreich! Die letzte Entscheidung über zu treffende Maßnahmen muß beim Untersuchten bleiben. Auch die, einen Arzt hinzuzuziehen.
Die letzte Entscheidung über zu treffende Maßnahmen muß beim Untersuchten bleiben. Auch die, einen Arzt hinzuzuziehen.
Um Missverständnissen vorzubeugen: KI wird vom Arzt eingesetzt, nicht vom Patienten.
"... Ich meine daß die KI besonders effektiv einsetzbar ist auf Gebieten, die Erfahrung fördern..."
Nee. Grund ist : was ist wenn neuartige Krebszellen untersucht werden und die KI weiß nicht was sie da untersucht.
Hier hilft nur langjährige Erfahrung des Menschen weiter, und zwar mit dem Blick durch das Mikroskop.
Die KI muss nicht selbst durch das Mikroskop kucken, sie analysiert die Daten, die zb durch die Aufnahme eines Mikroskop erfasst werden und vergleicht diese mit anderen Daten....ist das wirklich so schwer zu verstehen??
Datenschutz, Datenschutz und nochmals Datenschutz. Sind denn die Patientendaten nicht schon durch die ärztliche Schweigepflicht geschützt, und darf ein Arzt die Patientendaten weitergeben wenn der Patient damit nicht einverstanden wäre. Ich als Patient bestimme ob meine Befunde und Diagnosen zu einer Weiterbehandlung an einen zusätzlich benötigten Facharzt oder Klinikum weitergegeben dürfen oder nicht. Denn nur so macht eine Weiterbehandlung erst Sinn! Und KI hin oder her, ich habe schon immer mitbestimmen dürfen wie meine Therapie aussieht die ich brauche, denn ich habe schon immer das Recht gehabt dazu auch alles zu hinterfragen.
Das die Ärzte der KI wegen mangelnder Transparenz nicht trauen ist völlig richtig. "Die meisten Systeme sind nicht transparent. Sie erklären nicht, wie sie zu ihrer Diagnose kommen!"
"Die meisten Systeme sind nicht transparent. Sie erklären nicht, wie sie zu ihrer Diagnose kommen!"
Doch, das tun sie schon. Sie vergleichen die aktuelle Situation mit gelernten früheren Situationen und lernen jedesmal hinzu. Sie machen allerdings keinen Urlaub und gehen nicht in Rente.
Das Zitat, auf das Sie antworten, steht aber genau so im Artikel....
Damit war gemeint, dass das System den Ärzten nicht erläutert, wie es zu seiner Diagnose gekommen ist, welche Daten was ergeben haben. Die Ärzte können dann schlecht Vergleiche zu ihren eigenen Auswertungen ziehen.
So richtig spannend wird’s ja erst, wenn auch solche Systeme gehackt werden. Wie sieht denn da die Vorsorge der Betreiber aus? Und der Datenschutz für diejenigen, die zugunsten der Forschung auf den Datenschutz innerhalb der Behandlung verzichtet haben?
Was meinen Sie denn genau mit "gehackt"? Ausgerechnet hier kann ich die Sorge um Datenschutz nur bedingt verstehen. Natürlich müssen solche Systeme auch gegen Angriffe von außen geschützt werden, aber jeder der auch nur ab und zu google, facebook, amazon u.ä. benutzt, gibt wesentlich mehr für wesentlich weniger her.....
Die Frage ist berechtigt! Einen 100%igen Schutz gegen Hacker wird es aber wohl nie geben!? Die Frage ist in den Raum gestellt, was würde ein Hacker mit einem Befund oder Diagnose anfangen können? Einen Hacker würden wohl nur Forschungsergebnis was nützen wo er Geld rausschlagen könnte. Das ist das gefährliche an der Sache! Und wer auf den Datenschutz von sich aus zum Wohle der Forschung verzichtet ist selber schuld. Es müßte eine Regelung geben wo keine Personen bezogenen Daten an die Forschung weiter gegeben werden darf! Damit man aber den Patienten, sofern die Forscher ihn benötigen würde, muß es auch dafür eine Lösung geben wie man den Patienten erreichen könnte. Wie die Lösung trotz Datenschutz aussehen könnte, ich weiß es nicht!
So richtig spannend wird’s ja erst, wenn auch solche Systeme gehackt werden.
Was sollte daran zu hacken sein.
Und der Datenschutz für diejenigen, die zugunsten der Forschung auf den Datenschutz innerhalb der Behandlung verzichtet haben?
Das passiert ja gar nicht. Die KI benötigt ja nicht die Namen, Adressen und Religionszugehörigkeiten usw. der Patienten. Wozu auch? Bedenkenträgerei in Ehren, aber hier ist es völlig sinnfrei.
Die Klinik erpressen. Wurde doch schon oft genug gemacht. Und erst letzte Woche oder sogar noch aktuell.
Ach ja, von wem wird die KI programmiert, bzw trainiert? Wird die KI auch von Mediziner:innen mit prgrammiert und trainiert damit sie dann auch in der Medizin wirklich nutzbar wird?
"damit sie dann auch in der Medizin wirklich nutzbar wird", ist es nicht nötig, dass Mediziner programmieren lernen. Die Mediziner brauchen wir nach wie vor, sobald es darum geht, Entscheidungen zu treffen.
Sie haben meinen Kommentar nicht verstanden! Wie kann eine KI eine medizinische Diagnose, oder Behandlungsmethode vorschlagen, oder sich in einer Krebsbehandlung auskennen? Auch einer KI muß das Wissen beigebracht werden damit sie damit umgehen kann, oder etwa nicht? Und woher soll das Wissen kommen wenn nicht von Medizinern selber? Und jetzt kommen wir wieder auf den Datenschutz zurück, die KI kann keine medizinische Daten irgendwoher beziehen wenn sie nicht freigegeben wurden die ihr für Diagnose oder Behandlungsmethoden aber nötig sind. Habe ich Hodenkrebs, brauche ich sicherlich kein Herzmittel. Also, woher weiß die KI letztendlich was medizinisch benötigt wird und zu tun ist?
Auch einer KI muß das Wissen beigebracht werden damit sie damit umgehen kann, oder etwa nicht?
Das ist genau das Wesen der KI.
Und woher soll das Wissen kommen wenn nicht von Medizinern selber?
Richtig.
Und jetzt kommen wir wieder auf den Datenschutz zurück, die KI kann keine medizinische Daten irgendwoher beziehen wenn sie nicht freigegeben wurden die ihr für Diagnose oder Behandlungsmethoden aber nötig sind.
Wenn die Daten anonymisiert sind, ist die Verwendung datenschutzrechtlich zulässig. Die KI lässt später keine Rückschlüsse auf konkrete Patienten zu. Das ist nicht gewollt und auch nicht nötig.
Ok, ich habe Ihren Kommentar nicht verstanden, sorry.
Also die KI müssen Sie sich als riesigen Haufen Röntgenbilder vorstellen, sagen wir von einem Oberschenkel. Die einzelnen Bilder sind markiert, je nachdem ob der Femur gebrochen ist oder nicht. Die KI legt diese ganzen Bilder übereinander und vergleicht sie mit einem Röntgenbild von Ihrem Oberschenkel. Je nachdem, ob Ihr Bild eher so aussieht wie ein gebrochener Knochen oder ein gesunder, gibt die KI eine Wahrscheinlichkeit aus, ob Ihr Knochen gesund aussieht oder gebrochen. Der Arzt überprüft das Ergebnis und entscheidet, was zu tun ist.
Ach ja, von wem wird die KI programmiert, bzw trainiert?
Von Ärztinnen und Ärzten.
Wird die KI auch von Mediziner:innen mit prgrammiert und trainiert damit sie dann auch in der Medizin wirklich nutzbar wird?
Was sonst?
Haben Sie dafür einen Quellennachweis?
Dazu gibt es schon einen ganzen Studiengang für zukünftige Ärzte.
Warum sollten Mediziner KI programmieren? Dafür gibt es andere Spezialisten, die freilich mit den entsprechenden Medizinern zusammenarbeiten.
Es ist wichtig zu beachten, dass die KI keine professionelle medizinische Beratung oder Diagnose ersetzen kann. Wenden Sie sich bei medizinischen Problemen immer an qualifiziertes medizinisches Fachpersonal.
Das ist nicht meine Antwort. Ich habe die Frage einfach ChatGPT gestellt … :-)
Tatsächlich ist es so, dass das „trainieren“ ja gerade kein Fachwissen voraussetzt.
Sie könnten zB die KI mit allen Wetterdaten der letzten hundert Jahre füttern … und was die KI dann ausspuckt sind die altbekannten „Bauernregeln“ …. :-)
Datenschutz
Ich wünsche mir ein Häckchen z.B. im Rathaus das Jedem verbietet mit meinen Daten Handel zu treiben! Ausnahmen kann ich dann immer noch genehmigen.
Punkt aus!
Wollen Sie ihrem Rathaus etwa unterstellen, daß dort die Angestellten mit ihren Daten Handel treiben würden? Haben Sie da Beweise dafür?
Aber zurück zum Thema, hier geht es um den medizinischen Bereich und nicht um eine Kommunalverwaltung!
wo sehen sie eine Bemerkung das ich dem Rathaus etwas unterstelle?
das wäre echt ein guter Vorschlag
wobei ich mich frage wie das früher funktionierte
ich kriegte bei der Einschulung von jeder Bank und Sparkasse im Ort ein Sparbuch geschenkt mit 5 DM drauf, Bedingung jedes Jahr ne bestimmte (geringe) Summe einzahlen und nach 5 Jahren war das Sparbuch frei
überall gab es Telefonbücher da stand von jedem die Telefonnummer drin mit Adresse, in der Stadtbücherei war eine dicke Schwarte mit allen Adressen der Bürger / Ort, ebenso wie es ein Verzeichnis mit KFZ Kennzeichen nebst Halter gab
Alles stimmt, aber da musste ich mich hinsetzten und Zeit opfern. Heute ein "Klick" und Google und Konsorten spucken alles aus
Sie nutzen Internet, Google, vielleicht Onlinedienste und Social Media Plattformen?. Sie sind schon längst nackig, und zum größten Teil mit eigenem Ein- oder Unverständnis
„Eine Künstliche Intelligenz (KI) ist extrem gut darin, Muster zu erkennen: Trainiert man sie mit Tausenden Krebs-Fallbeispielen, so entwickelt sie sich zu einem Expertensystem für Krebserkennung. Das ist menschlichen Expertinnen und Experten zumindest ebenbürtig, wenn nicht gar überlegen.
Und doch hat die Technik ein gravierendes Problem: Die meisten Systeme sind nicht transparent. Sie erklären nicht, wie sie zu ihrer Diagnose kommen. So können Mediziner die Diagnosen nicht mit ihren Fachkenntnissen abgleichen.
Der Arzt kann nicht nachvollziehen, wie das System zu einer Entscheidung kam. Und das führt wiederum dazu, dass er dem System nicht vertrauen möchte, es nicht einsetzen möchte, dass KI der Routine letztlich ferngehalten wird, obwohl es sinnvoll wäre, sie zu integrieren"
Fehlende Transparenz wegen Regeln mit ‚Eigenleben‘:
„Die europäische Datenschutz-Grundverordnung lässt die Verwendung von Patientendaten nur unter strengen Regeln zu“
gefährdet also zumindest mittelbar Menschenleben.
„Die europäische Datenschutz-Grundverordnung lässt die Verwendung von Patientendaten nur unter strengen Regeln zu“
Richtig. Aber immerhin lässt sie die Verwendung zu. Und das ist im Sinne der Gesundheit vernünftig.
Sorry, aber solange die strengen Regeln beachtet werden, werden auch mittelbar keine Menschenleben dadurch gefährdet. Diese strengen Regeln wurden nicht ohne Grund erschaffen, die auch zum Schutz des Patienten dienen und damit kein Schindluder damit getrieben werden kann. oder wären Sie persönlich damit einverstanden wenn jeder über Ihre Krankengeschichte Bescheid wüsste und daß das in Ihrem Wohnort an jeder Straßenecke erzählt würde?
Der Arzt kann nicht nachvollziehen, wie das System zu einer Entscheidung kam.
Doch, das kann er schon. Das System vergleicht vereinfacht gesagt die aktuellen Bilder mit einer Vielzahl früherer Bilder und Diagnosen.
Und dann ist das Ergebnis immer zu 100% richtig von der KI analysiert... Oder etwa doch nicht?
Und dann ist das Ergebnis immer zu 100% richtig von der KI analysiert... Oder etwa doch nicht?
Was verstehen Sie unter "richtig"? Die KI ist so gut wie Ihre Algorithmen und so gut wie Ihre gelernten Beispiele.
Schon. Aber der Arzt würde die sicherheitshalber - denn zumindest hier (bei der Nutzung der KI) gilt tatsächlich „Vertrauen ist gut, Kontrolle ist besser - lieber auch selbst vergleichen können.
Es häufen sich die Gründe, die Rahmenbedingungen für den Datenschutz auf den Prüfstand zu stellen; ist der Datenmißbrauch in Ländern mit lockereren Regeln mit denen bei uns zu vergleichen?
Auf jeden Fall ist es ermutigend, dass es für Anwendungen der KI auch ermutigende Beispiele gibt...
Verwechseln Sie bitte nicht Datenschutz bei Diagnose-KI mit Datenschutz bei social media. Es geht hier (hoffe ich zumindest) nicht darum, Kühlschränke zu verkaufen...
Eigentlich basiert die beschriebene Diagnosemethode nicht wirklich auf einer „Mustererkennung“ - denn diese wäre unmittelbar nachvollziehbar.
Vielmehr handelt es sich um die Zuordnung von Merkmalen zu einer Diagnose ohne erkennbaren Zusammenhang.
Das ist insofern spannend, weil dadurch Zusammenhänge aufgedeckt werden können, an die man bisher noch garnicht gedacht hat. Darauf kommt man aber nur wenn man die Ergebnisse mit unterschiedlichen Trainingsdatensets vergleicht.
Eigentlich basiert die beschriebene Diagnosemethode nicht wirklich auf einer „Mustererkennung“ - denn diese wäre unmittelbar nachvollziehbar.
Keineswegs.
Eine Musterkennung basiert auf Algorithmen und ist im Prinzip immer nachvollziehbar.
Vielmehr handelt es sich um die Zuordnung von Merkmalen zu einer Diagnose ohne erkennbaren Zusammenhang.
Mediziner erkennen den Zusammenhang jedoch.
Nicht unbedingt.
Zum Beispiel kann der KI auffallen, dass es einen Zusammenhang von einem ansonsten unauffälligen Laborwert ohne Krankheitswert und dem Auftreten einer bestimmten Krebsart im Frühstadium gibt.
Der Mediziner weiß das zB garnicht weil er es im Studium nicht gehabt hat oder der Zusammenhang noch garnicht wissenschaftlich bekannt ist.
Das ist ja genau der Vorteil der KI …
Da gebe ich Ihnen im Grunde recht.
"... Das ist insofern spannend, weil dadurch Zusammenhänge aufgedeckt werden können, an die man bisher noch garnicht gedacht hat..."
A) Die da wären?
B) Sind sie immer richtig im Ergebnis oder auch schon mal falsch?
Natürlich werden nie 100% erreicht, es gibt immer false negatives und false positives. Darum geht es auch gar nicht. Es geht darum, Zeit zu sparen
Nur um Zeit zu sparen wird KI eingesetzt ohne darauf zu achten ob das Ergebnis richtig oder falsch ist?
Also fällt dann die Qualitätskontrolle weg. Denn genau diese erfordert doch recht viel Zeit.
Ja, es gibt in der Medizin selten eindeutige Diagnosen. Geschwindigkeit ist eher kein Kriterium …
Mein Vater hat mal von einem Lungenarzt die Diagnose „Lungenkrebs“ bekommen … dann ist er zu einem anderen Arzt der richtigerweise eine „vernarbte Tbc“ festgestellt hat …
Das war vor 20 Jahren und mein Vater weilt immer noch unter uns …
Kennen Sie diese alte Methode des 19. Jahrhunderts aus der Physiognomie eines Menschen zu erkennen ob dieser zum Verbrecher wird ?
Das ist natürlich Blödsinn … aber …
Nichts anderes macht die KI … !
Sie deckt Zusammenhänge auf in Daten, die menschlichen Experten entgangen wären und deren logische oder ursächliche Verbindung zu einer Schlussfolgerung garnicht für den menschlichen Verstand erkennbar sind …
Siehe meine Antwort von 20:51 auf @Foren User …
Man könnte die KI zb vorhersagen lassen ob 2024 ein warmer Sommer wird in Deutschland indem man sie füttert mit den Wetterdaten der letzten Jahrzehnte … und das ist vermutlich eine viel genauere Prognose als sie jeder Meteorologe stellen könnte …
Aus dem Bericht :
"... Eine Künstliche Intelligenz (KI) ist extrem gut darin, Muster zu erkennen: Trainiert man sie mit Tausenden Krebs-Fallbeispielen, so entwickelt sie sich zu einem Expertensystem für Krebserkennung..."
Ja. Auch sehr schön.
Und was ist wenn was Neues auftritt?
Das Beste ist immer noch die langjährige Erfahrung der Experten /innen wenn sie Krebszellen durch ein Top Mikroskop auswerten.
KI wird dies in dieser Geschwindigkeit mit der dazu gehörigen fast 100% Genauigkeit vorerst nicht schaffen
KI ist sehr schnell, aber eben genau so im Ergebnis schnell falsch daneben. Wer will das?
KI wird dies in dieser Geschwindigkeit mit der dazu gehörigen fast 100% Genauigkeit vorerst nicht schaffen
Sie schafft es schon jetzt und wird es in Zukunft erst recht schaffen.
KI ist sehr schnell, aber eben genau so im Ergebnis schnell falsch daneben.
Das ist ein Vorurteil.
Auch die Entwicklung von Impfstoffen z.Bsp. gegen Gebärmutterhalskrebs schützt vor dieser üblen und oft tödlichen Krankheit, auch wenn Pharmafirmen damit Geld verdienen, es ist absolut korrekt weiter zu forschen, dafür auch Geld auszugeben und zu verdienen.
So wie in jeder Branche Geld verdient wird, oder auch nicht.
1 Antwort einblenden 1 Antwort ausblenden
Das grundsätzliche Problem ist ja nicht, dass irgendwer Geld damit verdient. Daß müssen ja alle Menschen.