KI-Chatbots werben mit smarten Antworten auf Knopfdruck. Doch nicht immer sind die Angaben richtig. Dennoch überprüft hierzulande offenbar nur etwa jeder Vierte die Ergebnisse.
Vielen Menschen mangelt es zur Beurteilung von KI am gesunden Menschenverstand.
Genauso ist es. Wenn I nicht reicht, glaubt man mit KI den Stein des Weisen zu haben.
In noch mehr Fällen wird die Überprüfung der Ergebnisse von KI dadurch verhindert, dass natürliche Intelligenz ein so rares Gut ist.
"Vielen Menschen mangelt es zur Beurteilung von KI am gesunden Menschenverstand."
Dieser Mangel ist nach meiner Wahrnehmung weiter verbreitet als ihn nur im Bezug auf die KI anzusehen.
Deswegen aber KI für alle zu verteufeln ist aber auch nicht sinnvoll.
Diese Technik kann, richtig angewandt, viele tolle Dinge tun und eine großartige Hilfe im privaten wie auch beruflichen sein.
Es ist typisch für die heutige Zeit, dass alles nur negativ gesehen wird. Darin sind wir Weltmeister.
Keine Frage. Man kann ein Auto auch benutzen um von a nach b zu kommen, man muss damit nicht ein Land in Angst und Schrecken versetzen.
Jede Erfindung hat min. 2 Seiten, selbst das Rad.
Aber nur das positive zu sehen wird uns halt sicher ins Verderben bringen. Atomwaffensperrverträge gab es nur, weil solche Spielverderber wie wir dazwischen gerufen haben.
Bei KI kommt aber noch ein Problem dazu, das wir bei anderen Erfindungen nicht haben.
Ja da haben Sie recht. Positive und negative Seiten erkennen und konstruktiv damit umgehen.
Es ärgert mich halt, wenn zu viel „Angst“ mitspielt. Ich habe teilweise Kollegen/innen, die am liebsten das Fax und das Papier zurückholen würden, weil E-Mail oder Digital gaaaanz gefährlich sind.
Verstehen Sie mich? Ich bin halt sehr Technik begeistert.
Grüße
Da müssen noch 75% dazulernen, falls nicht ein Großteil zu faul dafür ist.
die meisten glauben das was sie ohnehin glauben möchten
ob konventionell oder über KI generiert
Die KI ist ein Segen wenn man sie richtig einsetzt. Dann muss ich auch nicht jedes Ergebnis überprüfen. Wenn ich mir beim Code helfen lasse, dann brauche ich ein Ergebnis nicht prüfen bzw. das ist Teil davon. Wenn ich die KI nur wie eine bessere Suchmaschine verwende, ja dann kommt eben der ganze Mist zurück der an vielen Ecken und Enden geschrieben wird. Aber die KI wird hier immer besser und stellt das ab.
“Nur jeder vierte Deutsche überprüft KI-Ergebnisse“
Solange nicht sicher gewährleistet ist, dass man diesen unbedingt vertrauen kann - weil hinter der Programmierung von deren (der KI) Algorithmen nicht unbedingt allgemeine, sondern meist ‚private‘ Interessen stehen - und das sind aufgrund der derzeit in der globalen Wirtschaft ‚gültigen ‚Richtlinien‘ systembedingt bzw. zwangsläufig i.d.R. ‚finanzielle‘ - stehen, ist dieses blinde - oder vielmehr ‚bedingungslose‘ ‚Vertrauen‘ nicht nur keine gute Idee, sondern absolut verantwortungslos. Sich selbst und allen anderen gegenüber. Wie gesagt: Solange es noch nicht sicher gewährleistet ist, dass Vertrauen. niemanden ‚teuer zu stehen‘ kommen kann.
Ich finde, dass Sie sich zu sehr einschränken, wenn Sie das so sehen.
Schon immer war es so, dass man Neuerungen als Teufelszeug gesehen hat. Denken Sie mal an die Dampfmaschine. Wollte niemand, viel zu gefährlich. Und so war es mit jeder neuen Technik.
Bei KI ist es genauso. Irgendwann wird es so was von selbstverständlich sein. Wichtiger wäre, den Umgang mit der Technik zu lehren, anstatt immer nur davor zu warnen.
Für mich ist es ein fast unersetzliches Medium, beruflich und privat. Und siehe da: noch bin ich vernünftig :-)
Möge die Macht mit Euch sein.
Keine Dampfmaschine wird jemals ein Gerichtsurteil sprechen, eine KI aber ggf. bald schon. Zumindest in Autokratien.
Das Problem liegt nicht an der Technik, sondern an der Auslagerung der Verantwortung. Ich erwähne nur die Folgen des Milgram-Experiments.
Danke für den Hinweis auf dieses Experiment. Das kannte ich nicht und hört sich spannend an. Werde ich mich reinlese.
Sie haben natürlich vollkommen recht. Wenn ich überhaupt nicht nachdenke, ist KI gefährlich. Aber jeder Nachbar, jede Zeitung, überall dort, wo Informationen weitergegeben werden.
Wie schon geschrieben, ich finde es sehr wichtig, dass man Dinge kritisch sieht. Aber wir neigen bei uns sehr häufig dazu, übertrieben ängstlich zu sein. Andere Länder sind da wesentlich entspannter als wir.
Für mich gilt: Respekt vor Neuen Dingen haben, aber keine Angst. KI gehört dazu.
Grüße
Warum wird KI nicht einfach so programmiert, dass sie keine falschen Ergebnisse erzielen kann?
Es könnte auch ein Gesetz erlassen werden, das der KI das Lügen grundsätzlich verbietet.
Ist KI überhaupt intelligent, wenn sie falsche Ergebnisse liefert?
Die KIs lügen nicht, weil sie nichts von richtig und falsch wissen. Sie generieren einfach Texte, Bilder, Video, Musik und Stimmen. Und das machen sie mittlerweile so gut, dass man sie verwenden kann,... aber nicht ungeprüft.
"Ist KI überhaupt intelligent, wenn sie falsche Ergebnisse liefert? "
Meiner Meinung nach schon. Das ist sogar ein ziemlich alarmierendes Anzeichen dafür, dass sie uns aufholt.
Die Frage ist halt, warum sie falsche Ergebnisse liefert. Und die Antwort darauf ist, glaube ich, wirklich beängstigend.
"Die Frage ist halt, warum sie falsche Ergebnisse liefert." Und das kann keine KI beantworten. Jedenfalls auf lange Zeit, da hier statistische Genauigkeit nicht ausreicht.
Der Mensch kann jedoch durch Mathematik beweisen, meistens jedenfalls.
z.B: dass diese Formel n^2 +n+41 für alle Werte bis 40 Primzahlen ergibt, danach ist Schluss. Ich kenne eine die ergibt bis 560 nur Primzahlen, danach ist ebenfalls Schluss.
Warum das so ist, vermute ich. Beweis dürfte meine Laufzeit übersteigen ;-)
Brüche mit Periode sind ja Teil des Problems. Es gibt auch andere. Aus diesem Grund rechne ich grundsätzlich nicht mit floating point Arithmetik, weil da der Fehler durch Rundung prinzipiell angelegt ist.
"Beweis dürfte meine Laufzeit übersteigen ;-)"
Dazu fällt mir eine Simpsons-Folge ein, wo Homer plötzlich superschlau wird und das Theodizee-Problem anhand seiner Steuererklärung löst :-)
Da eine KI mit sämtlichen mathematischen Regeln programmiert werden kann, kann sie doch auch mathematische Beweise liefern. Aber schneller, nehme ich an.
So lang Menschen Fehler begehen darf das die KI natürlich auch.
Weil KIs nicht so programmiert/parametrisiert werden können. Es gibt leider kein universelles Kennzeichen von Falschaussagen. Wichtig ist vor allem Positive Rückkoppelungen von Fehlern zu vermeiden. Sonst ersticken wir alle irgendwann in fake news.
„Es gibt leider kein universelles Kennzeichen von Falschaussagen.“
Sämtliches Fachwissen zu einem Problem kann eine KI besitzen. Und damit kann man ja schon eine Menge Unsinn entlarven. Andererseits ist es mit wissenschaftlichen Fakten manchmal schwierig, da auch die sich ändern können, wenn man weitergehende Erkenntnisse gewonnen hat. Und das muss auch in einem Ergebnis einer KI erwähnt werden.
Ansonsten fehlt einer KI der sogenannte gesunde Menschenverstand. Aber damit ist die Menschheit auch oft genug gescheitert.
Sie haben keine Ahnung, wie KI überhaupt programmiert wird, ist das richtig? KI sagt nur, dass es "lernfähige" Programme sind. Wie lernt man? Versuch und Irrtum! Die Programme bekommen Dateien als Lehrmaterial zur Verfügung gestellt, je mehr, je besser. Damit passen sie ihr Bewertungssystem an. Die Programme können gar nicht lügen. Sie können auch nicht "gut" oder "schlecht" empfinden. Sie können nur Antworten aufgrund von Wahrscheinlichkeiten geben und danach handeln, ohne jede menschliche Empfindung.
Richtig. Von Programmierungen habe ich absolut keine Ahnung.
Aber alles andere, das Sie erwähnen ist ja bekannt und auch einleuchtend.
Und dann darf bei einer Programmierung eben nur Wahrheitsgemäßes programmiert werden. Wenn all das Wissen einer KI aus „Lehrmaterial“ entnommen wurde, wird es ja wohl der wissenschaftlichen Wahrheit entsprechen.
In meiner Jugend war der kritische Geist Modethema in der Schule. Ich weiß nicht wie es zur Zeit aussieht. Und man komme mir nicht mit Personen, die von sich behaupten alles kritisch zu beobachten, aber den größten Unfug glauben, solange er in ihr Weltbild passt, z.B. Querdenker.
Ich vermute das Problem ist die Bequemlichkeit. Man sucht etwas und bekommt direkt ein schönes Ergebnis. Ein viertelstunde weitersuchen oder gar stundenlange Recherchen werden vermutlich als überflüssig betrachtet.
Es wird notwendig werden, dass die KI-Lösungen ihre Schlussfolgerungen transparent machen. Es wird noch geraume Zeit gehen, bis die Systeme ihre Schwachstellen ausgemerzt haben (Kluger-Hans, Degenerierung des Datenbestandes usw.)
Bis dahin tut jeder gut daran, die Ergebnisse zu validieren.
"Es wird notwendig werden, dass die KI-Lösungen ihre Schlussfolgerungen transparent machen." Das wird so schnell nicht passieren, wahrscheinlich nie.
Denn es geht prinzipiell wohl nicht. Neuronale Netze - und das steht hinter der KI - sind jetzt schon so komplex, dass niemand mehr manches Räsonnieren voll nachvollziehen kann.
https://versicherungswirtschaft-heute.de/schlaglicht/2019-09-27/ki-waru…
Könnte die TS mal kenntlich machen, welche Inhalte bereits heute via KI geschrieben wurden?
Manch Gefasel deutet klar drauf hin - und in vielen Artikeln steht keine valide Schlussfolgerung - lediglich die Aneinanderreihung von Fakten, ohne Einordnung.
„keine valide Schlussfolgerung“
Das ist doch nicht die Aufgabe der Medien. Das müssten Sie schon selber machen. Hier sollte lediglich informiert werden und zwar unabhängig
Ich finde eine objektive Schilderung der Sachlage auch mal ganz nett.
Bezüglich der KI, die beim Schreiben der hiesigen Texte immer öfter zum Einsatz zu kommen scheint, ist anzumerken, dass deren grammatikalischen Kenntnissenzu wünschen übrig lassen und die Rechtschreibung auch oft falsch ist.
Das ist erschütternd für ein Schreibprogramm.
Das wird zur großen Gefahr werden, dass unüberprüft die KI-Ergebnisse als Maßstab übernommen werden und unter den jeder vierte Deutsche werden genauso Gutgläubige aller Bildungsschichten und Berufsgruppen wie Journalisten sein. Also wird die teils zerstörerische Kraft der sogenannten Sozialnetze genauso weiterlaufen, nur noch besser getarnt durch eben künstliches Halbwissen KI
Wie bei jeder Technik gilt der vernünftige Umgang ist richtig. Natürlich muss ich die Antworten oder Ergebnisse kritisch hinterfragen.
Ich nutze sie häufig auch beruflich, wenn ich z. B. Informationen benötige. Früher hat man ja auch jmd anderes gefragt. Die Antworten hat man ja auch nicht nur einfach so übernommen. Sondern auch kritisch geprüft.
Und jetzt frage ich einfach ein System, das viel mehr Antworten in kürzester Zeit bietet.
Ich bin begeistert und finde es schade, dass man wieder nur davor warnt, wie gefährlich alles ist, anstatt die Chancen hervorzuheben. Das ist typisch für unseren Zeitgeist.
Möge die Macht mit Euch sein.
Es ist die Angst vor dem Flaschrngeist, den man nicht wieder in die Flasche bekommt. Nur, der Geist kommt eh raus. Daher sollte man das beste daraus machen und diesen Geist positiv einsetzen. Insofern, ja wachsam dein, aber keine Ablehnung, Schockstarre-Angst. Vor und auf der Welle reiten. Dann wird es ein unvergleichlicher Ritt - dabei bin ich gsr kein Surfer, sondern Radfahrer, aber da gilt ja auch: wer bremst verliert ;-)
Ich werde mir die Tage eine eigne lokale KI als Spielwiese zulegen (das ist mein Frühjahrs-/Sommeprojekt). Ich bin gespannt. Die üblichen public services nutze ich bereits einigermaßen regelmäßig, aber da ist datenschutzrechtlich vieles bedenklich.
"Ich bin begeistert und finde es schade, dass man wieder nur davor warnt, wie gefährlich alles ist, anstatt die Chancen hervorzuheben. Das ist typisch für unseren Zeitgeist."
Dann schauen Sie mal, wie "begeistert" Musiker und andere Kunstschaffende sind, wie locker KI deren geistiges Eigentum verarbeitet und die Urheberrechte darüber schon Gegenstand von Gerichtsverfahren sind. Dieser neue Zeitgeist hat auch Kehrseiten mit denen man sich zwingend auseinandersetzen muss.
Sie sind mir da zu blauäugig, wenn Sie die gefährliche Seite dieser Entwicklung wegen Ihrer persönlichen Begeisterung nicht sehen wollen. Oder meinen Sie, die kriminellen Möglichkeiten die mit KI realisierbar sind, wird dieser fortschrittliche Zeitgeist schon irgendwie verschmerzen?
In vielen Fällen ist es nicht KI, sondern eher KD (Künstliche Dummheit) die da tätig ist.
Das ist ein Bereich, in dem ich Ihnen hohe Kompetenz zutraue.
Herzlichen Dank für Ihr Verständnis.
Kompetenz - Motivation -
Wer die KI braucht/nutzt, um Informationen o.ä. zu bekommen, kann dies aus Gründen der Bequemlichkeit oder der Unkenntnis/des Kompetenzmangels tun.
Beide Motive können dazu beitragen, dass die Ergebnisse nicht überprüft werden - aus Bequemlichkeit oder Unkenntnis/Kompetenzmangel.
Wer nun eine KI benutzt, um die Ergebnisse einer (anderen?) KI zu überprüfen....
Vor ein paar Wochen hab ich so ein Video gesehen, wo Leute am Strand in Florida zu Mt. Rushmore befragt wurden. Eine Antwort hat mich besonders begeistert.
F: If you could put a woman's face on Mt. Rushmore, who would it be?
A: Rosa Parks. Because what many people don't know, she had a boyfriend at the time, so she didn't have to take the bus in the first place. It's not about race...
So in etwa könnte ich mir auch eine KI-Antwort vorstellen :-)
@Teddy 16:47
Meine Güte. Was wirklich beunruhigend ist, ist ja, dass diese und ähnliche Aussagen auch zum Futter der KI gehören.
In D wurden den KI gerade die Türen zu den Speisekammern geöffnet. Da ist es wirklich schwierig, die richtige Entscheidung zu treffen, wenn auch die Häufigkeit einer Aussage zur Einschätzung von deren Glaubwürdigkeit beiträgt.
Selbst die Verbraucherzentrale erkennt, dass es fatale Folgen haben kann, wenn Menschen mit Datenschutzbewusstsein ihre Informationen nicht beitragen. "Verbraucherzentrale NRW warnt gegenüber ZDFheute zwar auch vor Gefahren, wenn sehr viele Nutzerinnen und Nutzer der Verwendung ihrer Daten widersprechen. Das könne "Verzerrungen, einen sogenannten Bias mit sich bringen", sagt Steffen." https://www.zdf.de/nachrichten/ratgeber/meta-ai-facebook-instagram-what…
Letztendlich, wenn ich ehrlich bin, trage ich ja sogar hiermit dazu bei.
Jedesmal, wenn ich irgendeinen Kommentar zitiere, verstärke ich ja quasi seine Wirkung. Aber wenn ich es nicht mache, vermindere ich sie auch nicht.
MMn hat sich die Menschheit selbst ausmanövriert. Ich mein, wir werden bestimmt eine Lösung finden, aber langfristig bewegen wir uns richtung schachmatt.
Die KIs haben so ziemlich alle Bücher der Welt "gelesen", also auch alle Märchensammelungen. Die KI muss also annehmen, dass Jumbo der fliegende Elefenat existiert. Könnte er ja auch, wenn seine Ohren groß genug wären.
"Die KIs haben so ziemlich alle Bücher der Welt "gelesen""
Ja, und leider haben sie auch den Porno mit Alice im Wunderland und Humpty Dumpty gesehen.
Ich kann nur raten, sich anzuschnallen!
@Luci 16:58
| "Die KIs haben so ziemlich alle Bücher der Welt "gelesen"" |
Es könnte ja fast schon beruhigend sein, wenn sich die KI nur aus Büchern bedienen würden, mit dem Zusatz, dass deren Auflage auch berücksichtigt wird. Was dann wieder die Frage nach deren Gewichtung aufwirft.
Wenn aber auch (menschliche oder Bot) Messenger- und Chat- Nachrichten mit einfließen, dann kriege ich Kopfschmerzen.
Der Jumbo der fliegt ist ein Flugzeug der Firma Boeing 😉
Der Name des Elefanten lautet Dumbo ( übrigens ist der Original Zeichentrickfilm von 1942 !! echt sehenswert ) 🤩
Mir ist jetzt nicht bewusst das ich je so etwas genutzt hätte, und kein Mensch kann alles wissen, also wird man nie alles hinterfragen. "Die Dunkelheit in anderen zu sehen, einfach es ist. Schwieriger, die Dunkelheit in sich selbst zu erkennen." , ist so ein Satz eines kleinen Individuum das die viele kennen.
in ihnen scheint ein kleiner Philosoph zu stecken
Nein ganz sicher nicht, stammt von einem kleinen Grünen Männchen mit dem die Macht ist, ich dachte man erkennt es ;-)).
Nicht jeder kennt Yoda oder Grogu 😉
Sie haben sicherlich auch noch nie bei Google nach Begriffen geforscht und sich nicht gewundert, dass auch bei unkonkreten, schwammigen Anfragen brauchbare Antworten von Google zurückkamen.
wie viel Prozent überprüfen den Inhalt der Nachrichten?
Können Sie denn prüfen?
Wenn der User Zugang zu unabhängigen Medien hat, kann er prüfen..
wie viel Prozent überprüfen den Inhalt der Nachrichten?
Wenn es um Auslands Meldungen oder Kriegsberichte geht, werden die wenigsten Zuschauer das konkret prüfen können. Wichtig ist das Vertrauen in seriöse Journalist*innen.
überprüft KI-Ergebnisse?
Mit Berichten des ÖR.
Ich nutze zusätzlich dazu vielfältige kostenfreie gute auch internationale Medien und social media
internationale Medien und social media
Es gibt keine soziale Medien ohne KI
Als sie erfahren immer das was sie wissen wollen auch enn sie gar nicht danach fragen.
Willkommen im Postrationalismus. Begriffe wie Wahrheit oder Realität werden allmählich wieder zu Studienobjekten irgendwelcher Philosophen oder emiritischer Höhlenbewohner. Für Märchen ist hingegen das Goldene Zeitalter herangebrochen. Die Dämonen sind wieder aus den Verliesen gekrochen und Zwergen, Elfen und Drachen werden bald folgen.
Postrationalismus find ich gut. Man könnte auch sagen das postfaktische Zeitalter. Für Bibelfreunde der 3. apokalyptische Reiter.
Wenn es um politische Themen geht, traue ich der KI genauso wenig wie den Medien. Da verlasse ich mich lieber auf meine Erfahrung und hole informiere mich über alternative Quellen. Klappt super!
Wenn es um politische Themen geht, traue ich der KI genauso wenig wie den Medien.
Den sozialen Medien würde ich auch nicht trauen. Trauen kann man nur Medien, die gestandene Journalist*innen beschäftigen, Menschen mit klarem ethischem Kompass. Also z. B. der Tagesschau, heute, der Süddeutschen, der Zeit, ...
Und mit KI kennen Sie sich vermutlich zu wenig aus.
Ich habe da andere Erfahrungen gemacht, deshalb bin ich ein Fan von alternativen Medien. Dank der sozialen Medien bzw. des Internets, sind die Leute viel weniger naiv als früher u. viel schwieriger zu manipulieren
Jeder 4. Deutsche ? So viel ?
Ich habe bei ChatGPT geradezu lächerliche Fehler festgestellt bei naturwissenschaftlichen Themen..
Na herzlichen Glückwunsch!
Ich empfehle, die Fehler zu sammeln, ggfs. einzurahmen. Vielleicht können Sie ja dann in Zukunft die Overlords davon überzeugen, dass sie Fehler gemacht haben :-)
Ich habe bei ChatGPT geradezu lächerliche Fehler festgestellt bei naturwissenschaftlichen Themen..
Das A und O bei ChatGPT sind die Fragen, die Sie stellen. Wenn die schlecht sind, sind es auch die Antworten. Und Chat bedeutet ja, dass man mit dem System reden kann, anregen, fordern, verbessern kann. Dann kriegen Sie auch beachtliche Ergebnisse. Also bitte nicht so oberflächlich urteilen.
Ich bin mit dem Thema des "Prompting" wohlvertraut.
Die Antworten waren falsch auf dem Niveau "2 + 2 = 5" (natürlich bei komplizierteren Fragestellungen..)
Alle derzeitigen KI‘s beruhen auf statistischen Wahrscheinlichkeiten in large language models. Wer sie nutzt, dem sollten die sich daraus ergebenden Limitierungen bewusst sein. Es ist ML, machine learning, und nicht Intelligenz.
Leider ist die Lesekompetenz des LLM offenbar begrenzt.
wenn die KI dann auf einen Fehler hingewiesen wird, entschuldigt sie sich ..
Nur um danach denselben Fehler wieder zu machen .. blöd halt !
Sie beschreiben eine der Limitierungen von LLM‘s.
Schulnoten -
Ein Negativ-Beispiel über die Wirkungsweise einer KI-Bots liefert eine Software, die bei der Beurteilung/Korrektur von Schulleistungen genutzt wird.
Diese Software hat also Einfluss auf die Schulnoten von SuS. Es stellte sich heraus, dass ein und dieselbe Leistung widersprüchlich beurteilt wurde - bis zu 5 mal. Wenn nach einer Beurteilung die Kritikpunkte korrigiert wurden, wurde die verbesserte Leistung wieder beurteilt - sie wurde immer schlechter bewertet.
https://www.deutschlandfunkkultur.de/chaos-communication-congress-anlei… (ab Min 25:45)
Da wird noch soviel anderes ungeprüft akzeptiert.
Aber ja, KI haluzininiert recht gut.