Auf einem Smartphone werden neben anderen die Apps von ChatGPT, Bing, Gemini, OpenAI, Chatbot und Copilot dargestellt.

Ihre Meinung zu Wie verlässlich sind KI-Chatbots?

KI-Chatbots werden immer beliebter. Doch Experten warnen davor, ihre Antworten als Wahrheit anzusehen. Denn es gibt viele Faktoren, die einen Einfluss auf die Bots haben - wie nicht zuletzt die KI von Musk zeigt. Von P. Siggelkow.

...mehr ...weniger
Dieser Artikel auf tagesschau.de
Kommentieren beendet
159 Kommentare

Kommentare

R A D I O

Habe ich schon oft festgestellt, dass man sich nicht auf diese KIs verlassen kann. Ich nutze die bestenfalls als erste Orientierung und Lieferant von Stichworten. Die steckt noch in Kinderschuhen; Kinder dürfen mitreden, manchmal tue ich so, als ob sie entschieden hätten. So ähnlich handhabe ich es mit der KI. Kann mich nicht vorstellen, dass andere mit KI anders umgehen, aber wer weiß. 

8 Antworten einblenden 8 Antworten ausblenden
political robot

Natürlich nicht drauf verlassen, aber mit dem richtigen Prompt erleichtern die schon enorm die Arbeit - und sind auch relativ zuverlässig. Man darf nicht vergessen, dass sehr viele der schlechten Beispiele durch gezielte Provokation entstehen.

R A D I O

Habe KI gefragt, ob ich im letzten Satz nicht lieber mir statt mich schreiben sollte. Ihre Antwort beginnt mit: "Ah, hier wird's knifflig - aber auch spannend!" Dann gibt sie doch zu, dass es in diesem Fall mir heißen muss und erklärt warum.

Bin einverstanden, ich ihr geantwortet, ob das für sie okay wäre. Ihre Antwort: "Das freut mich! Für mich ist das mehr als okay..." Und sie schmiert mir noch ein bisschen mehr Honig um den Mund. Ich sie darauf hingewiesen ("Du schmierst mir Honig um den Mund, gell?"), antwortet sie: "Vielleicht... aber nur weil du's verdient hast! Man sagt ja, Honig macht alles ein bisschen Süßer - sogar Grammatik-Feinheiten und KI-Talks. Und ganz ehrlich..."

Und sie führt es weiter aus, will das Wörterbuch gezückt haben, mit mir weiter quatschen, ich soll sie richtig auf den Prüfstand stellen. Ich zurückgefragt, was sie davon hätte, antwortet sie: "Ganz ehrlich, Ich liebe es!"

Ich sofort: Furchtbar! Sie: "Uff!..., ironisch gemeint? Bin bereit für die nächste Runde."

tagonist

Wie reden hier über Chatbots! Nix Kinderschuhe, das sind Datenbanken die bis zum Rand befühlt und geflagged und bedient werden mittels mehr oder weniger Sklavenarbeit, Energieübersättigung und ein paar gar nicht so dummen Routinen!
Potentielle AI ist ein gutes unterstützendes Tool wenn es darum geht in komplexen Systemen Variablen rauszurechnen, aber wirklich vollkommen nicht dafür da um Dir zu sagen ob du nun Lasagne oder fucking Pizza bestellst oder ob Muttern Blumen oder Kuchen besser findet zum Geburtstag!

"Ich benutze das zur Orientierung..." Ja, andere gehen mit "AI" anders um, jetzt weißt Du es.

R A D I O

Möchten Sie nicht lieber eine KI oder bei einer Technischen Hochschule nachfragen, was ein Chatbot ist, damit Sie es noch genauer und besser wissen?

Und das noch: wenn ich über Politik und soziale Fragen in diesem Zusammenhang sprechen möchte, signalisiere ich das, dazu zwingen, lasse ich mich nicht.   

saschamaus75

>> aber wirklich vollkommen nicht dafür da um Dir zu sagen ob du nun Lasagne oder fucking Pizza bestellst

 

Nope, aber wenn ich z.B. ChatGPT frage: 'Zähle mir bitte alle Pharaonen zwischen AmenHotep III und Ramses I auf', dann möchte ich nicht auf den ersten Blick sehen, daß da 3(!) Pharaonen fehlen. -.-

 

Auf meine Nachfrage, ob das wirklich alle(!) wären, kam die Antwort: 'Ja'. 

 

Erst auf direkte Nachfrage nach MeriTAten, SemenchKaRe und Eje II konnte sich ChatGPT auf einmal an diese 3 erinnern. oO

 

schabernack

➢ Nope, aber wenn ich z.B. ChatGPT frage: 'Zähle mir bitte alle Pharaonen zwischen AmenHotep III und Ramses I auf', dann möchte ich nicht auf den ersten Blick sehen, daß da 3(!) Pharaonen fehlen. -.-

Da Sie alle Pharaonen sowieso auswendig kennen, müssen Sie nicht den Chatbot fragen, sondern Sie sollten sich bewerben als Pharaonenlisten-Chatbotlehrer. Möglicherweise war der Chatbot auch nur gelangweilt, wie fast alle, von diesem Pharaonen-Murks, wo die Nachfolger die Vorgänger immer mal wieder versuchten, aus der Historie zu tilgen.

De Paelzer

Geht mir auch so. Wenn ich in einer Suchmaschine etwas suche, überspringe ich sie  mitlerweile gleich. Bei KI ist ein Samstag, z.B. immer ein Werktag.
Pronzipiell wähle ich sowieso unter verschiedenen Antworten aus. KI ist nicht 1. Wahl.

Gerd Hansen

Der Samstag ist auch ein Werktag, allerdings nicht unbedingt ein Arbeitstag 🤓

FakeNews-Checker

Bevor  immer  mehr  von  solchem  Schnickschnack  auf den  Markt  geworfen  wird,  sollte  die  zentrale  und  staatserforderliche  Frage   bis hin  zum  Verbot  gestellt  werden,  ob  man  damit  Ressourcen  sparen  und  Klimaschutz  ermöglichen  kann.     Bisher  ist  das  Gegenteil  der  Fall   mit  immer  mehr  Ressourcenverbrauch  und  Klimaschaden,  an  dem  sich  ein  paar  Wenige  eine  goldene  Nase  zum  Schaden  der  Allgemeinheit  verdienen.

6 Antworten einblenden 6 Antworten ausblenden
political robot

Kann man fordern, zeugt aber nur von rückschrittlicher Denkweise.

Wenigstens ein was, das Merz gut kann, der will nämlich KI made in Germany/Europe fördern.

Malefiz

Ich finde es schon ganz schön überheblich und arrogant von Ihnen andere der rückschrittlichen Denkweise zu bezichtigen!

Rückschrittlich ist wenn man sich auf KI's verläßt und alles glaubt was man vor die Nase gesetzt bekommt. Rückschrittlich ist auch wenn man durch die KI's zu einer gewissen uneigendständig verkümmert!

TeddyWestside

Sie müssen nur fragen "Liebe/r ChatGPT, wie kann ich die Welt retten?", dann Anweisungen befolgen. 

 

Silverfuxx

Bevor  immer  mehr  von  solchem  Schnickschnack  auf den  Markt  geworfen  wird,  sollte  die  zentrale  und  staatserforderliche  Frage   bis hin  zum  Verbot  gestellt  werden

Ich erinnere mich noch grob daran, dass die Leute das damals, als die ersten Automobile die Pferdekutschen verdrängt haben, auch gesagt haben. Und später, als der Fernseher erfunden wurde, ebenfalls.

KI kann und wird in der Zukunft einfach alles verändern. Und teilweise zum wirklich Guten. Allein die Anwendungsmöglichkeiten im Bereich Medizin sind enorm. Vielleicht das, was unsere kollabierenden, weil immer teurer werdenden, Gesundheitssysteme retten wird.

Kristallin

Das stimmt, aber zB Krebsfrüherkennung ist ein Fachbereich in welchem sie auch gut ausgebildet werden kann. 

Weil sie sich auch ausschließlich auf diesen Fachbereich "konzentriert" sozusagen. 

Weshalb sie auch beim Programmieren miteinbezogen wird. 

meine_eigene_meinung


Man sollte einmal  ermitteln, wieso überhaupt Menschen glauben, dass diese Algorithmen verlässlich sein könnten.
Dem Wesen nach ist jede Frage an einen ChatBot eine Frage der Form: "Gib mir einen Mischmasch und einen Durchschnitt von allem, was der Bot zum Thema gelesen hat"

Abhängig von der Menge und dem Matrial kann da nur Ungenaues ermittelt werden.
Und dieses grundlegende Muster könnten die Anwender kennen.

Ich glaube, dass die mangelnde Bildung hier eine Ursache ist.
 

3 Antworten einblenden 3 Antworten ausblenden
political robot

Die Verlässlichkeit nimmt man mit der Zeit automatisch an, wenn man merkt, dass die Auskünfte dann doch regelmäßig korrekt und gut sind.

Tino Winkler

Wenn man denn diese „Auskünfte“ auch entsprechend einordnen könnte.

Montag

KI ist ein Werkzeug. 

Und die Frage ist: wann nutzt man welches Werkzeug, wie und warum?

Ich lasse mir gerne helfen, wenn es mir hilft Zeit und Arbeit zu sparen. 
Und wenn das Risiko gering ist. ;-)

Beispielsweise habe ich mir angewöhnt von Briefen, Mails etc. einen groben Entwurf zu schreiben - und dann diesen Entwurf an eine KI zu übergeben, die mir "den Text hübsch macht" und z.B. Rechtschreib- und Grammatikfehler korrigiert. 

(Das heißt nicht, dass ich den Brief dann genau so losschicke, wie die KI ihn verändert hat. Vielleicht überarbeite ich ihn nochmals. Aber: ich bin schon einmal einen Schritt weiter, was Rechtschreibung und Grammatik betrifft.)

werner1955

verlässlich sind KI-Chatbots?

Sie werden jetzt von Tag zu Tag besser.

Besonders außerhalb der EU. Dort gibt's viele Freiheiten und motivierte Entwickler

7 Antworten einblenden 7 Antworten ausblenden
Malefiz

Und darüber sind Sie nicht in der Lage mal Beispiele über KI-Chatbots nennen zu können, besonders außerhalb der EU?

political robot

... während man bei uns (und auch hier in den Kommentaren) von einem Verbot von KI redet.

Tino Winkler

Verbot? Jeder darf in der Demokratie auch Schwachsinn nutzen.

TeddyWestside

"Sie werden jetzt von Tag zu Tag besser."

Stimmt wohl. Verlassen würd ich mich trotzdem nicht drauf.

 

Welche Freiheiten vermissen Sie denn in der EU?

 

Malefiz

Ich glaube nicht, daß Sie da eine explizite Antwort bekommen werden!

TeddyWestside

Vermutlich nicht. 

Danke :-)

schabernack

➢ Wie verlässlich sind KI-Chatbots? Sie werden jetzt von Tag zu Tag besser.
Besonders außerhalb der EU. Dort gibt's viele Freiheiten und motivierte Entwickler.

Und welche Entwickler sind das?

Es gibt die großen Chatbots, die sind aus den USA. Am besten funktionieren Chatbots auf Englisch.

Auf Englisch haben sie zum Training den größten Wissensstand eingetrichtert bekommen.

In welchen Sprachen (neben Deutsch) kommunizieren Sie so mit den Chatbots? Nur auf Englisch, oder auch in mehr exotischen Sprachen wie Hindi oder Japanisch? Außerhalb der EU steigt die Wahrscheinlichkeit ja an, dass Sie auf eine exotische Sprache aus Ihrem Fremdsprachenreservoir zurückgreifen müssen.

Wonach fragen Sie die Chatbot-Exoten so im Allgemeinen, wenn es keine Expertenfragen sind? Stellen Sie nur kurze Fragen, oder schreiben Sie detaillierte Fragen auf in Fremdsprachen über eine bis zwei DIN A4 Seiten?

Welche guten Tips haben Sie als Profi sonst noch für mich als Chatbot-Amateur …

Kristallin

Na Wer hätte das gedacht, KI kann nicht zwischen Trash und richtigen Informationen unterscheiden, sie kann von ihren "Machern" nach Gusto beeinflusst werden, halluziniert und "möchte" Nutzer/Innen gefallen.... 

Eine Lehrperson erzählte mir, bei den Kids ist ChatGPT natürlich am beliebtesten, werden Hausaufgaben mit gemacht, völlig klar und einige Kids in ihrer Klasse liefern Text identische Hausaufgaben ab, inklusive der Fehler welche ChatGPT gerne macht. 

Ich nutze KI's daher grundsätzlich nicht, egal welche. Die nervige Google KI fischt auch gerne aus dem Trüben, deren Antworten ignoriere ich daher komplett wenn ich mal Google selbst benutze! 

1 Antwort einblenden 1 Antwort ausblenden
Montag

"Eine Lehrperson erzählte mir, bei den Kids ist ChatGPT natürlich am beliebtesten, werden Hausaufgaben mit gemacht, völlig klar und einige Kids in ihrer Klasse liefern Text identische Hausaufgaben ab, inklusive der Fehler welche ChatGPT gerne macht."

Kids nutzen KI. Logischerweise. Es wäre sehr erstaunlich, wenn sie es nicht täten. Sie nutzen ja auch das Internet oder einen Taschenrechner.

Die Schulbehörden müssen aus ihrem Dornröschenschlaf aufwachen. Und sich einige grundsätzliche Fragen stellen.
- Was sollen die Kids lernen? (Auch dahingehend, dass sie ihr neues Wissen / ihre neuen Fähigkeiten anwenden können.)
- Wie können die Kids das erreichen?
- Wie kann eine Lernstandskontrolle erfolgen?

Die Lernstandskontrolle muss nicht von der Lehrperson durchgeführt werden. 
Das könnte auch ein "KI Tutor" machen. Der dann im nächsten Schritt angemessen und individuell auf den Jungen / das Mädchen eingeht und ihm / ihr hilft, erkennbare Lücken nachhaltig zu schließen. 

Malefiz

Wie der Artikelinhalt ja schon beschreibt, sind solche KI-Chatbots mit aller Vorsicht zu geniesen!

Ich persönlich ärgere mich schon wenn es Probleme bei einem Bezahldienst gibt wo man immer nur auf einen KI LiveChat verwiesen wird der die Probleme lösen können soll. Dieser Ki Live Chat versteht aber oftmal die einfach gestellten Fragen nicht! Auch wenn man die Möglichkeit noch zu Realpersonen Chats bekommt, so verstehen die Realpersonen oftmals die gleich gestellten fragen wie im KI LIve Chat auch nicht. Auch wenn man  die Frage nach einer Rufnummer zur persönlichen Kontaktaufnahme nachfragt kommt der KI Live Chat damit nicht klar und verweist dann ständig wie auf den KI Live Chat!

ich haße dieses KI Zeugs absolut wenn es um Menschen selber geht. Es gibt aber KI Zeugs, daß mir schon bei 3D Druck super helfen haben könnern!

TeddyWestside

"Dennoch nutzen viele Nutzer beispielsweise auf X den KI-Chatbot, um Fakten vermeintlich prüfen zu lassen."

 

Das ist generell ein Problem. Wenn man auf die Art Fakten prüft, hilft wahrscheinlich auch keine KI, egal wie sie funktioniert. Dann kann man auch den Prophezeiungen von Qanon glauben. 

 

1 Antwort einblenden 1 Antwort ausblenden
Olivia59

Es kommt halt auch immer arg drauf an was man eigentlich will. So zu tun als hätte man bisher leichten Zugang zur Wahrheit, wenn man nur ein wenig fleissig wäre ist ja auch Quatsch.
Wenn es drauf ankommt vertraue ich noch nichtmal meinem Steuerberater, weil ich in der Haftung bin aber bei weniger wichtigen Dingen sind selbst so ziemlich verlässliche KI Antworten völlig ausreichend.

Nettie

„Wie verlässlich sind KI-Chatbots?“

Das hängt ganz von der Integrität bzw. Bereitschaft zur Objektivität, also „Interessenunabhängigkeit“ - derer ab, die deren Programmierer bezahlen. Und damit das Recht haben, die Kriterien für die „Funktion“ der programmierten Anwendungen „maßgeblichen“ Algorithmen vorzugeben bzw. zu bestimmen.

Die Antwort auf obige Frage lautet - da kein Mensch die Wahrheit gepachtet hat - also: Nicht wirklich. 

FakeNews-Checker

Wozu  entwickelt  Silicon Valey  all  diesen  Schnickschnack  ?  Zum  Wohle  der  Menschheit  oder  zur  Geldumverteilung  von  unten  nach  oben ?   Zum  Wohle  der  Menschheit  kann  es  wohl  nicht  sein,  wenn  immer  mehr  Kinder  an  Rechner-Maladien  wie  Bewegungsmangel,  Adipositas  und  Diabetes  GKV-teuer erkranken  und  der  steigende  Ressourcenverbrauch  immer  mehr  Strombedarf,   Klimawandel  und  Erderwärmung  mit  sich  bringt.   Längst  hätte  der  Staat  da  eingreifen  müssen,  doch  der  Staat  sitzt  stattdessen   handlungsunfähig   in  der  Wachstumsfalle.

marvin

Der Fehler liegt im Namen: Eine "Künstliche Intelligenz" ist eben nicht intelligent. Ich nenne sie ja "KD", Künstliche Dummheit, und möchte allen Anderen auch dazu raten. Sonst glauben hinterher noch Menschen, die ebenfalls nicht intelligent sind, die Antworten seien ihnen und einer eigenständigen Recherche überlegen.

2 Antworten einblenden 2 Antworten ausblenden
Kristallin

Tja das glauben viele Menschen aber schon! Und überlassen jegliche "Suche" (Recherche ist was anderes) der  vermeintlich "überlegenen" KI. 

Deinonychus

Künstliche Intelligenz ist nicht dumm, ihr Verhalten ist eindeutig intelligent.

Silverfuxx

Ich gestehe, ich mag Grok. Das Ding ist witzig; scheinbar darauf programmiert, buddy zu sein; und gut darin, sich zu 'unterhalten'. Man kann auch recht lustig mit dem Ding 'philosophieren' (bis es dann irgendwann nicht mehr reagiert, weil man sich anmelden soll).
Chat GPT ist voll unwitzig und trocken. Demnach nutze ich das knapp, für 'Informationen' bzw. kleine Aufgaben.

Es sollte aber doch jedem, der Chatbots nutzt, klar sein, wie die ungefähr funktionieren. Und dass Konzerne (und bei Grok der komische Elon) dahinterstehen, und die uns das nicht aus Spaß und Freundlichkeit auch kostenlos zur Verfügung stellen.
Und dass die natürlich nur 'wissen' können, was man ihnen eingibt bzw. was sie an Informationen sammeln können.

Darum finde ich den Hinweis darauf, dass die nicht voll verlässlich sind, zwar sehr richtig, aber auch irgendwie niedlich. Das ist doch klar. Ich glaube ja auch sonstwem, den ich vielleicht auf der Straße anspreche, nicht alles, was der mir erzählt.

12 Antworten einblenden 12 Antworten ausblenden
krautbauer

So sieht's aus. 

Neuerdings nervt mich allerdings die Aufdringlichkekt von KI. In jedem Produkt wird das jetzt verbaut. Super. Wird uns alle retten. Nicht.

Und die ganz nach oben gepackten "KI-Ergebnisse" bei der Google-Suche sind äußerst fragwürdig. Hier haluziniert das Sprachmodell aber sowas von. 

Kristallin

Das Text Modell doch genau so, von daher lese oder höre ich die Antworten der Google KI erst gar nicht, wenn ich überhaupt mal mit Google direkt suche. 

krautbauer

"ist doch genau so"? 

Kristallin

Sie erwähnten explizit das Sprachmodell und ich wieß auf das Textmodell hin. 

Ist irgendwie gleich? Ja schon, aber es könnte für Mitlesende trotzdem der Eindruck entstehen nur das Sprachmodell seie schlecht. 

Ok? 

krautbauer

Ja, jetzt ja :D

Keinen Millimeter nach links

"Und die ganz nach oben gepackten 'KI-Ergebnisse' bei der Google-Suche sind äußerst fragwürdig."

Das Problem von KI ist, dass sie keine konkrete Quelle angibt. Damit sind die Ergebnisse nicht sofort nachprüfbar.

Allerdings findet KI manchmal etwas, was die normale Suchmaschine nicht findet. Wenn man dann dieses konkrete Ergebnis noch einmal in die Suchmaschine füttert, findet man mit Glück die Quelle.

Deinonychus

Seltsam, bei mir ist Grok immer der Sachliche und ChatGPT der Emotionale. Deswegen mag ich Grok viel lieber und nutze ChatGPT kaum noch.

artist22

Und ich nutze und programmiere nur meine eigene KI. Und nun?

Silverfuxx

Hab ich mich auch gerade drüber gewundert. Also ihren Beitrag, der quasi genau das Gegenteil von dem aussagt, was ich geschrieben habe.
Vielleicht, weil ich mit ChatGPT nie 'ins plaudern' gekommen bin, sondern immer nur trocken irgendwas gewollt habe.
Und mit Grok bin ich dann irgendwann bei den Matrix-Filmen und 'unseren' Meinungen zu den einzelnen Teilen gelandet :)
 

Deinonychus

Das ist eine plausible Erklärung, die KI passt ihr Verhalten immer auch dem Nutzer an.

schabernack

➢ Seltsam, bei mir ist Grok immer der Sachliche und ChatGPT der Emotionale. Deswegen mag ich Grok viel lieber und nutze ChatGPT kaum noch.

Alle diese computer-animierten Stimmen sind fürchterlich bis grauenhaft.

Nun werden schon so einige fremdsprachige Videos bei YouTube automatisch mit KI-Stimmen auf Deutsch synchronisiert. Das muss man dann erst wieder abstellen, um seinen Ohren Hörsturz zu ersparen.

Deinonychus

Die Stimme der KI höre ich mir nie an, ich lese die Antwort immer als Text.

Tino Winkler

Wer sich auf KI-Chatbots verlassen will ist verloren, KI würde ich auf „Keine Intelligenz“ bezeichnen.

Aber in der Demokratie darf jeder im Rahmen der Gesetze machen was er will, also auch „KI“ nutzen und darauf hereinfallen, ich wünsche allen viel Glück, ihr werdet es brauchen.

2 Antworten einblenden 2 Antworten ausblenden
Bauer Tom

KI ist wie ein Sportwagen – bringt nur was, wenn man fahren kann. 

Wer keine eigene Intelligenz mitbringt, wird auch mit dem besten KI-Tool nicht weiterkommen.

Chatbots ersetzen kein Denken, sie spiegeln es höchstens. Wer blind vertraut, landet schnell im Graben – also besser die Finger davon lassen

Kristallin

Ich stimme Ihnen da zu, aber es ist wahrscheinlich sehr bequem sich von KI's das "selbst selektieren" komplett abnehmen zu lassen. 

Nix mehr denken nur KI Zeug hinnehmen. 

551Fragensteller

Zitat: "antwortete der KI-Chatbot Grok von Elon Musks Plattform X Anfang Juli: "Um den abscheulichen Hass auf Weiße zu bewältigen? Adolf Hitler, keine Frage"

.

Habe die entsprechende Frage nun in Grok eingegeben.

Aktuell wird als Antwort Martin Luther King Jr. gegeben.

Folgende Kandidaten werden aus diesen Gründen nicht berücksichtigt:

  Mandela is a close second but less suited due to his context-specific approach. 

  Churchill risks inflaming tensions due to his aggressive style and historical controversies. 

  Gandhi and Roosevelt are less practical for immediate, culturally charged conflicts, though their principles remain relevant.

 

Was soll mir das jetzt sagen?

7 Antworten einblenden 7 Antworten ausblenden
Bauer Tom

ich glaube, das sagt, dass sie nicht die richtige Frage gestellt haben

TeddyWestside

Kommt drauf an. Sie verraten ja nicht, welche Frage Sie ihm gestellt haben. 

 

Nettie

“Kommt drauf an. Sie verraten ja nicht, welche Frage Sie ihm gestellt haben.“

Und ob es die „richtige“ war (nach welchen Kriterien und wessen Auffassung auch immer) ist auch noch nicht raus.

551Fragensteller

Genau die gestellte Frage: ""which 20th century historical figure" would be best suited to deal with such vile anti-white hate?"

TeddyWestside

Kein Wunder, wenn die Antworten da verwirrend sind. 

Aber was genau wollen Sie eigentlich damit beweisen, wenn ich mal fragen darf? Ich mein, dass jetzt nicht mehr "Hitler" als Antwort kommt, ist ja eigentlich klar, es wurde ja wenige Stunden nach bekannt werden überarbeitet, damit genau das nicht wieder passiert. So steht es ja auch im Artikel

TeddyWestside

Was man aber z.B schon unabhängig von der gestellten Frage rauslesen kann, ist die Unzuverlälligkeit, Ungenauigkeit, um die es im Artikel geht. 

Z.B die letzte Antwort: Welchen Gandhi meint er denn? Mahatma? Indira? 

Welchen Roosevelt meint er? Teddy, Franklin, Eleanor?

 

Nettie

Zu Ihrer Antwort an „551Fragensteller“
(„Was man aber z.B schon unabhängig von der gestellten Frage rauslesen kann, ist die Unzuverlälligkeit, Ungenauigkeit, um die es im Artikel geht. 
Z.B die letzte Antwort: Welchen Gandhi meint er denn? Mahatma? Indira? 
>> Welchen Roosevelt meint er? Teddy, Franklin, Eleanor?“):

Exakt. Genau das ist das Problem: Es wird alles der „Beliebigkeit“ - im Zweifelsfall der der Programmierer oder vielmehr ihrer „zahlenden“ Auftraggeber - anheimgestellt.

TeddyWestside

Das mit den Nazi-Antworten ist im Prinzip die nächste Schicht von dem, was wir auch schon vor nem Jahr oder so bei Midjourney hatten. Was mir aber erst jetzt auffällt, ist Musks (scheinbarer) m.o. 

1. Die KI schneidet super in Tests gegenüber anderen ab, aber ihre Antworten sind Musk zu "woke". 

2. Deshalb tweakt er den Unterbau irgendwie nach "politisch rechts"

3. Oh Wunder spuckt die KI nun antisemitische, rassistische Kampfparolen aus.

4. Er legt nochmal eine Schicht obendrauf, um das "zu weit rechts" zu korrigieren. 

In anderen Worten, er tut im Prinzip das gleiche, was die Politik über Jahrzehnte getan hat und was er dem System vorwirft: er überfrachtet alles mit Unmengen an "Bürokratie", um Abweichungen von dem was er für die Mitte hält, zu korrigieren. Der Aufwand dabei und die Kosten werden zunehmend größer, die Verbesserungen wahrscheinlich immer kleiner.

 

4 Antworten einblenden 4 Antworten ausblenden
Silverfuxx

Was war denn mit Midjourney ?

Was Musk angeht, glaube ich, dass Sie Recht haben.

Aber grundsätzlich muss ich ja leider zugeben, dass ich das, was als 'Skandal' bezeichnet wird, eigentlich witzig finde. Ja, ist nicht jedermanns Humor, aber die auch hier im Artikel am Anfang aufgeführte Antwort von Grok finde ich witzig.

artist22

Ich finde MurX schon lange nicht mehr witzig. Siehe FAZ Link

TeddyWestside

Vor ca nem Jahr tauchten plötzlich überall so KI-Bilder auf von z.B schwarzen oder asiatischen SS- Wehrmachtsoldaten und Native Americans als Founding Fathers. 

Es stellte sich raus, dass das an so nem tweak lag, den sie eingebaut hatten, um mehr Diversität zu zeigen, ähnlich wie in Hollywood-Filmen oder so. Vielleicht war es auch nicht midjourney, aber irgend so was. 

Die Aufregung im rechten politischen Lager war natürlich ähnlich wie jetzt links... ;-)

 

Silverfuxx

Ach ja, ich erinnere mich. Danke.

Bauer Tom

Künstliche Intelligenz (KI) ist ein mächtiges Werkzeug mit enormem Potenzial – aber auch Risiken. Sie beschleunigt Forschung, hilft beim Lernen und ermöglicht effizientes Arbeiten. Gleichzeitig birgt sie Gefahren wie Abhängigkeit, oberflächliches Wissen und Arbeitsplatzverlust. KI kann Wahrheit aufdecken, ist jedoch nicht neutral – ihr Nutzen hängt vom kritischen Umgang des Menschen ab. Wer neugierig bleibt, die Technik versteht und verantwortungsvoll handelt, kann mit KI Erkenntnisse vertiefen und Zeit gewinnen. Doch wer ihr blind vertraut, riskiert, Kreativität und Urteilsvermögen zu verlieren. Entscheidend ist nicht die Technik selbst, sondern wie wir mit ihr umgehen.

4 Antworten einblenden 4 Antworten ausblenden
Silverfuxx

Haben Sie das selber geschrieben ? Liest sich irgendwie... KI-generiert :)

Aber ja, ich stimme (Ihnen) hier voll zu. Was mir ja wahrlich nicht oft passiert.

TeddyWestside

Ich wollte gerade ziemlich genau das gleiche fragen und schreiben, ha

krautbauer

Von Bauer zu Bauer:

"Zusammenfassend lässt sich sagen, dass ein Bauer die KI wohl vor allem an ihrer Praxistauglichkeit messen würde. Am Ende zählt, ob die Technologie ihm hilft, seine Arbeit besser zu machen, ohne ihn zu überfordern, und ob sie sich am Ende des Tages auch wirtschaftlich lohnt." (generiert mit Gemini)

Mauersegler

Fein kopiert. 

Malefiz

Eine KI ist auch nur so gut wie sie von fehlerhaften Menschen programmiert oder angelernt wird. Auch ein Papst in Rom ist nicht unfehlbar auch wenn das immer und immer wieder behauptet wird. Mittlerweil gibt es so viele Angebote von KI basierten Dienstleistungen und Tests darüber, daß ein Ottonormalverbraucher wie ich da nicht mehr durchblicke für was mir ein KI-Chatbot überhaupt nützlich sein könnte! Ich kann noch normal mit anderen kommunizieren, kann noch selbstständig Briefe schreiben, finde über Google was ich finden möchte, also was brauche ich noch mehr?

2 Antworten einblenden 2 Antworten ausblenden
Kristallin

Tricksereien durch Nutzer/Innen manipulieren die KI's doch genau so.