Eine Frau telefoniert

Ihre Meinung zu Künstliche Intelligenz: Das Geschäft mit der geklonten Stimme

Mit Künstlicher Intelligenz können Stimmen mit geringem Aufwand täuschend echt geklont werden. Kriminelle nutzen das, um mit Audio-Deepfakes Straftaten zu begehen, wie SWR-Recherchen zeigen. Die Sicherheitsbehörden können kaum Schritt halten.

...mehr ...weniger
Dieser Artikel auf tagesschau.de
Kommentieren beendet
80 Kommentare

Kommentare

Nettie

„Das Geschäft mit der geklonten Stimme“

‚lohnt‘ sich für Kriminelle auf jeden Fall. Denn es ist eine ‚sichere Bank’ bzw. ‚bringt‘ auf jeden Fall Geld.

7 Antworten einblenden 7 Antworten ausblenden
artist22

"‚lohnt‘ sich für Kriminelle auf jeden Fall. Denn es ist eine ‚sichere Bank’ bzw. ‚bringt‘ auf jeden Fall Geld."

Kurzfristig ja, wir rennen wie immer beim Aufdecken hinterher.

Aber es gibt jeden Tag Neues, was man testen kann, wie hier

https://github.com/cghiee/voice-clone-detection

 

Nettie

„Aber es gibt jeden Tag Neues, was man testen kann, wie hier (…)“

Aber nur für Leute, die jederzeit auf dem neuesten Stand der Technik sind. Danke übrigens für den Tipp bzw. Link!

hesta15

Das stimmt, hier werden der Kriminalität Tür und Tor geöffnet.

Nettie

„Das stimmt, hier werden der Kriminalität Tür und Tor geöffnet.“

Falls Sie mit ‚das‘ die derzeitige Machtfunktion des Geldes in Wirtschaft und Politik meinen sollten, haben Sie Recht.

werner1955

Dann sollten wir schneller und besser sein als die Verbrecher. Verhindern können wir die "KI" nicht. Auch heute bekommen "Verbrecher" Waffen, Pistolen, Messer oder Autos obwohl es verboten ist damit Stra0taten zu begegn.  

Account gelöscht

Werner1955 , so ist es . Denen fällt immer was ein um ein Verbrechen zu begehen.

werner1955

Deshalb, schneller, besser die KI entwicklen und nutzen. Mit mehr Sicherheitskräften un dbessern Rechten die Menschen in unserem Land schützen. Die Justiz in andern Ländern könnte da vorbild sein. Spanien/Malle usw. 

Affen_D

Grundsätzlich beantworte ich absolut gar nichts am Telefon! Ganz gleich wer anruft! Ich denke, so schlimm natürlich manchmal auch Anrufe erscheinen mögen, man sollte immer abblocken! Insbesondere wenn es um Geld geht, sollte man sofort hellhörig werden! 

1 Antwort einblenden 1 Antwort ausblenden
Nettie

„Insbesondere wenn es um Geld geht, sollte man sofort hellhörig werden!“

Sollte man. Ich finde es mehr als traurig, dass wegen dem immer mehr Menschen niemandem mehr vertrauen (können).

Affen_D

Übrigens: im Zweifel einfach etwas sehr persönliches den Anrufer fragen! Manchmal reichen sogar ganz banale Fragen wie z. B. das Kfz-Kennzeichen der Eltern lautet, wie die Kinheitsadresse war oder was die Lieblingsspeise ist.

4 Antworten einblenden 4 Antworten ausblenden
schabernack

➢ Übrigens: im Zweifel einfach etwas sehr persönliches den Anrufer fragen! Manchmal reichen sogar ganz banale Fragen …

Um sich selbst vor gefälschten Anrufen zu schützen, ist so was gut. Man kann auch bestimmte Fragen vereinbaren, deren richtige Antworten Außenstehende nicht wissen können.

Gegen geklonte Stimmen außerhalb von Anrufen hilft das nicht. Gefälschte Stimmen verbreiten irgendwas im Internet, oder sie rufen bei der Polizei an mit Aussagen zu erfundenen Bedrohungslagen.

Die geklonte Stimme ist wieder so was, was real niemand braucht, außer dass man es technisch kann. Man braucht es nicht mal zur Comedy Stimmimitation. Entweder die Comedians (oder Privatleute) können so was auch ohne KI, oder sie lassen es besser bleiben.

bitv

Auch eine Frage zu einem persönlichen Treffen, das gar nicht stattgefunden hat, kann hilfreich sein., z.B. "Hast du das Päckchen aufgemacht, das ich dir gestern mitgegeben habe?"

Jürgen Schwark

Das stimmt, aber eine Ergänzung von Daten ist es auch. Es gibt auch viele Leute die mit Payback Karten sämtlicher Handelsketten meinen noch immer Geld zu sparen beim Einkauf. Das lohnt sich für den Käufer überhaupt nicht.

werner1955

lohnt sich für den Käufer überhaupt nicht?
Wieso. Wenn ich 30€ für Punkte bekommen? Ohne karte hätte ich nichts. 

MrEnigma

Ich wundere mich immer, wie viele Leute bereit sind, auch große Summen aufgrund eines Telefonanrufes mal eben locker zu machen. 

Ich würde nie sagen, dass mir das nicht auch passieren könnte. 

Es ist aber spannend, wie sehr bei vor dem Kauf eines Joghurts stets hunderte Prospekte studiert werden, um ja 1 Cent zu sparen und dann gleichzeitig hohe Geldbeträge auf den Hinterreifen eines Autos gelegt werden. 

"Legen Sie die 25.000 Euro auf die Straße" - klar -... wieso nicht?

7 Antworten einblenden 7 Antworten ausblenden
Nettie

„Ich wundere mich immer, wie viele Leute bereit sind, auch große Summen aufgrund eines Telefonanrufes mal eben locker zu machen.“

Meinen Sie, dass die Opfer dieser ‚Geschäftemacher‘ ‚selbst schuld‘ sind, weil sie arglos (und hilfsbereit) sind?

Traumfahrer

Leider sind manche Menschen trotz vieler Berichte immer noch zu arglos und gutgläubig. Aber ich verurteile all diese asozialen Kriminellen auf das Schärfste, die leider, wenn sie mal erwischt werden, viel zu geringe Strafen erhalten. In manchen Ländern gibt es für weniger schon die Todesstrafe !

Nettie

„Leider sind manche Menschen trotz vieler Berichte immer noch zu arglos und gutgläubig.“

Das Problem ist aus meiner Sicht vielmehr, dass Arglosigkeit und Gutgläubigkeit ein Problem sind (bzw. sein sollen).

werner1955

Richtig, Im Iran reicht ein Kopftuch. 
Unsere Justiz wahrt intensiv ie Täterrecht und hat nur wenig hilfe für Opfer. 

werner1955

‚selbst schuld‘ sind, weil sie arglos (und hilfsbereit) sind?

Ja. 
Den das hat wenig mit Hilfbereit oder arglos zu tun. Lebenserfahrungen, unterschidliche und viel sozilaei Kontakte mitdenken und teilnahme am realen leben schützen. 


Und notfalls immer vorher die 110 wählen. 

artist22

"Legen Sie die 25.000 Euro auf die Straße" - klar -... wieso nicht?"

Ich fürchte, Ihre 'Publikumsbeschimpfung' geht am Problem vorbei. Denn Ihr geschilderte 'Fall' ist extrem, und kommt selbst bei den dafür anfälligen Personen (meist älter, oder anderweitig hilfebedürftig) selten vor.

Ausserdem vergessen Sie vollkommen, dass die Betrügernetzwerke sehr geschickt darin sind, genau die Schwächsten ihrer möglichen  Opfer 'herauszusortieren und zu bearbeiten'. Dafür benutzen sie meits aus dem Ausland heraus, Deutsch sprechende 'Agenten'.

Die schlagen erst dann zu, wenn Sie einigermassen 'sicher' sind.

 

Account gelöscht

Eine Großtante von mir ist vor Jahren mal zum Schein auf die Forderung des Enkeltrickbetrügers eingegangen und hat dann die Polizei angerufen. Bei der vorgetäuschten Geldübergabe konnte der Geldbote dann gefasst werden. Ich weiß allerdings nicht, wie es später vor Gericht gelaufen ist...

Ich kriege selbst regelmäßig Whatsapps von meinen Kindern. Blöd nur, dass ich keine habe. Man kann aber sagen: Wenn von 1000 Versuchen einer klappt, läuft die Masche weiter. Und je besser und weniger plump die Kontaktaufnahme erfolgt, desto höher die Aussicht auf "Erfolg"

amran.juli

"Der vorgebliche Polizist habe ihr am Telefon erklärt, dass ihr Sohn in Haft sei und er ihn gegen eine Kaution freilassen würde."

Spätestens da hätte man den Anrufer auslachen und auflegen können. Nicht unbedingt die kriminelle Ader einiger ist das Problem, sondern die Leichtgläubigkeit vieler Leute. Ein Umstand, den sich ja viele zunutze machen, z.B. Regierungen oder die Presse ...

2 Antworten einblenden 2 Antworten ausblenden
fathaland slim

Beachtlich, wie Sie den Bogen zu Regierungen und Presse schlagen. Mit welcher Virtuosität Sie Ihre Lieblingshassobjekte abseits des eigentlichen Themas unterbringen. Chapeau!

Was die Leichtgläubigkeit der Leute betrifft, über die Sie sich erheben:

Als meine Mutter gegen Ende ihres Lebens etwas dement wurde, hagelte es plötzlich solcherart Anrufe. Zum Glück war ich zur Stelle, um die Sache jedes Mal abzubiegen oder zumindest rückgängig zu machen. Zeitschriftenabonnements und so was. Seit sie gestorben ist, gibt es solche Anrufe nicht mehr. Das sollte zu denken geben.

 

werner1955

Das sollte zu denken geben?

Brauchen Sie nicht. Die Polizei und Justiz weiß das verbrecher System Informationen gezielt über Alter, Gesundheit und Familenstände sammeln. 

Das wurde in einem Vortrag 2010 durch die Polizei bei der KFD meiner Mutter schon bekannt gemacht. 

Viele wissen auch nicht das man persönlich beim Einwohnermeldeamt gegen Adressen weitergabe wiedersprechen muss. Sonst geben diese Adresse ohne Nachfrage weiter. 

hesta15

 Das braucht kein Mensch, wo liegt der Nutzen?

nie wieder spd

China hat gerade den Umgang mit KI geregelt. Vielleicht kann sich der Westen davon was abgucken.

China hat zB die Datenschutzgrundverordnung der BRD übernommen. Wie kürzlich ein China - Experte auf Phoenix oder 3Sat zu berichten wusste.

 

5 Antworten einblenden 5 Antworten ausblenden
stgtklaus

China hat auch sehr den Umgang mir Menschen geregelt und wenn ich mit der Stimme von Xi Jinping die freiheit der Uiguren verkünde wird selbt der erst mal verhaftet. 
China hat nix "übernommen" denn es ist ein Unrechtstaat bei dem man auch so verhaftet wird ohne was zu tun. Nur weil die was abschreiben hat das noch keine Gültigkeit für alle

artist22

"China hat zB die Datenschutzgrundverordnung der BRD übernommen."

Was ändert das denn, wenn der dahinter notwendige Rechtsstaat nicht vorhanden ist. Versuchen Sie mal eine Beschwerde dazu gegen nur einen 'Apparatschik im 2.Glied' durchzuhalten.

Viel Spass dabei.

nie wieder spd

Gegen einen „Apparatschik im 2.Glied“ einer demokratischen Regierung werden weder Sie noch ich etwas ausrichten können.

Mauersegler

Was für ein lustiger Beitrag! Welche KI hat Ihnen denn den geschrieben? Die muss aber noch viel lernen!

China hat die DSGVO "der BRD" übernommen <->  die DSGVO ist europäisch.

China hat die DSGVO "der BRD" übernommen <->  davon können wir uns was abgucken. 

asci

China und Datenschutz - alles klar. Die Regierung hält sich da bestimmt selbst daran.

Die müssen zuerst lernen, dass der beste Datenschutz ist, keine Daten zu sammeln.

Danke für den Lacher.

Account gelöscht

Nachdem Fotos schon seit zwei drei Jahren ziemlich gut gefälscht werden können, jetzt also auch die Stimme. Demnächst dann Videos. Dann kann man nur noch glauben, was man persönlich offline und analog gerade erlebt und gesagt bekommt. Oder was aus wirklich vertrauenswürdiger Quelle stammt.

Ein Fest für Betrüger, üble Scherzkekse oder Verschwörungstheoretiker.

Ich bin ein freiheitsliebender Mensch und bin grundsätzlich gegen die aktuelle Tendenz, immer mehr regulieren oder verbieten zu wollen. Aber Deepfakes haben das Zeug dazu, Gesellschaft und Zusammenleben kaputt zu machen. Sie sind gefährlich und gehören schleunigst verboten. Nicht zivilrechtlich, sondern tatsächlich auch strafrechtlich.

3 Antworten einblenden 3 Antworten ausblenden
stgtklaus

Nichts muss man verbieten - man muss den Menschen nur erklären was "verlässliche Quellen sind". Und das notfalls mit einem Warnhinweis unter einem Bild. Dazu reicht es die Verbreitung von Fälschungen unter Strafe zu stellen - auch für Google, Twitter und CO. Dann lassen die es Bilder und Texte einfach zu Veröffentlichen

Account gelöscht

Ich habe schonmal ein gefälschtes Nacktbild eines Menschen gesehen. Man hat noch erkennen können, dass es gefälscht war, aber wie lange wird das noch möglich sein? Wie lustig ist es, sich selbst so zu sehen oder den Partner beim gegälschten Fremdgehen inflagranti im Bett? Demnächst auch als Video mit Ton?

Was der eine schulterzuckend als schlechten Scherz hinnimmt, kann andere nervlich fertig machen.

Gleiches gilt für gefälschte Reden und Ansprachen, die Politikern oder Geschäftsleuten in den Mund gelegt werden. Frei nach dem Motto: Irgendwas wird schon hängenbleiben. Oder wie wär's mittels Geschichtsfälschung durch gefälschte Reden?

Das geht weit über den Enkeltrick hinaus.

Hanns Guck In Die Luft

Exakt! Genau darum geht es! Es geht u.a. um die Glaubwürdigkeit z.B. der Audio-Mitschnitte von Überwachungen seitens Strafverfolgungs-Behörden, MAD, BND und intern. Geheimdienste und der Gerichte, die ihnen Stand heute Glauben schenken (resp. vertrauen)!

TapferSchneiderlein

Ich versuche mich am Telefon oder im "Netz" so zu verhalten wie im realen Leben auch: Vertrauliche Sachen nur in vertraulicher Umgebung austauschen!  Das  geht leider nicht am Telefon, im Internet schon gar nicht. 

Wenn nicht vermeidbar - z.B. Online-Banking - dann versuche ich das Risiko durch möglichst kurze, abgesicherte Transaktionen zu begrenzen. Ich stelle mir vor, ich stünde mitten im Großmarkt.

Nachfragerin

Ein simpler Rückruf hilft.

"Eleven Labs unternehme alles, um das Risiko schädlichen Missbrauchs mit Schutzmaßnahmen zu minimieren und um dagegen vorzugehen."

Wie soll das funktionieren? Die Technologie ist bekannt und wird auch von Kriminellen und Idioten genutzt. Das lässt sich nicht sinnvoll verhindern.

Wir müssen lernen, auch mit solchen neuartigen Gefahren umzugehen. Die einfachste Möglichkeit ist ein Rückruf.

1 Antwort einblenden 1 Antwort ausblenden
nie wieder spd

Mag sein. Wenn man sich auch noch gegen jeden Kriminellen u/o Idioten wappnen muß und gegen jede Art von Kriminalität u/o Idiotie, dann hat man für die wichtigen Dinge im Leben kaum noch Zeit. Und die kommen sowieso schon zu kurz wegen Arbeit und anderen Malaisen.

raspo666

wuerde mich wundern,wenn der KI-Schrott mich nachahmen koennte, Stimme? Klar schon,aber jeder, der mich kennt "weess janzjenau, das ick arch verschliffen berlinern tu" :-D

Ob das wohl klappt ?

 

3 Antworten einblenden 3 Antworten ausblenden
schabernack

➢ wuerde mich wundern,wenn der KI-Schrott mich nachahmen koennte, Stimme? Klar schon,aber jeder, der mich kennt "weess janzjenau, das ick arch verschliffen berlinern tu" :-D

Je mehr gesprochene Worte in ganzen Sätzen mit Ihrer persönlichen Wortwahl & Sprachmelodie der KI-Stimmfälscher hat, desto besser gelingt es ihm, Ihre Stimme zu imitieren.

Im Entführungsfall Jan Philipp Reemtsma vor Jahrzehnten analysierten Sprachforensiker der Kriminalpolizei die Stimme des Entführers, der immer anrief bei Familie Reemtsma wegen Lösegeld.

Die Stimme war die (was sich als absolut korrekt herausstellte) eines gebürtigen Rheinländers im Alter von Mitte 50. Stimmen bekommen einen tieferen Klang mit zunehmendem Lebensalter. Rheinländer sprechen in einem Singsang, der mehr die Endsilben von Worten betont, als das in der Hochsprache bzw. in anderen Mundarten der Fall ist.

Auch Berlinerisch hat seinen charakteristischen Tonfall. Kann eine Stimmfälscher-KI aus den USA wohl noch nicht so gut imitieren.

saschamaus75

>> Ob das wohl klappt ?

 

Jepp. Eine KI kann auch berlinern oder schwäbisch oder sächseln oder platt oder... -.-

 

saschamaus75

Nachtrag:

 

Aber um Sie zu beruhigen, zumindest ChatGPT kann kein altägyptisch und darf es (warum auch immer) auch nicht erlernen. DAS fand ich schade. ;(

 

Biocreature

Terminator (2), der sich als Mutter im Telefongespräch mit ihrem Sohn John, der in der Telefonzelle zu Hause anruft

läßt schön grüßen!

-

Irgendwann überrollt uns die KI u. richtet mehr Schaden als Nutzen an.

Ich sage jetzt nicht, daß in naher Zukunft ein 'Terminator' die Menschheit ausrotten wird.

Ich will nur sagen, daß eben auch heute schon viel KI im Alltag vorhanden ist, u. der Mißbrauch solcher KI immer schneller als der Schutz davor.

Aber die Menschheit will ja unbedingt noch mehr Technik im Alltag besitzen und nutzen, ohne über die Risiken nachzudenken, daß diese eben auch schädlich sein kann bzw. auch schon ist.

-

Irgendwann in naher Zukunft, bekommen Menschen einen Chip implantiert, wo alle wichtige Daten, wie Gesundheitsstatus, Krankheiten, Name, Alter etc. p.p. darauf gespeichert sind,

und nur noch bei Bedarf gescannt werden muß. 

Praktische Anwendungen: Z.B. beim Arzt oder im Notfall im Krankenhaus....

 

...und träumt schön heut' Nacht

Gruß

Biocreature

stgtklaus

Die Polizei kann man immer zurückrufen. Nach dem Namen und der Abteilung fragen und dann die 110 wählen. Die können verbinden oder die Rückrufnummer und den Namen verifizieren.
Es reicht oft zu sagen man hat kein Geld oder Schmuck und das nächste kommt erst am nächsten 1 oder 15. Dann endet meist der Anruf schnell wieder

3 Antworten einblenden 3 Antworten ausblenden
artist22

"und dann die 110 wählen."

Nur leider gabs schon Fälle, wo genau das auch nicht funktionerte, weil man die 110 vortäuschen konnte. Sie müssen die Betrüger grundsätzlich nicht für dümmer halten als den 'Normalbürger'. Eher umgekehrt ;-)

fathaland slim

Da ist es dann hilfreich, wenn man weiß, daß niemals die Nummer 110 im Display angezeigt wird, wenn die Polizei anruft.

rainer4528

Natürlich können Sie die 110 zurückrufen. Sie dürfen nur nicht darauf hereinfallen, wenn die 110 auf dem Display erscheint.

Schneeflocke ❄️

Es ist schon traurig, jedesmal wenn es eine neue Erfindung gibt, die eigentlich zu etwas nützlich sein sollte, gibt es gleich so eine Menge an Verbrechern, die sich das Ganze einverleiben, um ihr Unwesen damit zu treiben. Das Gleiche mit neuen Gesetzen oder auch Förderungen und ähnlichem. Der betrügerische Missbrauch lässt nicht lange auf sich warten...

werner1955

Kriminelle nutzen das?
Das machen viele Verbrecher ohne geklonten Stimme heute schon ohne "KI". Deshalb legen Menschen Ihre Wertsachen nach Anrufen in einer Plastiktüte hinter die Mülltonne.

1 Antwort einblenden 1 Antwort ausblenden
und weiter

früher haben Verbrecher dem Opfer mit einer Keule auf den Kopf geschlagen, heute erschießen Sie ihr Opfer.

früher haben Verbrecher dem Opfer das Geld aus der Tasche gezogen, heute spähen Sie die PIN am Geldautomaten aus.

kurz: es wird immer schwerer, verbrechen als solche zu erkennen, sich davor zu schützen und sich dagegen zu wehren.

ich frage mich, warum sie das relativieren und herunterspielen. Wollen Sie es nicht verstehen? Aber vermutlich werde ich eh keine sinnvolle Antwort von Ihnen bekommen.

Jürgen Schwark

Erst einmal hat der ganze Blödsinn das schon seit 1983 möglich gemacht, Stimmen in elektronische Signale zu verwandeln. Besonders ,,praktisch ist" das wenn man nicht zuhause ist und ,,einen klaren deutlichen Text" auf den Anrufbeantworter spricht. Viel leichter macht es das noch  wenn man familiäre Nachrichten hinterlässt  wo man zu erreichen ist ,unter welcher Rufnummer und noch Bankverbindungsdaten hinterlässt. Das BSI in Bad Godesberg ist das Geld nicht wert.  Noch schlimmer ist es aber das etliche Leute die Befugnisse nicht kennen die Gerichte, Polizei, und Juristen nicht haben. Der Mangel daran nicht wohl in der Vergangenheit Deutschlands insgesamt zu sehen. Ein Update von Microsoft hat das letzten Monat auch ermöglicht. Ohne Nutzerbefragung. Man kann dieses K.U. Update  löschen. Obwohl MS. es als Qualitäts Update  unterjubelt.      

1 Antwort einblenden 1 Antwort ausblenden
Mauersegler

Wenn Ihr Beitrag hilfreich sein soll, formulieren Sie doch bitte etwas genauer:

Was hat welches Update von Microsoft in welchem System ermöglicht?

Wie heißt die Anwendung, die man löschen kann? 

kurtimwald

IT, Computer mit und ohne KI, sind ein Segen für die Menschheit. Und KI kann nur die Bilder oder Stimmen nachahmen, die von den Betroffenen selbst in das Internet geladen 

Kostenlose Cloud-Speicher, kostenlose soziale Netze von FB bis Twitter, Siri, Alexa, usw. Und dabei akzeptieren die Leute auch noch die AGBs die genau sagen und sich bestätigen lassen, das alles digitale Material, ob Bilder oder Stimme, in das Eigentum der Anbieter übergeht die sich, auch das wird nicht verheimlicht, zum großen Teil außerhalb Europas befinden. Es wird in den AGBs auch nicht verheimlicht, das mit den Kundendaten gehandelt wird, Bilder, Stimmen usw. also an Unbekannt weiter gegeben werden.

Aber die AGBs werden häufig nicht mal gelesen und einfach zustimmend bejaht. 

Sorgfältige Provider verschlüsseln die Daten ihrer Kunden und sorgen für kontrollierten Zugriff. Das macht Aufwand ist deshalb auch nicht kostenlos.

1 Antwort einblenden 1 Antwort ausblenden
Jürgen Schwark

Wen würden Sie als sorgfältigen Provider bezeichnen? Das halte ich für ein Märchen , das hier nur Datenpannen passieren. Dazu gab es die Pannen viel zu oft in den letzten Jahren. Auch besonders bei Pannen bei Security Programmen. Mc Affee  und Kaspersky lassen grüßen. Sehr zu beachten sind da auch die Pannen bei Vodafone oder der Telefonica die dann immer passieren  wenn die Unternehmen finanziell in der Klemme hängen.   

heribix

Die Entwiklung der KI steckt noch in den Kinderschuhen und schon richtet sie schaden an. Vieleicht sollten wir nach der Entwicklung von Bio - Chemiewaffen oder der Atombombe endlich mal drüber nachdenken ob wir wirklich alles tun sollten wozu wir in der Lage sind. Denn das wird früher oder später in einer Katastrophe enden. Schon heute werde die Atomraketen auch noch gestartet wenn kein Mensch mehr da ist der aufs Knöpfchen drückt.

4 Antworten einblenden 4 Antworten ausblenden
kurtimwald

Schuld ist doch nicht KI, die kann erst mal gar nichts und kennt keine Stimmen. Nur wenn Menschen in ihrer Gier nach kostenlos ihre Bilder und Videos ungeschützt ins Netz laden, kann KI damit was machen.

fathaland slim

Was technologisch machbar ist, das wird auch gemacht. Wissenschaftszensur funkioniert heutzutage nicht mehr und hat auch früher nicht wirklich funktioniert. Deswegen hilft nur Bildung, Bildung, Bildung und Aufklärung, Aufklärung, Aufklärung. Die Gefahr liegt in der Bildungs- und Aufklärungsresistenz eines nicht unerheblichen Teils der Mitmenschen. 

artist22

"Die Gefahr liegt in der Bildungs- und Aufklärungsresistenz eines nicht unerheblichen Teils der Mitmenschen. "

Das hat schon vor Jahrzehnten jemand vorausgesagt: Wir amüsieren uns zu Tode

https://de.wikipedia.org/wiki/Neil_Postman

Hanns Guck In Die Luft

Korrekt! Wobei die eigentliche Gefahr darin besteht, dass die Entscheider in Wirtschaft, Politik und Gerichtsbarkeit die nebst nötiger Bildung und Aufklärung auch die moralische Verantwortung ihres Tuns vermissen lassen.

Account gelöscht

Wichtige Entscheidungen sollte man nicht am Telefon treffen. 

Wie oft wird man seit einigen Jahren, und das zunehmend, von Menschen angerufen, die man nicht kennt und auf deren Anruf man nicht gewartet hat? 

 Natürlich legt man lieber ein Mal mehr auf, als ein Mal zu wenig. 

 

 

1 Antwort einblenden 1 Antwort ausblenden
fathaland slim

Ich werde sofort sehr unfreundlich und lege dann auf, wenn ich Anrufe von Fremden bekomme, die etwas von mir wollen. Werbeanrufe sind ungesetzlich. Und wenn es sich um eine Umfrage handelt, dann frage ich sofort nach dem Institut, und ob es sich um eine Marketingumfrage handelt. Das war bisher immer der Fall, weshalb ich auch da immer aufgelegt habe. Der Deutschlandtrend hat mich noch nie angerufen. Was man auch daran erkennt, daß er meine Meinung nicht widerspiegelt:=)

Schneeflocke ❄️

Wie kommen die Betrüger eigentlich an die Stimmen-Muster, um eine Stimme zu klonen? 

Was ich jetzt noch nicht ganz verstanden habe, ist, wieso man es nicht merken soll, wenn man mit dieser KI Stimme angerufen wird. Das würde doch bedeuten, dass noch weitere Dinge einer Persönlichkeit kopiert werden müssen - außer der Stimme. Wenn man mit einer nahestehenden Person telefoniert, tritt doch die eigene Energie mit der des Gesprächspartners in Resonanz. Deshalb fühlt man sich ja auch mit bestimmten Personen im Gespräch häufig unwohl, bei anderen dagegen sofort wohl. Bei manchen Menschen fühlt man sich z.B. gedrängt, jemand "anders" zu sein, als man sein "will", heißt die Schwingung zueinander ist disharmonisch. Bei Liebespaaren knistert es. Ich bin z.B. schon angespannt, wenn ich das fordernd-jammervolle Gekrächze von meiner Mutter aus dem Hörer quaken höre. Das kann doch nicht alles mitkopiert werden. Wieso also merkt man das denn nicht, dass es nur ein Klon ist?

3 Antworten einblenden 3 Antworten ausblenden
schabernack

➢ Wie kommen die Betrüger eigentlich an die Stimmen-Muster, um eine Stimme zu klonen?

Gibt es von Ihnen mit Ihrer Originalstimme Sprachnachrichten im Internet? Sprachen Sie schon mal in eine Translator-App für Fremdsprachen? Steuerten Sie Ihren Laptop schon mal mit der (optionalen) Sprachsteuerung, die Sie mit Ihrer Stimme zur Bedienungsvereinfachung einrichten können? Anstelle der Kurzbefehle über die Tastatur, oder anstatt Mauslauf zu den Menübalken.

Alles Quellen für die Originalstimmen.

R A D I O

Nicht jeder ist so feinfühlig wie Sie oder ich. Sekunden bevor es klingelt, weiß ich schon, wer gleich anruft. Und mit dem Alter werden manche leider zunehmend stumpfsinnig. Die Täter baldowern bestimmt genau aus, wer sich als Opfer eignet. Außerdem, wenn es nicht klappt, können sie einfach auflegen und haben keine weitere Arbeit mit denen, die sich als ungeeignet erweisen, sich stur stellen, unsensibel oder schwerhörig sind oder zufällig genau in dem Moment schlecht gelaunt.

Carlos12

Ein Journalist hat einen Versuch mit seiner Mutter gemacht. Sie gemerkt, dass da was nicht stimmt. Aber die KI ist ja erst am Anfang. Warten Sie noch 10, 20 Jahre.

rambospike

Es sind m.E. nicht nur Kriminelle, die mit durch KI geklonter Stimme auffallen. Seit dem Aufkommen von ChatGPD ist mir selbst hier im Forum aufgefallen, dass einige User diese aktiv nutzen. So gibt es hier einen User, der früher nur durch tumbe Verherrlichungen von allem was Putin/Russland tut, auffiel. Seither wurden seine Beiträge  zu fast jedem Thema hier immer professioneller, ja sogar manchmal sehr überzeugend. Vielleicht irre ich mich ja und  bin selbst verschwörungstheoretisch anfällig geworden.

Gruß rambospike

bolligru

Ob es uns gefällt oder nicht...

die Entwicklung von KI läßt sich nicht aufhalten, einfach weil sie ökonomisch sinnvoll ist und zwar in erster Linie für nichtkriminelle Firmen.

Anstatt wieder einmal in Panik und Angst zu verfallen und das Kind mit dem Bade ausschütten zu wollen, sollte und wird auch über Möglichkeiten und Grenzen der Regulierung nachgedacht. 

Es muß, schlicht ausgedrückt, über alle sinnvollen Möglichkeiten nachgedacht werden, die es angesichts einer unvermeidbaren Situation gibt, auf das Unvermeidliche angemessen zu reagieren. Es muß, kaufmännisch ausgedrückt, eine Kosten- Nutzen Analyse geben, die auch die sozialen Folgen mit berücksichtigt.

Nach vorn schauen und das Beste daraus machen! 

Dies war einst die Vorgehensweise der Menschheit, sowohl was große Ganze als auch was das Schicksal des Einzelnen anbetrifft. Ich vermisse diesen Optimismus, das muß ich gestehen.

1 Antwort einblenden 1 Antwort ausblenden
TapferSchneiderlein

Sind Sie sicher daß die Entwicklung der Menschen was mit Intelligenz zu tun hat? Ich fürchte, das "Künstliche" muß hier nicht viel ersetzen.

Moderation

Vorübergehende Schließung der Kommentarfunktion

Liebe Nutzerinnen und liebe Nutzer,

die Kommentarfunktion für diese Meldung wird vorübergehend um 13 Uhr geschlossen.

Bitte haben Sie einen Moment Geduld, es geht bald weiter.

Mit freundlichen Grüßen

Die Moderation

und weiter

Frage zu Telefonischer beratung, Hotline, Callcenter, usw:

Früher hieß es: "einzelne Gespräche können zu Trainingszwecken aufgezeichnet werden."

Dann: "dieses Gespräch wird zu Trainingszwecken aufgezeichnet. wenn sie nicht damit einverstanden sind drücken Sie die fünf."

Heute: "Wenn Sie damit einverstanden sind dass dieses Gespräch zu Trainingszwecken aufgezeichnet wird dann drücken Sie die eins."

Werner40

KI erfordert schnelle weltweite Regulierung.

und weiter

Meine Frage zu telefonischer Beratung (Ich hatte aus Versehen auf Speichern gedrückt):

wie Lange werden unsere Gespräche "zu Trainingszwecken" gespeichert?

Was sind das wohl für Trainingszwecke…?

1 Antwort einblenden 1 Antwort ausblenden
schabernack

➢ wie Lange werden unsere Gespräche "zu Trainingszwecken" gespeichert? Was sind das wohl für Trainingszwecke…?

Trainingszwecke für die Berater bei den Hotlines. Ich widerspreche immer der Aufzeichnung. Bei meinem Telefon- und Internet-Provider O2 griff einmal einer aus dem Off ein, als der Mann am Telefon mir sagte, das, zu dem ich wegen eines technischen Problems anrufe, hätte O2 gar nicht im Angebot.

Es kam erst die Stimme: «Wir sind gleich persönlich für Sie da» … und dann war eine andere Beraterin an der Leitung, die verstand, was ich wollte.

Nach solchen Gesprächen bekommt man von O2 stets eine SMS, mit der man die Beratung bewerten kann. Ich gebe so gut wie immer 9 oder 10 von 10. Bis auf diese Ausnahme wissen die gut Bescheid. Ich erhielt auch ungefragt-ungewusst einen Hinweis auf einen günstigeren Tarif, der auch noch mehr Daten-Flat-Volumen hatte.