Ihre Meinung zu: Musk auf der SXSW: "KI - gefährlicher als Atomwaffen"

12. März 2018 - 7:03 Uhr

Es war ein Überraschungsauftritt von Tesla-Chef Musk auf der Digitalkonferenz SXSW in Austin. Der Milliardär sprach über seine Fast-Pleite und warnte vor künstlicher Intelligenz. Von Marcus Schuler.

Artikel auf tagesschau.de
Bewertung:
3.666665
Durchschnitt: 3.7 (3 votes)
Schlagwörter der Meldung:
Geo-Schlagwörter der Meldung:

Kommentare

Verblödung mit KI

Eine derartig verblödete Bemerkung "KI - gefährlicher als Atomwaffen" ist eine extreme Verharmlosung der Atomwaffen und eine "Da fehlen mir die Worte" für die Opfer von Atombomben.

inpukto KI

stimme ich Herrn Musk zu.
Wird diese nicht verantwortungsvoll eingesetzt, haben wir im schlimmsten Fall das Skynet-Szenario aus den Terminator-Filmen (dramatisiert)

und sollte Google eine echte KI entwickeln würden sie damit alles andere als verantwortungsvoll umgehen.
Sind sie doch das Paradebeispiel der Datenkrake.

Die Zukunft in Gefahr

Herr Musk hat recht. Ich fühle mich an die Filmreihe "Terminator" erinnert. Ähnlich wie bei der Gen-Manipulation sind die Folgen für die Zukunft nicht absehbar. Ich fürchte nur, dass es genügend skrupellose Wissenschaftler gibt, die die Verbreitung beschleunigen - sowie die Gier der Menschen und die Konkurrenz von Staaten und Unternehmen.
Gruß Hador

Künstliche Intelligenz...

...eine Gefahr. Super Intelligenz gibt es schon, massenhaft, natürliche. Z. B. die kleinen Dinger, die man Insekten nennt. Sind gefährlicher als Atombomben. Ja, weiß jedes Kind, und der Herr Musk. Da muss es stimmen.

Der Digitalisierung fehlt der rechtliche Rahmen ...

Der Digitalisierung fehlt der rechtliche Rahmen, bei fast jedem Produkt ist in den AGB's die Haftung für Fehler in der Software ausgeschlossen.

Und KI ist Software.

Und am schlimmsten hat man die daraus abgeleiteten Auswüchse bei dem Missbrauch von Software bei der Abgasreinigung erlebt.

Da konnten verantwortliche VW- Manager behaupten, sie haben nicht gewusst oder sind nicht in der Lage, diese Software zu beurteilen und zu kontrollieren.

In Konsequenz wünsche ich, das niemals einem VW- Produkt die Freigabe für autonome PKW oder LKW erteilt wird.

Wenn die Wirkung nur lange genug anhält ...

ist vermutlich alles gefährlich. Wachstum, egal ob an (angeblicher) moralfreier Intelligenz, an aufgestapelten Kernwaffen, an Disparität bei der Vermögensverteilung, an Giftstoffen in Nahrung und Denken. Es kommt, das Lehrt vermutlich Buddha, auf das rechte Maß an und darauf, das Denken auf die rechten Dinge zu zentrieren.
Die Befürchtungen des Herrn Musk erinnern an eine namhafte deutsche SciFi Serie - ganz am Anfang begab es sich, das man fremde Wesen traf, die von einem Computer regiert wurden und sich bis auf Ausnahmen darin gefielen, sich zur Ruhigstellung vor einen Bildschirm zu begeben ... das ist von hier und heute tatsächlich nicht mehr so weit weg.

exponentiell?

exponentiell? Die Erfolge der KI sind stark an die Rechen-/Speicherleistung gekbunden - und die wächst nur noch langsam. Sie reicht jetzt nur für einige einfache Aufgaben in der Praxis aus.

Schach als Erfolg anzusehen, ist sehr naiv. Das lässt sich gutvlösen, indem man viel Rechenleistung hat. Wenn mir jeman eine KI zeigt, die TicTacToe spielt und erkennt warum es ein doofes Spiel ist, es aber trotzdem gerne als Beispiel für eine bestimmte Klasse von Spielen benutzt wird, bin ich beunruhigt und beeindruckt.

Die KI wird er für seine Gewächshäuser brauchen. Als Astronaut wäre es mir lieber, wenn auf dem Mars bereits eine minimale Infrastruktur steht. Auf die KI für autonome PKWs kann man gut verzichten.

Wenn Staaten von KI regiert würden ...

würden Bestechung und Korruption durch Ratio ersetzt.
Ich kann mir Schlimmeres vorstellen.

um 07:38 von Deeskalator

"sollte Google eine echte KI entwickeln"

Was ist denn eine "echte künstliche Intelligenz"?

Terminator?

Das wird es wohl nicht geben, denn einer KI fehlen essentielle Ding wie ein Überlebensinstinkt und andere Gefühle. Vielleicht mag eine echte KI mit Selbstbewusstsein, und keine einfaches selbstlernende neuronales Netzwerk mit ein paar simplen Lern-Algorythmen, schneller lernen als wir, vielleicht mehr wissen als wir, aber solange sich Instinkte und Gefühle nicht reproduziert werden, die sich in biologischen Organismen über Millionen von Jahren entwickelt haben, so lange braucht man vor einer KI keine Angst zu haben.

Wer es selbst austesten möchte, kann sich selber neuronale Netze aufbauen, die Bibliotheken gibt es schon seit Jahrzehnten für jedes bessere Framework. Er wird feststellen, dass nicht das "Gehirn" das Problem ist, sondern die Erfassung und Verarbeitung der Informationen, die nicht mal im Ansatz an biologische System heran reicht. Das was uns heute als KI verkauft wird ist lächerlich. Ein bisschen Sprachanalyse mit Datenbanksuche und fertig ist Cortana oder Siri oder ...

Elon Musk hat zweifellos Visionen

und er kann Leute begeistern.
KI in Kampfrobotern kann ich mir auch vorstellen.
Auch seinen Flug zum Mars halte ich für wahrscheinlich.
Er hat geniale handgefertigt Autos im Angebot.
TESLA Model 3 wird seiner Firma das Genick brechen. Zwischen Handfertigung und Massenproduktion liegt ein himmelweiter Unterschied.
Da hilft auch eine kleine Automatisierung-Firma aus Deutschland nicht weiter.
Die große Pleite kommt.

KI - der Spiegel in den wir nicht blicken sollen

Wir wissen nicht, was weiter weg ist, als das, was wir
beobachten können. Wir wissen nicht, was kleiner ist als
Quarks / Elementarteilchen. Wir wissen so wenig und sind
gerade dabei, mit künstlicher Intelligenz eine Technologie
auf den Weg zu bringen, die uns einmal mehr unsere
Beschränktheit vor Augen führen wird.

Ist die KI erstmal intelligenter als wir, werden wir von ihr
sicherlich mit allen irrationalen Eigenheiten menschlichen
Handelns konfrontiert: Unsere ungesunde Lebensweise,
verschiedene Glaubenskonzepte, gegenseitiges Töten
versus Bevölkerungsexplosion; das kapitalistische Prinzip
des unendlichen Wachstums. Etc.

Musk sieht KI als Gefahr. Weil sie - wenn mit genug
Kompetenzen ausgestattet - erstmal gegen die
menschliche Unvollkommenheit agieren würde.

Logisch.

Die Militärs auf allen Seiten arbeiten schon lange daran

und es wird irgendwann nur noch autonome Waffen geben. Wer kontrolliert diese, wenn die selbe Intelligenz auf die Idee kommt, das Menschen minderwertig/nicht intelligent sind?

Die Gefahr besteht

in der Kombination aus Atomwaffen und KI.
KI berechnet den Verlust-Kosten-Nutzen-Effekt. Und danach wird entschieden. Menschlichkeit, Mitgefühl bleiben außen vor. Jedoch auch Grausamkeit und Gier würden nicht ins Gewicht fallen.

Zuerst ein Kreuzchen, dann Navi nun KI

Dass das Fussvolk nichts kann, nichts weiss und auch bewirtschaftet werden muss, wussten Politiker schon immer. Sie fanden alle 4 Jahre ein Kreuzchen geügt, dann kam das Marketing, das Navi das dem Volk den Weg weisst und nun muss man zu seinem Glück sich nur noch KI unterwerfen, um überleben zu dürfen. An den Handy's wird schon fleissig die Kommunikation mit dem Gut-System geübt, um Gut-Mensch zu werden.

KI

Herr Musk hat wohl nicht ganz Unrecht.
Ich glaube zwar nicht an ein Szenario wie in den Terminatorfilmen, aber eine Welt, in der wichtige Entscheidungen von Maschinen getroffen (und verantwortet) werden, mag ich mir nicht vorstellen. Insbesondere für Entscheidungen, die menschliche Schicksale betreffen (Personalentscheidungen, politische Entscheidungen, medizinische Entscheidungen, u.v.m.) braucht man nicht nur Intelligenz, sondern auch (Verantwortungs-) Bewusstsein und möglichst ein Gewissen.

Eine Welt auf Zahlen gebaut

Ach, sehr vieles wird sich bald als nicht zukuntfweisend erweisen, woran man heute noch grosse Hoffnungen knüpft. Und viele Pleiten wird es geben unter allen möglichen Firmen. Die KI sollte man übrigens umbennen: KD, Künstliche Dummheit. Was kann im Leben schon sinnvoll sein, wenn es nur um Zahlen (oder Bits) geht. Unsere Gesellschaftsordnung ist auf Zahlen aufgebaut und es wird immer schlimmer mit der Lebensqualität . TATSACHE.

Die wirklichen Werte werden ein Comeback feiern.

Einsatz von Computerwisschenschaften im menschlichen Kontext

Das Problem mit der KI hat ein Freund, der damit arbeitet, so beschrieben:

Damit werden Realitäten erschaffen, die es gar nicht gibt. Aus vorgelernten Mustern. Und die sind zudem noch beeinflussbar, weil man sie zunächst mit Daten fütern muss. Wer wählt diese aus? Bilden die wirklich eine Gesamtheit ab?

Wenn KI z.B. von Versicherungen oder gar Krankenkassen angewandt wird. Da steckt die Gefahr.

Es ist schon schlimm genug, dass in der Pflege ein kybernetisches Modell angewandt wird, bei dem der Patient nur noch ein System ist, dem bei Zufuhr von vordefiniertem Input X (20 Minuten Reinigung) der gewünschte Output Y (keimfreie Sauberkeit) vorausgesetzt wird, ohne jeglichen Ansatz von Individualität des Pfelgenden oder des zu Pflegenden.

Nick Bostrom

Herr Bostrom hat ein interessantes Buch geschrieben: "Superintelligence". Er beschreibt sehr plausibel verschiedene Szenarien einer Singularität, d.h. dem Punkt, an dem die KI uns überholt und uns binnen Sekunden uneinholbar voraus ist. In keinem dieser Szenarien kommen wir gut weg - was aber auch daran liegt, dass man sich im Moment wenig Gedanken darüber macht wie man mit so einer KI umgehen soll. Auch sind das ja Projekte die in abgeschirmten Forschungslabors passieren, fernab jeder Öffentlichkeit. Die Kontrolle liegt bei wenigen, dem Kapital verschriebenen Personen. Das allein sollte einen schon sorgen.

Nebelkerze

Anscheinend zu viel Science Fiction geschaut. Schach hat absolut nichts mit KI zu tun, sondern mit klar definierten Algorithmen und der Möglichkeit von Computern mehr Spielzüge vorauszuberechnen, als ein Mensch jemals könnte. Wenn Elon Musk vor KI warnt, ist das ungefähr so, als ob Herr Zuse in den 40'er Jahren vor Hochleistungsrechnern warnt, die den weltweit erzeugten Strom verbrauchen würden. Er sagt weiterhin, seine beiden Unternehmen seien gerettet. Das ist falsch. Tesla hat z.B. bis heute noch keinen einzigen Cent Gewinn gemacht. Ich rechne jedenfalls jederzeit mit der Insolvenz von Tesla. Das Unternehmen SpaceX ist die gleiche Nebelkerze. Viel heiße Luft, sonst nichts.

KI mit Metaphysische Verständnis?

Eine KI mit Selbstbewusstsein? Nicht leicht vorstellbar. Aber eine KI mit einem Instinkt und Verständnis für das Metaphysische ???Noch weniger vorstellbar.

@Herr Musk hat wohl nicht ganz Unrecht. 8:96 von Specht

Mehr als das. Und das, da ich ihm diese Einsicht garnicht zugetraut hätte.

Das Problem liegt bei der Erschaffung von Pseudoevidenzen,
die massenweise von der KI produziert werden.
Die heutige KI, und das wird wohl noch einige Jahrzehnte so sein,
kann nicht zwischen seltenen Zufallereignissen und 'Realität' unterscheiden.

Trotzdem delegieren wir schon wesentliche Entscheidungen,
die uns dann real betreffen, auf diese unfertigen Konstrukte.

Weils halt billiger ist oder profitabler, und sägen uns den eigenen Ast ab.

Google?

Wer rum posaunt, die Welt immer besser machen zu wollen, aber Milliarden ALLEN raubt. Genau wissend einen Pflichtbeitrag zu z.B. Polizisten und Ärzten BEZAHLEN zu müssen.
Der hat bei mir hohes Misstrauen. Es riecht nach "Welt leuchtend machen, jedes Atom ist PERFEKT" labern, aber Weltherrschaft zu intendieren.
Mal sehen, in ein paar Jahren.
Die Widerstandsfähigkeiten, auch nur im Denken, zu vieler Menschen ist ein Desaster!

@ 09:22 von Heißer Schnee

Tesla hat z.B. bis heute noch keinen einzigen Cent Gewinn gemacht. Ich rechne jedenfalls jederzeit mit der Insolvenz von Tesla. Das Unternehmen SpaceX ist die gleiche Nebelkerze. Viel heiße Luft, sonst nichts.

Gerade in Deutschland wird Tesla stark sanktioniert. Seitdem gesetzlich vorgeschrieben ist, dass Ladesäulen für alle E-Autos nutzbar sein müssen werden von Tesla keine neuen Standorte in Deutschland mehr gebaut. Im restlichen Europa aber schon.

Es ist auch kein Wunder, dass Tesla bei Fahrzeugen bis jetzt noch keinen Gewinn gemacht hat. Der Aufbau weltweiter Ladestationen und natürlich auch die Infrastruktur für die Massenproduktion kostet eben viel Geld.

Deutsche Premiumhersteller dagegen haben beschlossen lieber mit dem Verbrenner zu betrügen und auf den Staat zu warten.
Das ist natürlich viel zukunftssicherer und vernünftiger.

Wo genau sehen sie die Probleme bei SpaceX? Die subventionierte Ariane wird gebucht weil europäische Raumfahrtprojekte dazu verpflichtet sind.

@ rumpelstielz 8:17

Strebe steht's Zufriedenheit an und das Glück wird Dich oft besuchen. Es wird stark sein.
Schau, dass Du andere behandelts wie Du es selbst in vergleichbaren Situation willst.
Und wenn Du sogar aktiv gutes tun willst, auch da sorge Dich um alle zu denen auch Du gehörst.
Du gehörst NICHT deinen Eltern.
--
Ich weiß, fehlt nur noch amen, bei dem Duktus.
Ich meine das nicht an Sie persönlich. Sondern an alle, auch an mich.
Die Menschheit fängt wieder an durch zu drehen.
Beim Film würde man sagen, "Psycho-Krieg, take 3 die 91te? 138te?"
Lisa Eckhart ist suuuper. Gestern im ÖR

Schach = KI?

Ich habe hier von einigen Foristen gelesen, dass man das Loesen von Schach und KI nicht gleichsetzen kann, da der Computer alle moeglichen Stellungen durchlaeuft.
Das stimmt aber nicht.
Das beste Beispiel ist AlphaGo welches den Go Meister Lee Sedol klar besiegt hat. Go hat mehr Stellungen als es Atome im Universum gibt. Selbst Hochleistungsrechner braeuchten Milliarden von Jahren um ein Spiel auf diese Art und Weise zu loesen.
KI ist in der Lage, gute Heuristiken zu finden. AlphaGo hat Zuege gemacht die von Kommentatoren als kreativ eingeschaetzt wurden. Solche Heuristiken sind auch die Dinge die wir gerne Gefuehle und Intuition nennen, aber nichts anderes als unterschwelliges Wissen ist welches schlecht verbalisiert werden kann.
Zwischen KI und 'echter' Intelligenz wird es in ein paar Jahren keinen Unterschied geben.

@Nebelkerze 9:22 von Heißer Schnee

Ich denke, den verbreiten eher Sie u.a mit diesem Satz samt ihren Fehlschlüssen
"Schach hat absolut nichts mit KI zu tun"

Aber sicher doch. Das waren die ersten 'KI's', die es gab.
Mit zwar sehr begrenzten Aufgaben, dafür umso interessanter.
Ich selbst habe bereits 1996 mit einem Schachprogramm bei der WM in Jakarta teilgenommen (Mittelfeld).
Im Unterschied zu den meisten Programmierern dort,
war ich auch einer der wenigen Schachspieler mit ELO-Zahl.

Und was Algorithmen angeht, so klar sind die heutzutage meist eben nicht definiert.
Das ist ja gerade das, was Musk kritisiert.

@ thumus

Wo bitte ist beim "Ich-Bewusstsein" die metphysische Ebene?
Wer hier noch ne Zeit bleibt, sagen wir grob 40 ist, wird "Data's" erleben, die etwas nicht wollen.
Schauen Sie sich Star Trek (Picard) "Wem gehört Data?" an, die an Unis Diskussionsgrundlage ist um Roboterrechts-Grundlagen zu diskutieren.
Exzellent!
Wer da nicht ins grübeln kommt...
Die nächste Kopernikanische Kränkung steht der Menschheit bevor, wens halt kränkt als Individuum.
Das "Ich Bewusstsein" ist nichts göttliches!!
Auch nicht wirr transzendent!

In

den normalen Bereichen der Gesellschatft+Wirtschaft könnte KI ein großer Problemlöser sein.
Ich entsinne mich aber auch eines Bundeswehrlehrfilm der Antipersonenminen mit Sensoren für Wärme vorstellte, diese Minen sprangen die Wärmequelle an.
Das war vor 20 Jahren.
Wir können gar nicht abschätzen, wie sich die Kampfführung revolutionieren wird mithilfe dieser Technik. Gut finde ich das nicht, dies wird mehr Menschen zum Verhängnis als ein Atombedrohung, die ihre Macht nur aus der Abschreckung entfaltet.
Solche KI Waffen würden überall eingesetzt werden, da darf man sich nichts vormachen.
Der Mensch kann dem letztlich standhalten, aber um welchen Preis ?
Allerdings ist Regulierung schon nicht mehr möglich, denn die Technologie setzt sich durch - irgendwo auf der Welt.
Die Anderen ziehen nach.

künstliche Intelligenz

Vielleicht müssten wir erst einmal entscheiden was wir überhaupt unter künstlicher Intelligenz verstehen wollen.

Mir ist es schon zuviel wenn ein Programm entscheidet welche Werbung ich mir ansehen soll.
Schwieriger wird es dann wenn der Computer entscheidet ob ich online auf Rechnung kaufen darf.
Ob das dann schon "KI" oder nur ein "Allgorithmus" ist ändert für mich dann auch nichts.

Aber die Entscheidungen, die wir Maschinen überlassen werden immer mehr.
Autonomes Fahren gehört z. B. dazu. Oder glaubt hier ernsthaft Jemand, dass die Unternehmen sich nicht die Kosten für einen Fahrer sparen wenn das möglich wird?
Dann sind in kurzer Zeit hunderttausende Bus-, LKW- und Taxifahrer arbeitslos. Und wahrscheinlich auch die meissten Zugführer.

Auch wenn das nicht die Übernahme der Welt durch Computer bedeutet ist es eine riesige Veränderung.

Am 12. März 2018 um 07:38 von Deeskalator

"und sollte Google eine echte KI entwickeln würden sie damit alles andere als verantwortungsvoll umgehen."

Ich fürchte mehr das Militär und die Geheimdienste.

Am 12. März 2018 um 08:01 von kurtimwald

"In Konsequenz wünsche ich, das niemals einem VW- Produkt die Freigabe für autonome PKW oder LKW erteilt wird."

Nur bei VW? Die anderen waren einfach keine Gefahr für die US-Fahrzeughersteller. Getrickst wurde bei allen, auch bei den US-Herstellern.

Am 12. März 2018 um 10:10 von silverbeard

"Autonomes Fahren gehört z. B. dazu. Oder glaubt hier ernsthaft Jemand, dass die Unternehmen sich nicht die Kosten für einen Fahrer sparen wenn das möglich wird?
Dann sind in kurzer Zeit hunderttausende Bus-, LKW- und Taxifahrer arbeitslos. Und wahrscheinlich auch die meissten Zugführer."

Natürlich untereinander vernetzt und von außen angreifbar/manipulierbar. Eine unangenehme Vorstellung, wenn ich mir vorstelle, was Stuxnet schon angestellt hat.

Warum Musk Angst hat ...

... wird aus dem TS-Beitrag m.E. nicht hinreichend klar.

Musks Angst resultiert wohl nicht daraus, dass ein Computer "innerhalb weniger Stunden" Schach spielen lernt. Und dass er (bisher ?) besser Schach spielt und (jeden ?) Großmeister schlägt.

Sondern daraus, dass nicht nachvollziebar ist, WARUM das KI-Schach"programm" bestimmte Züge macht. Und nicht prognostizierbar, welche Züge es unter anderen Randbedingungen machen würde.

Das war bei "herkömmlichen" Programmien anders. Da konnte ein Programmierer noch (mit einigem Aufwand) anhand des Quellcodes verstehen, warum das Programm einen bestimmten Zug macht.

Es ist daher wohl die (bisher?) fehlende Nachvollziehbarkeit eines KI-"Programms", die Musk Angst haben lässt. Und mich auch.

Es mag ja noch angehen, dass KI-"Programme" Autos "autonom" lenken - evtl. Schäden sind begrenzt.

Aber wenn KI-gesteuerte Cyber-Krieger auf Menschen losgelassen würden - dann weiß niemand, was passiert.

Ist das auch seine Einschätzung

über die KI in selbstfahrenden Autos, speziell auch dem Tesla, die bereits Leben gekostet haben?

das mit den anderen sind Verschwörungstheorien ...

an @bayerndödel:

das mit den anderen sind Verschwörungstheorien, bei VW ist die Schuld bewiesen.

Mir erschließt sich nicht der

Mir erschließt sich nicht der Sinn dieser Meldung. Tusk trägt Cowboystiefel, hört unter Managern von börsennotierten Unternehmen eher unbeliebte Musik, war mit zwei Unternehmen fast pleite, dann aber doch nicht, und hat Angst vor Künstlicher Intelligenz.

Was will uns der Journalist damit sagen?

Darstellung: