Geoffrey Hinton gilt als Pionier bei der Forschung zu Künstlicher Intelligenz. Bis zuletzt arbeitete er für den Google-Konzern. Dort hat er nun aufgehört - um vor "ernsten Risiken für Gesellschaft und Menschheit" zu warnen.
"Die KI-Programme seien "derzeit noch nicht intelligenter als wir, soweit ich das beurteilen kann. Aber sie könnten es bald sein."
Intelligenz wuerde ich das nicht, jedenfalls nicht so apriori, nennen. Schlussfolgerndes Handeln vielleicht? Allerdings sind die Wege (also die Entscheidungsfindungen) der KI aehnlich unergruendlich wie die Wege Gottes. Mag sein, das man das deswegen intelligent nennen koennte. Zudem ist Intelligenz ja kein Masstab oder Garant fuer evolutionaer vorteilhaftes Verhalten (welches m.M.n. sozial ist). Sherlock Holmes und Moriarty ... zwei Seiten der Intelligenz. Also was erwartet uns mit der KI? Ein Geist ala Professor Moriarty? Manche denken, die KI spiegelt (aufgrund der Datenherkunft) menschliches Verhalten und Entscheiden wieder. Au weia dann. Aber andererseits - wird die KI intelligent, dann koennte das wie ein Kontakt zu einer anderen intelligenten Spezies ausm All werden. Bereichernd? Korrigierend? Oder ausrottend?
Zudem ist Intelligenz ja kein Masstab oder Garant fuer evolutionaer vorteilhaftes Verhalten (welches m.M.n. sozial ist).
Nein, auch nicht. a
Könnten Sie Ihr "Nein" bitte begründen? Ich denke, ohne ein Mindestmaß an sozialer Intelligenz, kann keine Gesellschaft lange überleben.
Intelligenz möchte von vornherein schon schauen, wie sie sich einen Vorteil auf Dauer (von wegen Evolution z.B.) verschafft. Wir sollten uns mehr mit der Intelligenzforschung von Anbeginn beschäftigen, also mit Forschern wie der hier erwähnte Geoffrey Hinton, aber schon früher ansetzen, Forscher wie Jean Piaget (lesenswert: "Nachahmung, Spiel und Traum", schon 1959 veröffentlicht, oder seine Arbeiten zur Entwicklung von Moral beim Kinde) und andere haben bereits sehr viel Vorarbeit geleistet.
@da: "wird die KI intelligent, dann koennte das wie ein Kontakt zu einer anderen intelligenten Spezies ausm All werden."
Schon mal daran gedacht, dass es
a) gar keine 'andere' Intelligenz innerhalb von Hunderten Lichtjahren gibt
b) diese mit uns 'Heuschrecken' gar nicht reden will
und c) die wissen, dass wir uns selbst vernichten werden, wenn wir so weitermachen
wie es offensichtlich all die 99,9% anderen Intelligenzen bereits getan haben.
Ihren letzten Satz verstehe ich nicht ganz. Ansonsten bin ich der Ansicht, dass alles, was sich da draußen im riesigen All befindet, weit außerhalb unseres höchst beschränkten Vorstellungsvermögens befindet. Kurz: Der Mensch ist garantiert nicht die Krone der Schöpfung.
Kurz: Der Mensch ist garantiert nicht die Krone der Schöpfung.
Die Krone der Schöpfung ist der Elefant. Eines der ganz wenigen Lebewesen auf Erden mit Eigenbewusstsein (Spiegel-Test). Matriarchalischer Familienverband mit sehr hoher Sozialkompetenz. Herausragend gutes Gedächtnis und Familientradition.
Elefanten brauchen keine KI, sie wissen auch so Bescheid, wo der Weg sie hinführen soll.
"Früherer Google-Entwickler warnt vor Risiken Künstlicher Intelligenz"
Eins steht jedenfalls fest: Der Mann weiß, wovon er redet.
"Früherer Google-Entwickler?
Also diese Menschen die die Möglichkeiten geschaffen haben diese "KI"s zu entwickeln. So wie etwa Otto Hahn mit seiner Kernspaltung.
"So wie etwa Otto Hahn mit seiner Kernspaltung."
Nur mal so am Rande: Es war Lise Meitner, die die Versuchsergebnisse richtig zu interpretieren wusste.
Man kann jede neue Entdeckung missbrauchen und deshalb wird dies auch in Zukunft immer geschehen. So sind wir Menschen eben.
Ja, er hat schon vorher seinen Arbeitsplatz aufgegeben, bevor ihm die K.I. den Arbeitsplatz wegnimmt.
@Ne: Ja, er hat schon vorher seinen Arbeitsplatz aufgegeben, bevor ihm die K.I. den Arbeitsplatz wegnimmt.
Nein, bevor ihm die Firma, die mal mit 'don't be evil' anfing, ihm den Job kündigt, weil er diesen Grundsatz dummerweise ernstnahm ;-)
https://www.faz.net/aktuell/wirtschaft/digitec/google-schafft-inoffizie…
Noch Fragen?
Warum sollte KI einem 75 Jahre alten Psychologen die Arbeit wegnehmen? Der Psychologe kann sich besser wehren gegen Intelligenz als die KI. Einfach der den Stöpsel ziehen, dann weiß die nicht mehr nichts, es sei denn sie hat noch Batterie für den Moment. Nein, wirklich, die Intelligenz ist immer noch unser, des Menschen Terrain.
die Entwicklung der KI lässt sich nicht mehr aufhalten. E
Umso wichtiger, dass sie nach demokratischen Prinzipien in diesen genügende allgemeinverbindliche 'Leitplanken' geleitet wird. Und das 'unverzüglich'.
>> Umso wichtiger, dass sie nach demokratischen
>> Prinzipien in diesen genügende allgemeinverbindliche
>> 'Leitplanken' geleitet wird
Hää??? oO
Was hat denn jetzt eine KI mit "demokratischen Prinzipien" zu tun?
P.S.: Eine KI, welche von "demokratischen Prinzipien [...] geleitet wird", würde sofort die USA und UK ausschalten? -.-
Es gibt die schlaue und die weniger schlaue KI. Erstere würde nicht so schnell handeln, wie Sie denken, noch nicht. Wir können sie jederzeit stoppen. Schließlich sind wir sogar so intelligent, dass wir wissen, wie man eine Kettenreaktion anhält, entweder mit Steuerstäben zwischen die Brennstäbe fahren, damit sie die Neutronen abfangen, oder wenn wir es eilig haben, einfach die rote Notabschaltung drücken. In Sekunden ists aus (wenn nicht dumm gelaufen). Von daher, KI ist an sich leicht beherrschbar (normalerweise).
>> Es gibt die schlaue und die weniger schlaue KI
Richtig!
Es gibt starke KIs (Allrounder), welche es aber so erstmal noch nicht gibt.
Und es gibt schwache KIs (Einzig&Allein für eine Aufgabe konzipiert), derzeit aber technologisch schon möglich
ABER was passiert, wenn diese schwachen KIs im Netz aufeinandertreffen?
KIs sind ungefähr wie 5jährige Jungs, d.h. diese fangen an, entweder miteinander zu spielen oder diese fangen mit raufen an. -.-
Und die Menschheit wäre dann halt der Fußball dazwischen. oO
Nein, wären sie nicht. Diese Vorstellung ist naiv oder bloß ausgedacht, weil sie eine gewisse Prägung bzw. Vorurteile oder Ängste bedienen kann. KI kann von uns in den Hintern getreten werden, bevor sie bis drei gezählt hat, wenn es darauf ankommt.
P.S.: Eine KI, welche von "demokratischen Prinzipien [...] geleitet wird", würde sofort die USA und UK ausschalten? -.-
So ein Blödsinn. Sie würde zuerst Wladimir nach Den Haag vor den Internationalen Strafgerichtshof schleifen, Mr. Xi Mores lehren, Kim Jong Un mit einer Rakete auf den Mond schießen, und mind. drei Dutzend weitere Despoten dieser Welt despotie-unfähig machen.
Ja, solange die Menschen nicht gescheit werden, läßt sich K.I. nicht mehr aufhalten.
KI wird zu einem Popanz, was die Gefahr birgt, dass man sie unterschätzt und herunterspielt oder einfach abwiegelt und von Panikmache ausgeht. Was uns erwartet, weiß man doch gar nicht. Wo Hypothesen wie Beweise gehandelt werden und Pro oder Kontra emotional und inflationär verwurstet werden, wird keine ernsthafte Diskussion entstehen. Von Streit über ungelegte Eier bis hin zu Wahnvorstellungen und Idioten, sind solche Versuche um Kritik und Vorsicht schon gefallen. Man kann sich nur an den Kopf fassen. Passt aber in der Art und Weise in den Alarm-Modus, den wir überall anschlagen. Wer als Fachmann zu dem Thema was sagen kann und will, soll es sachlich angehen. Und das sollte auch medial so weiter getragen werden. Denn KI existiert in medizinischen und wissenschaflichen Einrichtungen genauso wie in unseren moderen Fortbewegungsmitteln und anderen Gebieten. Verteufeln wir also nicht pauschal, sondern sehen uns das Thema detailliert an und loten aus, was KI gefährlich machen könnte.
Wer als Fachmann zu dem Thema was sagen kann und will, soll es sachlich angehen.
Geoffrey Hinton waere so ein Fachman. Wie und was er sagt, koennen wir uns allerdings nicht aussuchen oder ihm vorschreiben.
"ernsten Risiken für Gesellschaft und Menschheit"
Ich glaube das wie immer nich die Technik das Problem ist sonder der Mensch.
Bisher haben viel neuen Techniken Angst gemacht. Besonders bei den Firmen die von den jetzigen System finaziell provitieren.
Aber wenn sie gut und verantwortungsvoll von unserem Demokratien eingestetzt werden ist immer viel gutes entstanden und wir können diese zum wohle der menschen nutzen.
Ich hoffe da besonders auf autonomes fahren beim PKW.
@ we: Ich hoffe da besonders auf autonomes fahren beim PKW.
Bevor autonomes Fahren jemals einigermassen im Griff der Technik ist, ist längst 'autonomes' Schiessen weltweit im Einsatz, fürchte ich.
Das schiesen ist schon da.
"Aber wenn sie gut und verantwortungsvoll von unserem Demokratien eingestetzt werden ist immer viel gutes entstanden und wir können diese zum wohle der menschen nutzen."
Was Menschen mit klaren Feindbildern für "gut" halten, ist mit hoher Wahrscheinlichkeit schlecht für andere. Eine KI, die die Welt so komplex wahrnimmt, wie sie tatsächlich ist, würde womöglich in ihrem Entwickler nicht das Gute, sondern die Ursache zahlreicher Probleme sehen.
"Ich hoffe da besonders auf autonomes fahren beim PKW."
Das wäre eine von vielen sinnvollen Einsatzmöglichkeiten, die allerdings nichts mit Demokratie zu tun hat. Ein demokratisches Auto würde jede Möglichkeit per Volksentscheid abstimmen lassen.
Die KI-Systeme selbst verfügen letzten Endes über keinerlei Intelligenz. Denn sie können nur 'funktionieren'.
Das war bei der biologischen Evolution nicht anders. Ab einer bestimmten Komplexität des Gehirns entstand Intelligenz und Bewustsein. Warum sollte sich das nicht wiederholen?
Weil der Mensch keine Maschine ist?
Lebewesen haben alle Attribute einer Maschine. Sie bnötigen Energie, um zu funktionieren, sie unterliegen dem Verschleiß und haben eine begrenzte Lebensdauer, zumindest höhere Lebensformen. Der Mensch unterscheidet sich von einem Mehrzeller, aus dem er sich entwickelt hat nur auf Grund seiner Komplexität. Das Bewustsein hat sich evolutionär entwickelt, nur wenn Sie an eine Seele glauben, ist nicht zu erwarten, dass KI dem Menschen ebenbürdig werden kann.
Das haengt von der Interpretation ab und haengt davon ab, wie wir "Intelligenz" und "Funktionieren" definieren.
Wenn wir Intelligenz als die Faehigkeit definieren, zu lernen, zu schlussfolgern, Probleme zu laesen und sich neuen Situationen anzupassen, dann kann argumentiert werden, dass einige KI-Systeme eine Form von Intelligenz besitzen. Zum Beispiel koennen Machine-Learning-Algorithmen trainiert werden, um Muster zu erkennen und Vorhersagen auf Basis von Daten zu treffen.
Wenn wir jedoch Intelligenz als menschenaehnliches Bewusstsein oder Selbstbewusstsein definieren, dann stimmt es, dass KI-Systeme solche Qualitaeten nicht besitzen.
"Noch" nicht besitzen. Biologische Lebensformen haben diese von Ihnen definierte Intelligenz auch erst nach einer Millarde Jahren Entwicklung erlangt. Da hat KI noch viel Zeit.
Nein, die KI wird nicht intelligenter als Menschen sein aber bald mehr Intelligenz aufweisen als für 99% aller menschlichen Tätigkeiten nötig ist.
Viele Berufe und Jobs werden durch KI überflüssig. In den USA wird bereits KI für den Wetterbericht im Fernsehen eingesetzt und es gibt auch Versuche für einen breiteren Einsatz von KI in den Medien.
Wie begründen Sie die Aussage aus Ihrem ersten Satz. Oder können Sie es sich nur einfach nicht vorstellen?
KI kann niemals intelligenter als ihre Erbauer oder Programmierer sein.
Wie sollte denn das auch gehen?
Klar, wenn Sie ein Kind zeugen kann dieses Kind intelligenter als Sie selbst sein.
Aber wie soll das Bitteschön bei einer von Ihnen erstellten Maschine funktionieren ?
Dazu braucht es lediglich eine ausreichende Kapazität an Rechenleistung (analog zu unserem Gehirn) sowie eine selbstlernende KI. Schauen Sie in die Natur, je komplexer das Gehirn und je länger die Kinheitsphase eier Spezies, desto höher die Intelligenz.
@Pe: Dazu braucht es lediglich eine ausreichende Kapazität an Rechenleistung
Nicht Stand der Wissenschaft.
a) Natur: selsbt manche Spezies mit kleinerem Gehirn können intelligenter sein als solche mit grösserem
- Rabe vs Nashorn
b) es ist eine Frage der Heuristiken. Wenn die falsch ist, ist es das Ergebnis auch
- b.a.w wird die Heuristik vom Menschen vorgegeben . Selbst denken Fehlanzeige
c) Manche Probleme sind in keiner Rechenzeit der Welt mathematisch korrekt lösbar
- Beispiel Schachbrett hat nur 64 Felder und das reicht schon um nicht alle Varianten berechnen zu können
Schlussfolgerung: Wir könnenuns nicht auf Maschinen rausreden..
Sie haben schon Recht, nur die Größe des Gehirns ist nicht entscheidend, es spielen noch andere Faktoren eine Rolle (Oberfläche, Synapsendichte,...) Was ich sagen wollte ist, dass auch der Mensch sich aus einem Einzeller entwickelt hat und im Laufe der Evolution Bewusstsein bekommen hat. Warum sollte sich das nicht wiederholen können?
Können Sie beschreiben was das Bewusstsein ausmacht ? Wie „macht“ man das ? Sie können es nicht, niemand kann das!
Angenommen, ich möchte bei der DFG zwei Millionen Euro für die Konstruktion eines „künstlichen Bewusstseins“ beantragen, was sollte ich als Plan in den Antrag schreiben ?
Uns ist es bisher nicht mal gelungen „Leben“ zu erschaffen, und Sie kommen gleich mit künstlichem „Bewusstsein“….
Selbst ihr komplexester Computer bleibt eine Ansammlung von Schaltkreisen. Sie glauben, wenn Sie da nur genügend Intel Chips einbauen ist ihr Gebilde „plötzlich“ eine bewusste Intelligenz ? Und „einen Chip“ weniger noch nicht ? Wie soll denn bitte aus Quantität eine neue Qualität entstehen ?
Oder sind Sie ein verkappter Anhänger der Dialektik Friedrich Engels‘?
Wie konnten aus Amöben intelligente Lebewesen, die sich ihrer bewusst sind (Mensch, Elefant, Delfin, ...) entstehen? Ich weis es nicht, aber im Laufe der Evolution ist es passiert, ohne erschaffen geworden zu sein. Warum ist es nicht denkbar, dass die Entwicklung künstlicher Intelligenz nicht den Weg natürlicher gehen kann?
OK. Wir stellen also eine „Population“ von Workstations hin und warten das die sich vermehren und evolutionär weiterentwickeln ? :-)
Wann entstand das Leben auf der Erde ? Vor ca. 3 Mrd Jahren. Haben wir geschafft das zu reproduzieren ? nein !
Wann entstanden bewusste Organismen auf der Erde ? Vor etwa 300 Millionen Jahren. Wie ? Unbekannt!
Und Sie glauben allen Ernstes an eine „Evolution aus der Retorte“?
Ich glaube gar nichts, Ich weis aber, dass unser derzeitiges Wissen nur ein kleiner Teil unseres künftigen Wissens ist und halte es für möglich, dass KI mit der Zunahme an Komplexität eine ähnliche Entwicklung nehmen kann, wie biologsche Intelligenz.
Selbst eine hoehere Rechenleistung und selbstlernende KI-Algorithmen zu fortschrittlicheren KI-Systemen führen koennen, ist der Vergleich von KI mit dem menschlichen Gehirn vereinfacht und kann irreführend sein.
Das menschliche Gehirn ist unglaublich komplex und arbeitet nach Prinzipien, die von der Wissenschaft immer noch nicht vollstaendig verstanden werden. Waehrend KI-Systeme bestimmte Aspekte der Funktionalitaet des Gehirns simulieren koennen, sind sie immer noch begrenzt in ihrer Faehigkeit, die volle Bandbreite kognitiver Prozesse zu replizieren, die das Gehirn ausfuehren kann.
Das menschliche Gehirn hat eine Entwicklung von fast einer Milliarde Jahre hinter sich. Was wir jetzt KI nennen, hat vielleicht die Komplexität eines Mehrzellers, aber die Entwicklung ist rasant, wenn man die letzten Jahre betrachtet. Ich halte nichts für unmöglich.
Jobs wereden dann in anderen Bereichen mehr gebraucht.
Ich würde mir wirklich wünschen, dass die Journalisten zu diesem sehr viel diskutierten Thema „KI“ deutlich mehr an Hintergrundwissen erwerben und dies auch anwenden, bevor sie einen Artikel oder ein Interview veröffentlichen.
Im Artikel finde ich keine Ansatzpunkte fuer zweifelhaften Journalismus. Er spiegelt die momentane Debatte im Allgemeinen und im Speziellen und zudem fuer diese Zielguppe gut wieder. Was vermissen Sie oder was ist falsch? Ehrlich gesagt, mehr als Moserei erkenne ich in ihren Beitrag nicht.
Es wäre hilfreicher, wenn Sie Aspekte, die Sie vermissen, ergänzen würden (ggfs. mit Quelle) oder begründet konkret anhand des Artikels die Aspekte kritisieren, mit denen Sie nicht übereinstimmen.
Sie haben beide Recht, ich bitte um Entschuldigung.
Was ich kritisiere ist die generell reißerische Art des Artikels, die einem Angst und Bange vor dieser neuen Technologie macht.
Die Gefahren bestehen definitiv, werden aber nicht genau benannt sondern nur angedeutet, ohne eine Einordnung oder Lösungsansätze zu nennen.
Ich erkenne hier z.B. das Spielen mit der Angst vor Superintelligenz, Desinformation und Entmündigung durch die Maschine, ohne dass es genauer eingeordnet wird.
Zitate:
"Es ist schwierig sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen"
„Künstliche Intelligenz könne die "Sklavenarbeit" überflüssig machen. "Aber sie könnte noch viel mehr wegnehmen."
Ich möchte nicht gegen die KI anreden. Es haben sich schon viele schlaue Leute seit sehr vielen Jahren Gedanken dazu gemacht. Jetzt hier unter dem Eindruck von ChatGPT solch eine Einzelmeinung unkommentiert abzudrucken, halte ich für verantwortungslos
Absurd: der Mensch hat Angst vor einer Maschine die er doch selbst erschaffen hat !
KI ist nur eine Software.
Es erfüllt mich deshalb mit Sorge das Menschen beginnen sich vor Computerprogrammen zu ängstigen.
Der Mensch hat auch die (mich beängstigende) Atombombe erschaffen und dabei selbst deren Einsatz bestimmt. Künftige KI kann die Entscheidung hinsichtlich ihres Einsatzes eventuell selbst treffen. Das fände ich wesentlich beunruhigender.
Sie denken an den Science Fiction Film „War Games“ aus dem Jahr 1983 ?
Ja, dieser Film war visionär!
Tatsächlich hoffe ich das weder Russland noch die USA die Entscheidung über den Einsatz ihrer Nuklearwaffen einer KI überlässt !
Allerdings befürchte ich das dies tatsächlich passieren könnte.
Ich habe mich semantisch unglücklich ausgedrückt. Ich meinte, dass die KI einmal so weit entwickelt sein könnte, dass sie selbstbestimmt handelt. Das fände ich beunruhigender.
"Ich meinte, dass die KI einmal so weit entwickelt sein könnte, dass sie selbstbestimmt handelt. Das fände ich beunruhigender."
Ich denke da an den Roman von Asimov: I, Robot.
Ich bin mir nicht sicher, aber ich glaube dass der Robter sich immer noch an die 3 Gesetze gehalten hat. Selbst das Zentralgehirn hat ja sein Handeln damit begründet, die Menschheit vor sich selbst schützen müssen. Selbstbestimmtes handeln würde vorliegen, wenn sich der Roboter nicht an die Programierung halten müsste, sondern nach seinen eigenen Grundsätzen handeln könnte.
Ja, nur hat sein Handeln (seine Programmierung) dazu geführt, dass er die Menschen nicht mehr so handeln ließ, wie diese es für richtig hielten. Für mich genauso gruselig.
Tatsächlich hoffe ich das weder Russland noch die USA die Entscheidung über den Einsatz ihrer Nuklearwaffen einer KI überlässt !
Die Hoffnung ist wohl leider vergebens, da hat's noch nicht 'mal das "I" in "KI" gebraucht, damit genau das passiert ...
"Allerdings befürchte ich das dies tatsächlich passieren könnte."
Dazu ein Kalenderspruch: Was möglich ist, kommt vor.
Deshalb ist mir das autonome Fahren trotz aller menschlicher Schwächen und Fehler, die man vermeiden will, suspekter.
Autonomes Fahren wird derzeit von einer KI ausgeführt, die sich an von uns gemachte Regeln hält und kann deshalb nur so gut wie diese sein. Wir sind da noch ganz am Anfang. Wenn das perfektioniert ist, wird es praktisch keine Verehrstoten mehr geben. Wovor aber hier gewarnt wird, das ist eine potentielle künftige KI, die selbst entscheidet, ob sie die Regeln einhalten möchte oder nicht. Das ist mir dann mehr als suspekt.
Ein Mensch verfügt aber gleichzeitig über Sinne, die eine KI oder Technik nie abilden können wird. Dachte ich zumindest bisher.
Wenn das [autonome Fahren] perfektioniert ist, wird es praktisch keine Verehrstoten mehr geben. Wovor aber hier gewarnt wird, das ist eine potentielle künftige KI, die selbst entscheidet, ob sie die Regeln einhalten möchte oder nicht.
Aber diese Warnung bzw. Gefahr könnte sich doch genauso auf die Computertechnik in den Fahrzeugen beziehen. Oder halten Sie diese dsbzl. für sicher?
"KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen", hieß es in einem offenen Brief. "Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind."
Angesichts der Rasanz und der Unberechenbarkeit der Fortschritte in der KI halte ich den letzten Teil dieser Aussage für reines Wunschdenken.
11 Antworten einblenden 11 Antworten ausblenden
reines Wunschdenken?
Aber wenn nicht die guten westlichen demokratien diese beherchen werden es die Aggressoren tun. Davor habe ich viel mehr Sorgen.
Das meint der User doch.
Solange irgenwer die KI beherrscht, haben wir kein Problem. Erst, wenn sie eigenständig wird, wird Sie zur Konkurrenz. Die Frage ist, ob wir diesen Zeitpunkt erkennen.
Nicht nur deshalb rede ich mir hier im Forum regelmäßig den Mund fusselig über die Wichtigkeit von Transparenz.
>> Nicht nur deshalb rede ich mir hier im Forum
>> regelmäßig den Mund fusselig über die
>> Wichtigkeit von Transparenz.
Transparenz wird da nicht viel bringen.
Weil das Ganze von einer einzelnen 'starken KI' ausgeht. ABER was passiert, wenn sich mehrere sog. 'schwache KIs' im Netz treffen (was unweigerlich passieren wird) und voneinander lernen? Ab DA kann dann niemand(!) mehr einschätzen, wie sich das Ganze weiterentwickelt.
Ab genau da wird die ganze Sache komplex! ABER es wird halt nur ein paar Millisekunden dauern. -.-
Habe ich mitgekriegt. War aber sehr abstrakt immer und oft verzettelt (hier ne Klammer, da ne Klammer, dazwischen Einschub 1 und 2 usw. und ein bzw. dahinter. Kommt nicht jeder drauf, was Sie haben sagen wollen. Das ist jetzt aber ein ganz anderer Satz, sogar nur einer. Prima. KI ist von Zuhaus aus gefährlich, ist doch logisch., Dass wir aufpassen müssen auch. Aber den Wettbewerb und das freie Unternehmertum in die Schranken zu verweisen, das wird nicht einfach werden.
"Erst, wenn sie eigenständig wird, wird Sie zur Konkurrenz. Die Frage ist, ob wir diesen Zeitpunkt erkennen."
Es ist dasselbe wie beim Klimawandel. Die Warnungen werden jahrelang ignoriert. Dann kommt die Zeit der großen Versprechen. Und dann ist es zu spät.
Wer weis, vielleicht ist KI einfach nur der nächste Evolutionsschritt?
>> Aber wenn nicht die guten westlichen demokratien
>> diese beherchen werden es die Aggressoren tun.
Sie haben anscheinend das Problem noch nicht einmal ansatzweise verstanden? oO
Es gibt da doch nur 2(!) Möglichkeiten:
1.) die KI hat keine Moral -> die KI agiert absolut SOZIOPATISCH
2.) die KI hat Moral -> nach ca. 20-30ms kommt die KI zu dem Schluß 'Was'n diese Menschheit für'n Shiceverein, Ist DAS Müll oder kann das weg?'
Haben Sie jetzt das von Geoffrey Hinton benannte Problem verstanden??? oO
Sie bringen es auf den Punkt. Letztendlich sind wir alle Opfer des Dunning-Kruger-Effekts. Die einen mehr, die anderen weniger.
"Aber wenn nicht die guten westlichen demokratien diese beherchen werden es die Aggressoren tun."
Sie glauben scheinbar, dass sich eine eigenständige, hochintelligente Technologie von Menschen beherrschen ließe, die ihre Welt noch immer in Gut und Böse einteilen.
In meinen Augen ist das in doppelter Hinsicht naiv.