KI-Experten sehen die Gefahren durch Künstliche Intelligenz für den Menschen ähnlich hoch wie durch Pandemien oder einen Atomkrieg. In nur einem Satz warnen sie davor, die Risiken von KI zu unterschätzen.
KI ist objektiv und neutral. Damit haben viele ein Problem. Vor allem die, die die Macht in Händen halten …
Nö, eben überhaupt nicht, KI hat "kein Gewissen", will heißen, wenn man oft genug Böses wiederholt, dann "glaubt" es die KI und plappert es unberwertet nach.
Kann sein, ich wäre aber nicht so sicher das sich nicht auch eine politische Richtung erzeugen lässt, kommt darauf an was für Daten bereitgestellt werden, man kann das ja auch heute ganz ohne KI beobachten, also kommt es darauf an wer was entwickelt, und welches Land.
Denn es sind ja nicht alle Länder am Ende auf einer Plattform.
Wie soll das gehen, wenn Computer mit ausgewählten bzw. im Internet vorhandenen Daten gefüttert werden? Irgendwo bleibt immer eine Lücke.
Diesen „Bias“ muss aber jemand erstmal vorgeben.
Stellen Sie sich eine KI vor, die auf die digitalisierten Inhalte der Kongressbibliothek zugreifen kann. Die wäre sehr sehr klug und garnicht „voreingenommen“.
Die Gefahr politischer Beeinflussung und Voreingenommenheit sehe ich heute stärker als das in einer KI basierten Medienlandschaft der Fall wäre.
falsch, eine KI ist nicht neutral. der vorläufer von chatGPT musste abgeschaltet werden, da sie sich wohl zuviel auf Telegram rumgetrieben hatte und rechtsradikal und rassistisch wurde. Polizei KIs übernahmen rassistisches profiling von ihren tutoren etc. Es kommt immer auf den input an.
KI ist objektiv und neutral. Damit haben viele ein Problem. Vor allem die, die die Macht in Händen halten …
In westeuropäischen Staaten also die Bevölkerung.
Würde mich nicht wundern, wenn die Überwachung auf "Einhaltung des Guten Tons" hier in der Kommentarfunktion nicht auch durch eine KI erfolgt. Aber dabei handelt es sich ja um "die Gute KI".
das glaube ich nicht, es sei denn an Wochenenden haben politisch anders ausgerichtete KIs Dienst, als in der Woche.
„Und da haben wir nun unsere verbesserte menschliche Welt, auf die wir so viel Zeit und Energie und Arbeit verwendet haben. Wir haben die Flüsse und die Seen verbessert und das Land und unsere Gesellschaft und unsere Lebensweise und sind nun an einem Punkt, wo wir uns fragen, ob die menschliche Rasse überhaupt noch überleben wird.“
(Steve Hagen)
KI ist ein Werkzeug genauso wie Ihr Handy, mehr nicht.
Es handelt sich um keine wissenschaftliche Revolution wie die Spaltung des Atomkerns oder des Zellkerns einer biologischen Zelle …
Es ist ein Tool so wie die Textverarbeitung, mehr nicht.
Es führt bei Einigen zu Unbehagen das KI Texte erstellen kann die „vernünftig“ und „ausgewogen“ und „glaubwürdig“ sind und ohne Manipulation und Polemik auskommen. Es sollte uns deshalb beunruhigen das dies zu Unbehagen führt. KI wird die Medien revolutionieren …
Heute nacht läuft die Sendung Shift, in der es um folgende Themen geht:
- mit künstlicher Intelligenz Waldbrände verhindern
- intelligente Ausrüstung für die Feuerwehr
- kann künstliche Intelligenz besser vor Unwettern warnen?
Das scheint einer der hilfreichen und weniger dramatischen Aspekte dieser Technik zu sein.
Danke für den Tipp (übrigens auch für Ihre Unterstützung bei der Diskussion über das unsägliche Gesetz in Uganda heute morgen, ich war da leider zu langsam).
Alles, was hilft, die Diskussion zu versachlichen dient einer konstruktiven solchen. Die ist offensichtlich dringend nötig.
Wird sich wie das Internet nicht aufhalten lassen. KI wird gigantische Wirkung entfalten, insbesondere Forschung/Medizin, Militärtechnik. Selbst in "grünen" Bereichen wie Klimatechnik/Klimakontrolle, gentechnisch veränderte Getreidesorten, die in Dürreregionen überleben können. Natürlich ist es wie bei anderen Technologien so, dass sie zum Falschen verwendet werden wird. Außer Frage steht ebenso, dass unsere Abhängigkeit von Technologie immens wachsen wird. Aber das versteht sich von selber. Könnten wir vier Wochen lang das Internet abschalten, Strom, das Auto stehen lassen?
Europa sollte anfangen auf dem Gebiet tätig zu werden, bislang ist ja weit und breit nichts zu sehen. Worüber unterhalten wir uns hier gleich nochmal? Über die Befeuerung von Heizungen!
Zusatzinfo:
Die National Security Commission on Artificial Intelligence der USA hat einen 756-seitigen offiziellen Bericht zum Thema erstellt.
Link zum pdf gehostet auf heise.de:
https://www.heise.de/downloads/18/4/1/9/3/4/2/9/Full-Report-Digital-1.p…
Haben Sie den komplett gelesen? Gibt es davon eine Zusammenfassung?
Laut Tech-Talk24 hat der OpenAI Gründer Altman dem US-Kongressausschuss folgende Regulierungsmaßnahmen vorgeschlagen:
1. Einrichtung einer KI-Regulierungsbehörde, die Lizenzen erteilt
2. Etablieren von Sicherheitsstandards, die anhand von Sicherheitstests überprüft werden (z.B. ob die KI sich selbst replizieren und in die "freihe Wildbahn exfiltrieren" = sich selbstständig machen könnte)
3. Einrichtung einer Kommission, die KI-Modelle auf verschiedene Metriken hin durch unabhängige externe Experten prüfen lassen soll (bedeutet Zugriff auf interne Daten)
Quelle: Tech-Talk vom 22.05.23 (ARD)
Ich habe frei nicht mit h geschrieben, das war die KI.
Nein, KI ist nicht objektiv, jedenfalls nicht im Sinne von richtig oder falsch. Wenn man ihr oft genug erzählt, dass die Erde eine Scheibe und Nazis gute Menschen sind, wird sie es irgendwann auch als Antwort auf entsprechende Anfragen ausgeben und damit die Weltgeschichte rückwärts drehen.
Nein, KI ist nicht objektiv, jedenfalls nicht im Sinne von richtig oder falsch. Wenn man ihr oft genug erzählt, dass die Erde eine Scheibe und Nazis gute Menschen sind, wird sie es irgendwann auch als Antwort auf entsprechende Anfragen ausgeben und damit die Weltgeschichte rückwärts drehen.
Nein, das sehe ich ganz anders. Solche falschen Aussagen wird auch eine KI sofort als falsch entlarven.
Das sehen Sie falsch. KI ist abhängig von Trainingsdaten. Garbage in, garbage out.
nein, es gibt Gegenbeispiele, Politei KIs mit rassistischem profiling, chatgpt-vorläufer musste abgeschaltet werden, da sie zuviel auf Naziseiten geübt hatte. Wenn chatGPT in die Enge getrieben wird, fängt sie an zu lügen und erfindet falsche zitate etc
„Nein, KI ist nicht objektiv, jedenfalls nicht im Sinne von richtig oder falsch. Wenn man ihr oft genug erzählt, dass die Erde eine Scheibe und Nazis gute Menschen sind, wird sie es irgendwann auch als Antwort auf entsprechende Anfragen ausgeben
und damit die Weltgeschichte rückwärts drehen.“
Sie haben Recht.
Vor dem Urknall gab es eine intelligente Kunst, da ging es vorwärts.
Jetzt ist man schlauer und hat die Künstliche Intelligenz.
Viele Ökonomen glauben der nächste Kondratieff Zyklus werde durch die KI ausgelöst: ein beispielloser Boom der Wirtschaft, ausgelöst durch ein „Feuerwerk“ neuer KI-basierter Erfindungen.
Leider sieht die Realität so aus das die beiden Länder die in der KI-Forschung am weitesten fortgeschritten sind (USA und China) sich belauernd umkreisen wie zwei Raubtiere …
Der Westen versucht durch Sanktionen, unbewiesene Spionage-Vorwürfe und allerlei protektionistische Maßnahmen den aufstrebenden chinesischen Drachen an seinem verdienten Erfolg zu hindern …Leidtragende sind auch die Menschen im Westen die von der preiswerten und innovativen chinesischen Technologie profitieren könnten wenn es ihnen ihre Regierungen nur erlaubten …
Ich stimme ja eigentlich zu, weil ich KI auch als was eher positives sehe. Und wie schon erwähnt, es kommt so oder so so.
Aber so ganz unschuldig ist das Thema ja auch nicht und es lassen sich echt ziemlich üble Dinge denken, die mit Leichtigkeit machbar sein werden.
Gibt es z.B. von Ihnen in den sozialen Medien Fotos oder gar (Urlaubs)videos, wird man in wenigen Jahren (und damit ist einstellig gemeint) aus diesem Material ganz neue Videos machen können. Das Interesse daran vorausgesetzt. Dann könnten Sie z.B. Star in einem Kinderporno sein. Oder in diesem Fall eher Co-Star. Und der würde nicht wie Fake aussehen. Das kann durchaus auch noch unangenehm werden.
Es gibt keine Videos von mir im Netz. Und nur ganz wenige Fotos, die sich nur mit ziemlich erheiterndem (oder ernüchterndem ..) Ergebnis für die von Ihnen skizzierten Deep Fakes eignen würden.
Ich achte sehr auf Datensparsamkeit … weil ich dem Netz nie vertraut habe.
Künstliche Intelligenz ?
War Software Entwickler. Das erste System war CP/M und danach kam der MS-DOS-PC usw. Es wurden in vielen Bereichen Jobs überflüssig. Aber intelligent waren die Kisten nie. Die haben natürlich Vorteile. Rechnen können sie viel schneller als wir und vergessen tuen sie nie. Auch Big Blue. der den Schachweltmeister besiegte war nicht intelligent. Sicherlich die Programmierer. Die Gefahr unsere Ende durch einen Atomkrieg, ist für mich deutlich wahrscheinlicher.
Auch Big Blue. der den Schachweltmeister besiegte war nicht intelligent.
Das sehe ich allerdings völlig anders.
Eine Maschine kann nicht intelligent sein.
Wer nicht programmiert hat, versteht das auch nicht.
War Software Entwickler. Das erste System war CP/M und danach kam der MS-DOS-PC usw.
Da haben Sie aber (auch vor CP/M) schon ziemlich viele interessante Schritte übersprungen.
Ist KI gefährlich?
Ein ehemaliger Studienkollege von mir arbeitet bei einer Firma, die ein System entwickelt und vermarktet, das mit mehreren Kameras ein Schwimmbecken beobachtet und das mit Hilfe von KI "Besonderheiten" feststellt. Wenn sich ein Körper atypisch nicht mehr bewegt und sinkt, dann kann es sich um einen Ertrinkenden handeln und das System schlägt dann sofort Alarm.
Das geht nur mit KI und KI ist auch nicht per se "gefährlich".
Typische Mustererkennumg nach Trainingsbildern, -Videos. Nichts besonderes. Kann ein Bademeister auch ohne Training.
Mit den biometrischen Fotos können die Kisten sogar unsere Gesichter erkennen.
Wer glaubt, KI sei lediglich ein Textprogramm, das von Programmierung abhängig ist, der irrt.
Es wird schon längst daran gearbeitet ,die KI zu befähigen selbständig zu lernen und sich weiterzubilden/entwickeln.
In einer durchdigitalisierten Welt wird es ein Leichtes sein für die KI, die Menschen abzuschalten, weil sie durch eigenen Erkenntnisgewinn, unbeeinflusst durch Menschen, zu dem Urteil kommen muss: die Menschen sind das größte Problem auf diesem Planeten.
Das ist Quatsch. KI hat keinen eigenen Willen.
"Es wird schon längst daran gearbeitet ,die KI zu befähigen selbständig zu lernen und sich weiterzubilden/entwickeln"
Es gibt tatsächlich Schachprogramme, die aus ihren Fehlern lernen. Aber die Kisten sind noch Lichjahre von der Intelligenz des Menschen entfernt. Und das ist auch gut so.
Softwareentwicklung wird sich nicht stoppen lassen. Bildung und Medienkompetenz sind die Antidote.
Und Regulierung.
Ich habe lange in der Softwareentwicklung gearbeitet und ich kann sagen das Bildung und Medienkompetenz die Softwareentwicklung eher beflügeln … :-)
Es geht um den Umgang mit machine learning.
„Machine learning“ basiert auf neuronalen Netzen. Auch die werden programmiert.
Und ganz ehrlich: von den Ergebnissen sind keine Überraschungen zu erwarten … (leider! Seufz !)
Mir kommt das alles so ein bisschen vor wie wenn man einem Menschen im Mittelalter einen modernen Taschenrechner zeigt der in einer Millisekunde die dritte Wurzel aus 5.832 ausrechnet und den man deshalb für ein „Werk des Teufels“ halten würde …
Es ist immer die Frage, in wessen Hände KI gelangt. Hoffen wir darauf, dass sie in humanistischen, friedliebenden Händen bleibt (in habgierigen ist ja schon). Jedenfalls verselbständigen kann sie sich nicht.
KI so gefährlich wie Pandemien oder Atomkrieg
Also dann gar nicht so gefährlich. Gut zu wissen.
Trotz der vielen Mythen und Erzählungen war die Welt nie nahe an einem nuklearen Schlagabtausch und Pandemien sind längst nicht das, was sie mal waren.
Den Entwicklungen in der "KI" sehe ich gelassen entgegen. Ihr negatives sowie positives Potential wird überschätzt.
Tatsächliche Gefahren liegen ganz woanders.
Sind Sie wirklich so blauäugig oder wollten Sie nur mal irgendwas schreiben?
KI wird schon seit Jahrzehnten vom Mitiär genutzt oder wer glauben Sie finanzierte die KI-Forschung? Infantile Naivität nach dem Motto "ich halte mir die Augen zu, dann sieht mich niemand" ist hier fehl am Platz.
Welche militärischen KI Systeme gibt es denn ?
Infantile Naivität nach dem Motto "ich halte mir die Augen zu, dann sieht mich niemand" ist hier fehl am Platz.
Ich halte die Augen weit auf und finde es sehr interessant zu beobachten, wie Menschen kleinere Gefahren wie "KI" aufbauschen und größere dagegen kleinreden. Früher hieß der Sturm im Wasserglas "Atomkriegsgefahr", heute eben "KI-Gefahr". Die Geschichte wiederholt sich nicht, aber sie reimt sich.
Die Gefahr:
Die KI kann sich verselbstständigen, deshalb heißt es auch Intelligenz. Virtuelles Denken wird kommen.
Sie wird sich eines Tages sich selbst kopieren und reproduzieren können, soft- und hartwaremäßig und sich der menschlichen Kontrolle entziehen.
Trotzdem wird sie kommen, weil man damit erst mal viel Geld verdienen kann.
Den Klimawandel kennen wir auch und niemand unternimmt effektiv etwas.
@Möbius
Leider sieht die Realität so aus das die beiden Länder die in der KI-Forschung am weitesten fortgeschritten sind (USA und China) sich belauernd umkreisen wie zwei Raubtiere …
In puncto Innovation und Fantasie wird ein autoritäres Regime mit Zensur und Überwachung einer freien Gesellschaft niemals das Wasser reichen können.
Also bitte, das ist doch albern und abwegig …
Glauben Sie denn allen Ernstes das China so innovativ so kreativ so erfolgreich in Wirtschaft und Wissenschaft sein könnte wenn es dort eine so düstere dystopische Gesellschaft gäbe, wie Sie hier an die Wand malen ?
Und umgekehrt: wenn es so wäre wie sie behaupten - wie konnte es China dann zur Technologieführerschaft gegenüber dem Westen in mehreren Bereichen schaffen ?
Sie sollten Ihre Prämissen überprüfen!
Xi‘s Weg wird es möglich machen. Ideologie über alles.
Ich erhoffe mir von KI in erster Linie die Entwicklung neuer Medikamente, die Fortschritte im Bereich der Pharmazie sind doch – alles in allem – überschaubar. Krebs kann man immer noch nicht heilen, ebenso wenig Autoimmunerkrankungen, dafür wird der 105te Blutdrucksenker auf dem Markt geworfen oder Millionen in die Erforschung neue Cholesterinsenker investiert.
Lächerlich.
Ich habe den Eindruck, die Pharmaindustrie WILL gar keine Krankheiten heilen – zu wenig Profit. An jahrelangem Siechtum ist mehr zu verdienen.
KI ist da weit weniger „Renditegeil“ als Menschen oder Firmen. Hoffe ich zumindest.
Ich habe den Eindruck, die Pharmaindustrie WILL gar keine Krankheiten heilen – zu wenig Profit. An jahrelangem Siechtum ist mehr zu verdienen.
Am meisten ist damit zu verdienen, Menschen gesund zu machen. Und daran forscht die Pharmaindustie. Alles andere sind Vorurteile und Miesmacherei.
KI hat keinen eigenen Willen.
die KI hat keine Motivation, daher auch keine für Rendite
@Möbius
Der Westen versucht durch Sanktionen, unbewiesene Spionage-Vorwürfe und allerlei protektionistische Maßnahmen den aufstrebenden chinesischen Drachen an seinem verdienten Erfolg zu hindern ...
Einseitiger und offensichtlich antiwestlicher geht's nimmer. Darauf kann ich gut verzichten.
Die Kommentarfunktion wird bald geschlossen
Liebe User,
wir werden die Kommentarfunktion um 21:35 Uhr schließen.
Bitte schreiben Sie Ihre Kommentare noch zu Ende, bevor ein neues Thema eröffnet wird.
Mit freundlichen Grüßen
Die Moderation
Leidtragende sind auch die Menschen im Westen die von der preiswerten und innovativen chinesischen Technologie profitieren könnten wenn es ihnen ihre Regierungen nur erlaubten …
Wenn China sich nicht so antiwestlich verhalten würde und demokratischer und umgänglicher würde, hätten chinesische Produkte auch bessere Marktchancen. Das betrifft traditionelle Produkte und Produkte, die in irgendeiner Form KI benutzen.
Jetzt hab ich erstmal nach "ki intelligenz definition" im Netz gesucht.
Auf der Seite der EU habe ich dazu folgendes gefunden.
"Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren."
Na Ja. Kreativer als unsere EU Politiker ist ja nicht schwer.
Gibt einige Erfindungen auf die die Welt gut verzichten konnte, dessen wurden sich die Erfinder am Ende selbst bewusst, bei dieser gehen die Warnungen ja schon einige Zeit, es liegt wohl daran wie sie gefüttert wird, und für was sie eingesetzt werden wird.
Und vor allem wo die Grenzen gesetzt werden, die Frage ist wohl, kann sie sich verselbstständigen, dort liegt wohl die größte Gefahr, in 10 Jahren werden wir mehr wissen, Fortschritt wurde auch immer für negative Dinge missbraucht, leider.