Kommentare - EU-Staaten: Erstmals Regeln für Künstliche Intelligenz

06. Dezember 2022 - 20:22 Uhr

Wie sicher ist der Einsatz Künstlicher Intelligenz? Die EU-Staaten haben sich nun auf Regeln verständigt. Diese sollen dafür sorgen, dass KI-Systeme sicher sind und die Grundrechte einhalten. Verbraucherschützer sehen dennoch Gefahren.

Artikel auf tagesschau.de
Schlagwörter der Meldung:

Kommentare

Mein Vertrauen bleibt bei NULL - und zwar lebenslang

Ich werde niemals auch nur im Ansatz einer von Menschen (fehlerhaft) programmierten KI (daher zwangsweise auch fehlerhaft und zwar akkumuliert um die menschlichen PLUS technischen Fehler) vertrauen. Außerdem wird es trotz aller "Beteuerungen" immer auch profit-strategische und politische Einflussfaktoren auf die KIs geben.

Nein, nein - ich bleibe bei "dummen" Autos, "dummer" Wohnung und "dummen" Geräten - die gemäß einer sehr einfachen fixen Steuerung immer vorhersehbar dasselbe tun.

Das sage ich als Techniker und Programmierer. Ich habe etwas Einblick in die katastrophale Qualitätssicherung bei Software - und KIs sind nichts als Software.

Erst mal erkennen, wie KI entscheidet …

KI ist selbstlernend und kann Prozesse, sprich Entscheidungsfolgen, selbst einleiten.

Vor allem in der Autoindustrie ist man bislang so eilig und profitgierig das man sich nicht die Zeit genommen hat zu analysieren, wie die Systeme die Umwelt erfassen.
So weiß man nicht mal, ob KI ein Stoppschild daran erkennt ob es rot umrandet, eine Pfosten als Ständer hat, unbeweglich ist usw.

So sind in den USA Aufkleber an LKWs als Verkehrsschilder von der KI akzeptiert worden, obwohl die LKW sich schnell bewegt haben.

KI in kritischen Systemen kann nicht auf Updates hoffen, man muss vorher viel Zeit und Geld investieren, was den Profit senkt.

Und das wollen in kapitalistischen Systemen die Markttreiber nicht.

Technisches Verständnis notwendig!

Eine KI ist nichts weiter als ein Computerprogramm, welches sich selbst erweitern kann. Nur bleibt eine Frage: Wer stellt die erforderlichen Daten zur Verfügung? Weiß denn jeder Benutzer eines Programmes, dass womöglich seine Daten, sein Verhalten, seine Vorlieben, seine persönlichen Intimitäten aufgezeichnet und verwendet werden? Und weiß diese Person auch, dass auch bei abgeschaltetem Programm solch ein Programm weiterhin Daten sammeln kann? Ich bezweifele es. Es beginnt doch beispielhaft bereits mit der Datensammelwut in Neuwagen! Welchem Fahrer/Fahrerin ist bekannt, welche Daten das Kfz automatisiert sammelt und an wen übermittelt? Schöne heile Welt, nur in der Praxis wenig bekannt!

@21:38 Uhr von WirSindLegion

Nein, nein - ich bleibe bei "dummen" Autos, "dummer" Wohnung und "dummen" Geräten - die gemäß einer sehr einfachen fixen Steuerung immer vorhersehbar dasselbe tun.

Das sage ich als Techniker und Programmierer. Ich habe etwas Einblick in die katastrophale Qualitätssicherung bei Software - und KIs sind nichts als Software.

Ja, deshalb ist die Titanic ja auch nicht untergegangen. Scherz beiseite. Künstliche Intelligenz soll dem Menschen helfen, Entscheidungen zu fällen, wobei er sich hierbei auf das Wesentliche konzentrieren soll. Typisches Beispiel Autofahren. Sie fürchten sicherlich sowas, wie in dem alten Film Colossus oder die Rettungsaktion am Anfang von iRobot. Im Auto soll KI Menschen daran hindern, das Falsche zu tun, denn die Menschen sind der Teil an der Autosteuerung, der am wenigsten vorhersehbar ist. Nicht ihm die Verantwortung abnehmen.

@21:57 Uhr von Hille-SH

....dass ich so ein dermaßen analoger Mensch (geblieben) bin, ebenso meine Frau. Quasi Fossile. Smartphone (mit nur einer App, CovPass) fast immer leer zu Hause in der Schublade. Und der wohl überzeugteste Barzahler Deutschlands bin ich ohnehin, irgendwelche Rabatte oder Goodies interessieren mich nicht :-) !
Dass die EU vieles vorher verwässert hat (wohl verwässern ließ), wie es der Artikel beschreibt, war von diesen ständig lobbybeeinflussten Damen und Herren in Brüssel & Straßburg ja auch nicht wirklich anders zu erwarten.
KI weitestgehend meiden und äußerst, äußerst sparsam mit Daten sein, WICHTIGES immer persönlich erledigen..., mein Motto. 

Auf die Einhaltung der richtigen Reihenfolge kommt es immer an

Hier ist sie sogar von 'entscheidender' Bedeutungfür das Schicksal der gesamten Menschheit.

Hierauf bezogen:

"Die EU-Staaten haben sich nun auf Regeln verständigt. Diese sollen dafür sorgen, dass KI-Systeme sicher sind und die Grundrechte einhalten"

heißt das: Wenn die Regeln, auf die man sich verständigt hat tatsächlich geeinigt sind zu gewährleisten, dass die wichtigste Grundregel der Demokratie - das Recht auf gleichberechtigte gesellschaftliche Teilhabe und damit logischerweise auch freien und gleichen Zugang zu Wissen - eingehalten wird, also volle Transparenz in allen Angelegenheiten von öffentlichem bzw. kommerziellem Interesse herrscht, erübrigt sich eigentlich jede weitere Überprüfung der Sicherheit der KI-Systeme. Dann kann man sich, statt über weitere 'Regeln' zu streiten darauf konzentrieren, mit 'Hilfe' der KI gemeinsam nach den besten Wegen bzw. Ansätzen zur Lösung gemeinsamer Probleme zu suchen, um das globale Gemeinwesen und dessen Existenzgrundlage zukunftsfest zu machen.

Auch ich als Techniker

bin sehr vorsichtig bei der Bewertung Künstlicher Intelligenz.Das ist alles noch nicht vollständig ausgereift.

@21:41 Uhr von kurtimwald

So weiß man nicht mal, ob KI ein Stoppschild daran erkennt ob es rot umrandet, eine Pfosten als Ständer hat, unbeweglich ist usw.
So sind in den USA Aufkleber an LKWs als Verkehrsschilder von der KI akzeptiert worden, obwohl die LKW sich schnell bewegt haben.

Als eine Konvention muss auch KI ein Stopschild vorgeben bekommen, es würde, bei den normalen Autofahrern, viel zu lange brauchen, bis KI kapiert, dass das Auto aufgrund des Schildes am Straßenrand stoppt und dies als Norm versteht. Auch kann KI nicht lernen, Notsituationen zu identifizieren, try and error ist hier nicht gefragt. KI kann aber lernen, bestimmte Standardrouten besonders effizient zu fahren, weil es z.B. Ampelschaltungen nach einer Weile durchschaut.

@21:38 Uhr von WirSindLegion

Ich werde niemals auch nur im Ansatz einer von Menschen (fehlerhaft) programmierten KI (daher zwangsweise auch fehlerhaft und zwar akkumuliert um die menschlichen PLUS technischen Fehler) vertrauen. Außerdem wird es trotz aller "Beteuerungen" immer auch profit-strategische und politische Einflussfaktoren auf die KIs geben.

Nein, nein - ich bleibe bei "dummen" Autos, "dummer" Wohnung und "dummen" Geräten - die gemäß einer sehr einfachen fixen Steuerung immer vorhersehbar dasselbe tun.

Das sage ich als Techniker und Programmierer. Ich habe etwas Einblick in die katastrophale Qualitätssicherung bei Software - und KIs sind nichts als Software.

Ich sehe das so wie Sie. Ich habe auch schon immer Krämpfe bekommen, wenn jemand gesagt hat: "Die Daten sind sicher." Das waren sie nie und sie sind es bis heute nicht. Das ändert allerdings nichts daran, dass ich die Fortschritte auf diesem Gebiet durchaus faszinierend finde.

Schließung der Kommentarfunktion

Sehr geehrte User,

die Kommentarfunktion für dieses Thema wird nun geschlossen. Danke für Ihre rege Diskussion.

Mit freundlichen Grüßen
Die Moderation

Darstellung: