Für die Suche nach Inhalten geben Sie »Content:« vor den Suchbegriffen ein, für die Suche nach Orten geben Sie »Orte:« oder »Ort:« vor den Suchbegriffen ein. Wenn Sie nichts eingeben, wird in beiden Bereichen gesucht.

 

 

KI Regulierung: Verbraucherrechte jetzt oder nieZoom Button

Gesichtserkennungsmaske über dem Gesicht eines Mannes. Foto: Artem, Adobe Stock, Informationen zu Creative Commons (CC) Lizenzen, für Pressemeldungen ist der Herausgeber verantwortlich, die Quelle ist der Herausgeber

KI Regulierung: Verbraucherrechte jetzt oder nie

KI Regulierung: Verbraucherrechte jetzt oder nie

  • Betroffene brauchen Recht auf Auskunft und Erklärung

  • Ausnutzung persönlicher Schwächen und Manipulation durch KI müssen verboten werden

  • Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen

Berlin, 23. Oktober 2023

Der #Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbrauchern berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher müssen besonders geschützt werden und starke Rechte bekommen.

»Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern. Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI Betreibern«, sagt Ramona Pop.

»Auf EU Ebene werden jetzt die Weichen gestellt, wie und nach welchen Regeln KI in den nächsten Jahrzehnten unser Leben bestimmt. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission müssen die Chance ergreifen und den AI Act im Sinne der Menschen gestalten. Nur auf dieser Basis wächst Vertrauen in KI und damit die gesellschaftliche Akzeptanz dieser Technologie«, so Pop.

Schon heute wird KI in sensiblen Lebensbereichen eingesetzt, etwa als Mental Health Berater. Generative KI Systeme wie #ChatGPT können die Entscheidungen von Verbrauchern beeinflussen, zum Beispiel Kaufentscheidungen beim #Onlineshopping. Dabei besteht die Gefahr, dass KI die Verbraucher manipuliert und übervorteilt.

Für den AI Act fordert der #VZBV

Betroffenenrechte für Hochrisiko KI einführen

Verbraucher brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko KI Systemen.

»Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen«, sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.

Schutz vor Manipulation und Ausnutzung persönlicher Schwächen

Der AI Act verbietet zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz ist aber lückenhaft.

»Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar«, sagt Pop. Wenn KI erkennt, dass eine Person zu Spielsucht neigt, müde ist, gestresst oder in Trauer, dürfe das nicht ausgenutzt werden. »Alle Verbraucher müssen geschützt werden – auch vor finanziellen Schäden.« Mit generativen KI Systemen wie #ChatGPT wird ein umfassendes Verbot noch wichtiger, weil Verbraucher damit besonders leicht manipuliert oder Falschinformation generiert werden können.

Effektive Rechtsdurchsetzung sicherstellen – Verbandsklage für Missbrauch von KI ermöglichen

Betroffene haben oft weder die Ressourcen noch die Fähigkeiten ihre Rechte gegenüber Betreibern von KI Systemen vor Gericht durchzusetzen. Darum muss der AI Act in den Anhang der europäischen Verbandsklagen Richtlinie aufgenommen werden. »Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI Betreiber im Namen geschädigter Verbraucher zu führen und Entschädigungen einzufordern«, sagt Pop.

Hintergrund

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI Systemen definieren. Der Rat hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni 2023. Im Rahmen der Trilog Verhandlungen findet am Dienstag, 24. Oktober die entscheidende Verhandlung zwischen Rat, Europäischem Parlament und Europäischer Kommission statt. Eine Einigung soll bis Ende 2023 erfolgen.

Content bei Gütsel Online …

Verbraucherzentrale Bundesverband e. V., mehr …
Rudi-Dutschke-Straße 17
10969 Berlin
Telefon +4930258000
Telefax +493025800518
E-Mail info@vzbv.de
www.vzbv.de

Externer Inhalt, Location Verbraucherzentrale Bundesverband e. V.

Beim Klick auf das Bild wird eine Anfrage mit Ihrer IP Adresse an Google gesendet, Cookies gesetzt und personenbezogene Daten zu Google übertragen und dort verarbeitet, siehe auch die Datenschutzerklärung.
 
Gütsel
Termine und Events

Veranstaltungen
nicht nur in Gütersloh und Umgebung

November 2024
So Mo Di Mi Do Fr Sa
12
3456789
10111213141516
17181920212223
24252627282930
Dezember 2024
So Mo Di Mi Do Fr Sa
1234567
891011121314
15161718192021
22232425262728
293031
Februar 2025
So Mo Di Mi Do Fr Sa
1
2345678
9101112131415
16171819202122
232425262728
September 2025
So Mo Di Mi Do Fr Sa
123456
78910111213
14151617181920
21222324252627
282930
November 2025
So Mo Di Mi Do Fr Sa
1
2345678
9101112131415
16171819202122
23242526272829
30
Dezember 2025
So Mo Di Mi Do Fr Sa
123456
78910111213
14151617181920
21222324252627
28293031
Februar 2026
So Mo Di Mi Do Fr Sa
1234567
891011121314
15161718192021
22232425262728
September 2026
So Mo Di Mi Do Fr Sa
12345
6789101112
13141516171819
20212223242526
27282930
Oktober 2026
So Mo Di Mi Do Fr Sa
123
45678910
11121314151617
18192021222324
25262728293031