A - I n f o s

a multi-lingual news service by, for, and about anarchists **
News in all languages
Last 30 posts (Homepage) Last two weeks' posts Our archives of old posts

The last 100 posts, according to language
Greek_ 中文 Chinese_ Castellano_ Catalan_ Deutsch_ Nederlands_ English_ Francais_ Italiano_ Polski_ Português_ Russkyi_ Suomi_ Svenska_ Türkurkish_ The.Supplement

The First Few Lines of The Last 10 posts in:
Castellano_ Deutsch_ Nederlands_ English_ Français_ Italiano_ Polski_ Português_ Russkyi_ Suomi_ Svenska_ Türkçe_
First few lines of all posts of last 24 hours

Links to indexes of first few lines of all posts of past 30 days | of 2002 | of 2003 | of 2004 | of 2005 | of 2006 | of 2007 | of 2008 | of 2009 | of 2010 | of 2011 | of 2012 | of 2013 | of 2014 | of 2015 | of 2016 | of 2017 | of 2018 | of 2019 | of 2020 | of 2021 | of 2022 | of 2023 | of 2024 | of 2025

Syndication Of A-Infos - including RDF - How to Syndicate A-Infos
Subscribe to the a-infos newsgroups

(de) France, OCL CA #351 - KI-Gesetz - Unzureichender Schutz (ca, en, it, fr, pt, tr)[maschinelle Übersetzung]

Date Mon, 14 Jul 2025 09:54:25 +0300


Seit dem 2. Februar 2025 gelten einige Bestimmungen der EU-Verordnung über Künstliche Intelligenz (KI-Gesetz). Dieses europäische Abkommen ist das Ergebnis eines recht langen (1) und komplexen Prozesses und soll die Nutzung künstlicher Intelligenz regeln und Einzelpersonen schützen. Wir werden sehen, dass KI eine Reihe von Gefahren birgt, vor denen das KI-Gesetz nur wenig Schutz bietet. Dieser Artikel ist Teil der Folgeausgabe zum Dossier zur Computerisierung der Welt, veröffentlicht in Ausgabe 349 des Courant Alternatif (April 2025), insbesondere zum ersten Artikel über KI. Dieser europäische Regulierungsrahmen verfolgt die folgenden fünf Zielgruppen:

Gewährleistung der Sicherheit und Konformität der auf den Markt gebrachten KI-Systeme mit den geltenden Rechtsvorschriften zu Grundrechten, EU-Werten, Rechtsstaatlichkeit und ökologischer Nachhaltigkeit; Förderung der Einführung einer menschenzentrierten und vertrauenswürdigen KI;
Gewährleistung eines einheitlichen Rechtsrahmens zur Erleichterung von Investitionen und Innovationen; Stärkung der Governance und der wirksamen Durchsetzung bestehender Rechtsvorschriften zu Sicherheitsanforderungen für KI-Systeme und Grundrechten;
Verbesserung des Funktionierens des Binnenmarkts für legale und sichere KI-Anwendungen und Verhinderung einer Marktfragmentierung.
Es ist leicht zu erkennen, dass der Hauptzweck dieser Gesetzgebung die Förderung von Märkten, Investitionen und Sicherheit ist. Angesichts der Tatsache, dass KI durch die Verarbeitung deutlich größerer Datenmengen als herkömmliche Suchmaschinen immer mehr Strom und Wasser für Kühlsysteme verbraucht, ist die Rede von "ökologischer Nachhaltigkeit" ein geschmackloser Scherz.

Was uns jedoch trotz dieser Wertschätzung noch mehr Sorgen bereitet, sind die Gefahren der KI für Grundfreiheiten und Menschenrechte. Amnesty International (2) hat einige positive Aspekte, aber vor allem einige erhebliche Gefahren identifiziert. Der erste positive Aspekt ist die Möglichkeit, Beschwerden einzureichen und Entschädigungen für Personen zu fordern, die möglicherweise Opfer von KI-basierten Aktionen geworden sind. Der zweite ist das Verbot von Software zur sozialen Bewertung, egal ob öffentlich oder privat. Das chinesische Modell (3) sollten wir vorerst vermeiden.

Die europäische KI-Verordnung weist mehrere Mängel auf. Wie eine Disclose-Untersuchung (4) ergab, war es insbesondere die französische Regierung, die sich aktiv für eine Abschwächung des Geltungsbereichs des Gesetzes einsetzte.

Das KI-Gesetz verbietet eine ganze Liste von KI-Anwendungen, die als "inakzeptabel" gelten, enthält aber oft Einzelheiten zu Ausnahmen. Hier drei Beispiele:

KI-Systeme zur Bewertung oder Vorhersage des Risikos einer Straftat durch eine natürliche Person sind verboten, es sei denn, sie unterstützen die menschliche Beurteilung der Beteiligung einer Person an kriminellen Aktivitäten. Grundsätzlich sind diese KI-Systeme für den polizeilichen Einsatz verboten, wenn sie prädiktiv eingesetzt werden (mit einem bestimmten Profil könnte diese Person eine Straftat begehen), sie sind jedoch für bestätigende Zwecke zugelassen (die verdächtige Person verfügt über ein bestimmtes Profil, sodass die Wahrscheinlichkeit hoch ist, dass sie die Straftat tatsächlich begangen hat). Dies verspricht harte Auseinandersetzungen vor Gericht, wenn dieses KI-Profiling zur Kompensation fehlender Beweise eingesetzt wird.

KI-Systeme zur Emotionserkennung sind am Arbeitsplatz und in Bildungseinrichtungen verboten, außer aus medizinischen oder sicherheitsrelevanten Gründen.

Systeme zur biometrischen Echtzeit-Fernidentifizierung sind in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken verboten ... außer in Fällen der gezielten Suche nach potenziellen Opfern von Straftaten, der Abwehr einer konkreten Bedrohung von Leben oder Sicherheit von Personen oder der Verhinderung eines Terroranschlags (5) oder der Identifizierung, Ortung oder strafrechtlichen Verfolgung von Tätern oder Verdächtigen bestimmter Straftaten, die mit einer Höchststrafe von mindestens vier Jahren geahndet werden.

Gesichtserkennung ist nur teilweise verboten. Das KI-Gesetz ebnet den Weg für die Legalisierung bestimmter spezifischer Anwendungen der Echtzeit-Gesichtserkennung. Dies ist ein Novum in der EU und stellt eine Verletzung von Rechten und Freiheiten dar.

KI ist an Grenzen zur Überwachung von Exilanten zugelassen. Insbesondere verbietet das KI-Gesetz die "Emotionserkennung" und die "biometrische Kategorisierung" an Arbeitsplätzen und in Schulen, ihr Einsatz durch Strafverfolgungs- und Einwanderungsbehörden ist jedoch erlaubt. Das KI-Gesetz ermächtigt Staaten daher, gefährliche Überwachungstechnologien an den EU-Grenzen zu testen und einzusetzen.

Man könnte daher annehmen, dass die EU bereit ist, missbräuchliche Überwachungssysteme an den am stärksten marginalisierten Bevölkerungsgruppen der Gesellschaft zu testen und diese anschließend auf andere Bevölkerungsgruppen auszuweiten.

Diese Verordnung gilt nur innerhalb der EU; konkrete Maßnahmen zum Schutz der europäischen Bevölkerung vor dem Missbrauch verbotener Systeme durch ausländische Unternehmen sind nicht vorgesehen. Die Verordnung klassifiziert KI-Technologien insbesondere in vier Risikostufen: inakzeptables Risiko, hohes Risiko, Transparenzrisiko sowie minimales oder kein Risiko. Als integre Liberale haben die europäischen Länder nach intensiver Lobbyarbeit beschlossen, dass der Privatsektor die Risikostufen festlegen soll: Die Anbieter von KI-Systemen legen selbst fest, ob ihr Tool als risikoreich eingestuft werden soll oder nicht.

Schließlich behalten die Staaten die volle Freiheit, KI nach eigenem Ermessen und ungeachtet individueller Rechte einzusetzen. Wie in Artikel 2.3 des KI-Gesetzes festgelegt, "berührt diese Verordnung (...) nicht die Zuständigkeiten der Mitgliedstaaten in Fragen der nationalen Sicherheit." Ebenso besagt Artikel 46 Absatz 2 der europäischen Verordnung, dass "in einer hinreichend begründeten Notsituation aus außergewöhnlichen Gründen der öffentlichen Sicherheit (...) Strafverfolgungsbehörden" "einen bestimmten, mit hohem Risiko behafteten KI-Dienst" ohne Genehmigung nutzen dürfen.

Es ist daher unbedingt notwendig, die Rhetorik zu verurteilen, die das KI-Gesetz als eine Verordnung zum Schutz der Freiheiten darstellt. Wir müssen KI auch als eine Technologie verurteilen, die nicht nur ökologisch und sozial kostspielig ist, sondern auch eine Bedrohung für die individuellen Freiheiten darstellt. Um dies zu erreichen, ist es notwendig, alle Techniken (Videoüberwachung, Computerverfolgung, Dateien usw.) zu bekämpfen, die KI bereits vorantreiben. Neben den Kritiken scheinen die Sabotageakte an Kabeln und anderer Infrastruktur zuzunehmen. Das kann nichts Schlechtes sein. Wir können auch individuell digitale Hygiene praktizieren, indem wir Spionagetools so wenig wie möglich einsetzen oder Systeme verwenden, die etwas sicherer sind als die am weitesten verbreiteten.

AD, Limoges

Anmerkungen
1) Der grundlegende Text wurde im Dezember 2023 angenommen, das Abkommen im März 2024 abgestimmt und im Juni ratifiziert. Die Bestimmungen sollten zwischen August 2024 und August 2026 schrittweise umgesetzt werden.
2) Mehrere Artikel auf ihrer Website, insbesondere der mit dem Titel "Wie man künstliche Intelligenz reguliert".
3) Sehen Sie sich die Dokumentation "Meine Frau hat Kredit" an.
4) Auf Disclose.ngo: "Künstliche Intelligenz: Frankreich eröffnet den Weg zur Massenüberwachung in Europa".
5) Da einige polizeiliche Ermittlungen gegen Aktivisten (die Fälle "8/12" und "15/06") mit Mitteln der Terrorismusbekämpfung durchgeführt wurden, ist davon auszugehen, dass häufig Ausnahmen angewendet werden.

http://oclibertaire.lautre.net/spip.php?article4457
_________________________________________
A - I n f o s Informationsdienst
Von, Fr, und Ber Anarchisten
Send news reports to A-infos-de mailing list
A-infos-de@ainfos.ca
Subscribe/Unsubscribe https://ainfos.ca/mailman/listinfo/a-infos-de
Archive: http://www.ainfos.ca/de
A-Infos Information Center