Das Internationale Abkommen

Das Internationale Abkommen über kognitive Freiheit ist ein vorgeschlagener globaler Rahmen zum Schutz kognitiver Autonomie im Zeitalter der künstlichen Intelligenz, überzeugender Technologien und neuraler Schnittstellen. In Beratung mit Rechtswissenschaftlern, Neurowissenschaftlern, Technologen und Vertretern der Zivilgesellschaft entwickelt, legt das Abkommen verbindliche Grundsätze und Standards für Regierungen, Institutionen und Technologieentwickler fest, die sich verpflichten, den Geist als Raum der Freiheit zu bewahren.

Es behandelt kognitive Freiheit als grundlegendes Menschenrecht und legt Prinzipien, Rechte und regulatorische Standards zu ihrer Verteidigung fest. Das Abkommen entstand aus einer dringenden Erkenntnis: Die Technologien, die unser Informationsumfeld gestalten, sind zunehmend in der Lage, nicht nur zu beeinflussen, was wir wissen, sondern wie wir denken.

“Ein Teenager, dessen Feed kontinuierlich auf angstauslösende und polarisierende Inhalte gelenkt wird, weil ein Empfehlungssystem auf Engagement um jeden Preis ausgerichtet ist.”

“Ein älterer Erwachsener, der ein Verbraucherneuralgerät verwendet, ohne zu wissen, dass seine Gehirnaktivität für kommerzielle Zwecke gesammelt und profiliert wird.”

Grundlegende Prinzipien

Artikel 1 legt fünf grundlegende Prinzipien kognitiver Souveränität fest.

  1. Recht auf kognitive Souveränität

    Jeder Mensch hat das inhärente Recht, die Souveränität über seine eigenen mentalen Prozesse, Gedanken und sein Bewusstsein zu wahren. Dieses Recht umfasst die Freiheit von nicht-einwilligenden kognitiven Eingriffen, Manipulationen oder Veränderungen durch jeden Staat, jede Körperschaft oder anderen Akteur.

  2. Informiertes kognitives Engagement

    Einzelpersonen müssen klare, zugängliche und umfassende Informationen darüber erhalten, wie Technologien mit ihren kognitiven Prozessen interagieren. Die Einwilligung in kognitives Engagement muss frei, spezifisch, informiert und eindeutig erteilt werden.

  3. Schutz vor Manipulation

    Technologien dürfen nicht mit der Absicht entworfen oder eingesetzt werden, kognitive Prozesse auf eine Weise zu manipulieren, zu täuschen oder unangemessen zu beeinflussen, die die rationale Handlungsfähigkeit untergräbt. Dieses Verbot erstreckt sich auf süchtig machende Designmuster und die Ausnutzung kognitiver Verzerrungen.

  4. Kognitive Vielfalt

    Das Recht auf kognitive Vielfalt — einschließlich vielfältiger Formen des Denkens, Glaubens und Bewusstseins — muss geschützt werden. Technologien dürfen nicht dazu verwendet werden, kognitive Gleichförmigkeit durchzusetzen, kognitive Unterschiede zu beseitigen oder das Spektrum menschlichen Denkens und Erlebens unangemessen einzuengen.

  5. Besondere Schutzmaßnahmen

    Kinder, Personen mit kognitiven Behinderungen und andere gefährdete Gruppen erhalten verstärkten Schutz vor kognitiver Manipulation und Einmischung. Technologien, die auf diese Gruppen abzielen, müssen einer verschärften Prüfung und strengeren Standards unterliegen.

Wichtige Bestimmungen — Artikel 2–7

ARTIKEL 2

Transparenzpflichten

  • Algorithmische Systeme, die die Kognition beeinflussen, müssen ihren Betrieb, ihre Ziele und ihre Methoden in verständlicher Sprache offenlegen.
  • Technologieunternehmen müssen regelmäßige kognitive Folgenabschätzungen für ihre Produkte und Plattformen veröffentlichen.
  • Nutzer haben das Recht auf Zugang zu Informationen darüber, wie Empfehlungs- und Personalisierungssysteme ihr Informationsumfeld gestalten.
  • Regierungen und Regulierungsbehörden müssen öffentliche Register der kognitiv beeinflussten Technologien führen, die in öffentlich zugänglichen Systemen eingesetzt werden.
  • Forschung zu den kognitiven Auswirkungen von Technologien muss offengelegt und für unabhängige Überprüfung zugänglich gemacht werden.

ARTIKEL 3

Designanforderungen

  • Technologieprodukte müssen so konzipiert sein, dass sie die kognitive Autonomie stärken und nicht verringern.
  • Süchtig machende Designmuster, dunkle Muster und Techniken, die kognitive Verzerrungen für kommerzielle Zwecke ausnutzen, sind verboten.
  • Nutzer müssen über sinnvolle Kontrollen über algorithmische Kuratierung und Empfehlungssysteme verfügen.
  • Standardeinstellungen müssen das Wohlbefinden der Nutzer und die kognitive Autonomie gegenüber Engagement-Metriken priorisieren.
  • Produkte müssen klare Opt-out-Mechanismen für jede Funktion enthalten, die kognitive Prozesse beeinflusst.

ARTIKEL 4

Governance neuraler Schnittstellen

  • Neuralschnittstellentechnologien müssen einer strengen Sicherheits- und Ethikprüfung vor der Markteinführung unterzogen werden.
  • Aus neuralen Schnittstellen abgeleitete Daten werden als sensible kognitive Daten eingestuft und erhalten höchsten Schutz.
  • Die kommerzielle Auswertung neuraler Daten für Werbung, Profiling oder Manipulation ist verboten.
  • Einzelpersonen behalten unveräußerliche Rechte an ihren neuralen Daten, einschließlich der Rechte auf Löschung und Übertragbarkeit.
  • Forschung mit neuralen Schnittstellen muss verschärften Anforderungen an die informierte Einwilligung entsprechen.

ARTIKEL 5

Umsetzung und Durchsetzung

  • Ratifizierende Nationen werden unabhängige Kommissionen für kognitive Freiheit mit Ermittlungs- und Durchsetzungsbefugnissen einrichten.
  • Personen, die durch Verletzungen der kognitiven Freiheit geschädigt wurden, haben Zugang zu wirksamen Rechtsbehelfen und Wiedergutmachungsmechanismen.
  • Technologieunternehmen, die in ratifizierenden Jurisdiktionen tätig sind, werden regelmäßigen kognitiven Folgenabschätzungen unterzogen.
  • Sanktionen für Verstöße müssen verhältnismäßig, abschreckend und sowohl finanzielle Sanktionen als auch Betriebsbeschränkungen umfassen.
  • Grenzüberschreitende Verstöße werden durch kooperative Durchsetzungsmechanismen zwischen ratifizierenden Nationen angegangen.

ARTIKEL 6

Forschung und Bildung

  • Ratifizierende Nationen werden in unabhängige Forschung zu den kognitiven Auswirkungen aufkommender Technologien investieren.
  • Öffentliche Bildungsprogramme zu kognitiven Rechten und digitaler Kompetenz werden in die nationalen Lehrpläne integriert.
  • Forscher, die kognitive Freiheit untersuchen, müssen vor unzulässiger Einmischung durch die Industrie oder die Regierung geschützt werden.
  • Die internationale Zusammenarbeit bei der Erforschung kognitiver Freiheit wird aktiv gefördert und finanziert.
  • Die Ergebnisse der Forschung zur kognitiven Freiheit müssen der Öffentlichkeit in zugänglichen Formaten zur Verfügung gestellt werden.

ARTIKEL 7

Überprüfung und Anpassung

  • Das Abkommen wird alle drei Jahre einer umfassenden Überprüfung unterzogen, um technologischen Entwicklungen Rechnung zu tragen.
  • Ein ständiger internationaler Ausschuss wird die Umsetzung überwachen und Aktualisierungen des Abkommens empfehlen.
  • Zivilgesellschaftliche Organisationen werden formell in die Überprüfungs- und Anpassungsprozesse einbezogen.
  • Aufkommende Technologien mit neuartigen kognitiven Risiken lösen beschleunigte Überprüfungsverfahren aus.
  • Die Prinzipien des Abkommens werden extensiv ausgelegt, um unvorhergesehenen technologischen Herausforderungen zu begegnen.

Globaler Umsetzungsplan

Das Abkommen ist für die praktische Übernahme durch unterschiedliche Rechtssysteme konzipiert. Ratifizierende Nationen werden ermutigt, Umsetzungsgesetzgebung zu verabschieden, dedizierte Aufsichtsgremien einzurichten und an multilateralen Foren teilzunehmen, die Standards koordinieren. Wir sehen Kommissionen für kognitive Freiheit, globale Gipfeltreffen und Open-Source-Tools für algorithmische Transparenz vor, die Regierungen und Zivilgesellschaft bei der Überwachung kognitiver Auswirkungen unterstützen.

Aufruf an Regierungen und multilaterale Gremien

Wir rufen Regierungen, internationale Organisationen und die Zivilgesellschaft auf, kognitive Freiheit als grundlegendes Menschenrecht anzuerkennen und konkrete Schritte zu ihrem rechtlichen Schutz zu unternehmen. Der Zeitpunkt zu handeln ist jetzt — bevor die Technologien der kognitiven Beeinflussung so tief verwurzelt werden, dass Governance unmöglich wird. Schließen Sie sich uns an, um eine Welt aufzubauen, in der jeder Mensch souveräne Kontrolle über seinen eigenen Geist behält.

MitmachenAlle Dokumente ansehen