jumankai

4 Min. Lesezeit

tags:

  • digitale-ethik
  • ki-ethik
  • verantwortung
  • open-source
  • souveränität
  • eu-ai-act
  • rote-linien author: Christina date: 2026-05-21 status: in-progress

Digitale Ethik & verantwortungsvolle KI-Nutzung

Von Christina – 21.5.2026

Worum geht es?

Technologie ist nicht neutral. Jede KI-Lösung, die wir empfehlen oder begleiten, hat Auswirkungen auf Menschen, Organisationen und die Gesellschaft.

Digitale Ethik ist für uns mehr als ein Compliance-Thema. Sie ist eine Grundhaltung, die unsere Arbeit von der ersten Beratungsstunde bis zur letzten Empfehlung durchzieht.

Was das konkret bedeutet

  • Wir arbeiten nach dem Prinzip “Human in the Loop” (noch besser: “Human in the Lead”): KI unterstützt. Der Mensch entscheidet und trägt Verantwortung.
  • Wir empfehlen keine Lösungen, die primär der Überwachung, Kontrolle oder Manipulation von Menschen dienen. Wir lehnen Projekte ab, bei denen KI als Rationalisierungswerkzeug eingesetzt wird, ohne eine Strategie für die betroffenen Menschen.
  • Wir fördern Transparenz: Unsere Kunden wissen, welche KI-Systeme eingesetzt werden, wie sie funktionieren und wo ihre Grenzen liegen.
  • Wir achten auf digitale Suffizienz: Nicht jedes Problem braucht eine KI-Lösung. Wir stellen die Frage, ob der Einsatz von KI wirklich sinnvoll und verhältnismässig ist.
  • Wir berücksichtigen den ökologischen Fussabdruck von KI-Systemen und bevorzugen energieeffiziente Lösungen. (tbd: die Frage ist, ob das überhaupt machbar ist.)

Verantwortung

Als Beratungsnetzwerk sind wir uns bewusst, dass unsere Empfehlungen Konsequenzen haben: Für Mitarbeitende, für Organisationen und für die Gesellschaft. Wir tragen Mitverantwortung für das, was während und nach unserer Beratung entsteht.

Das bedeutet:

  • Wir beraten nicht auf Zuruf, sondern mit dem Anspruch, die Situation wirklich zu verstehen, bevor wir Empfehlungen aussprechen.
  • Wir benennen Risiken offen, auch wenn das unbequem ist oder gegen das unmittelbare Interesse des Auftraggebers steht.
  • Wir begleiten Projekte so, dass Kunden nach Abschluss handlungsfähig und unabhängig sind, nicht abhängig von uns.
  • Wir übernehmen keine Projekte, für die wir fachlich nicht ausreichend qualifiziert sind, und vermitteln in solchen Fällen an geeignete Partner.
  • Verantwortung endet nicht mit der letzten Rechnung. Wir bleiben ansprechbar und stehen zu unserer Arbeit.

Open Source & Digitale Souveränität

Im Rahmen des Abbaus von Abhängigkeiten zu Silicon-Valley Tech-Konzernen bemühen wir uns – wo möglich – diese Abhängigkeiten zu reduzieren, statt sie durch die Einführung von KI noch weiter zu befeuern.

  • Wir unterstützen Open Source Projekte in dem Bewusstsein, dass die Nutzung und das aktive Feedback für Open Source Tools einen Beitrag zum Gemeinwohl leistet durch unabhängige Software.
  • Wir bevorzugen Europäische Lösungsanbieter und weisen explizit auf die Gefahren von ausländischen Tech-Abhängigkeiten hin wie bspw. durch den US-Amerikanischen Cloud Act.

Unsere roten Linien

Menschenwürde & Grundrechte

Wir begleiten keine Projekte, die:

  • KI zur verdeckten Überwachung von Mitarbeitenden einsetzen, z. B. durch Produktivitätsmonitoring ohne Wissen der Betroffenen.
  • Persönlichkeitsprofile erstellen oder Verhalten vorhersagen, ohne informierte Zustimmung der betroffenen Personen.
  • Entscheidungen über Menschen vollständig automatisieren, wo es um Anstellung, Kündigung, Beurteilung oder soziale Leistungen geht.

Fairness & Diskriminierung

Wir begleiten keine Projekte, die:

  • Algorithmische Systeme einsetzen, die nachweislich diskriminieren oder bestehende Ungleichheiten verstärken (Bias), ohne aktive Gegenmassnahmen.
  • Daten verwenden, die ohne rechtskonforme Grundlage erhoben wurden.
  • Bias in Trainingsdaten oder Modellen ignorieren, wenn dieser Einfluss auf relevante Entscheidungen hat.

Transparenz & Manipulation

Wir begleiten keine Projekte, die:

  • KI-generierte Inhalte als menschlich ausgeben, wo Transparenz rechtlich oder ethisch geboten ist.
  • Manipulative Systeme entwickeln oder empfehlen, die darauf ausgelegt sind, menschliches Verhalten ohne bewusste Zustimmung zu steuern.
  • Dark Patterns in KI-gestützten Interfaces einsetzen.

Soziale Verantwortung

Wir begleiten keine Projekte, die:

  • KI primär zur Stellenreduktion einsetzen, ohne begleitende Massnahmen für betroffene Mitarbeitende.
  • Projekte begleiten, bei denen KI als Vorwand für Entscheidungen genutzt wird, die eigentlich menschliche Verantwortung erfordern.
  • Den EU AI Act bewusst umgehen oder dessen Anforderungen als reine Formalität behandeln.

Offene Fragen (tbd)

  • Wie verbindlich sind die roten Linien, also wirklich als harter Ausschluss oder als Diskussionsgrundlage im Einzelfall?
  • Wer trägt die Verantwortung für diese Beurteilung, eine bestimmte Rolle im Netzwerk oder das Kollektiv? Teil der Quali-Standards?

Was wir von unseren Mitgliedern erwarten

Alle Mitglieder verpflichten sich, diese Haltung in ihrer Arbeit zu vertreten. Das bedeutet, Fragen aktiv zu stellen und im Zweifel offen anzusprechen.

Ethische Konflikte in Projekten werden im Netzwerk gemeinsam reflektiert. Dafür gibt es einen definierten Prozess, der sicherstellt, dass schwierige Fragen Raum bekommen, ohne den Projektfortschritt zu blockieren.

Graphansicht

Backlinks