In den letzten Jahren haben technische Innovationen und künstliche Intelligenz (KI) bzw. Artificial Intelligence (AI) immer mehr für Aufsehen gesorgt. AI dringt mit ihren vielfältigen Formen und Anwendungen zunehmend in verschiedene Bereiche unserer Wirtschaft und Gesellschaft ein. In einer solchen Zeit, die von bahnbrechenden Fortschritten geprägt ist, stehen Unternehmen vor zunehmenden Herausforderungen. Wie kann das Potenzial dieser Innovationen ausgeschöpft werden, ohne dabei ethische Grundsätze zu vernachlässigen oder ungewollte Schäden aufgrund von Rechtsverstössen zu verursachen? Die Antwort auf diese Frage kann in der Umsetzung einer effektiven AI-Governance liegen.
Von Reto Fanger
Einführung
AI-Tools sind Anwendungen, die künstliche Intelligenz nutzen, um bestimmte Aufgaben zu erledigen oder zu unterstützen. Künstliche Intelligenz ist somit die Fähigkeit von Maschinen, aus Daten zu lernen und zu entscheiden. AI-Systeme werden von privaten Unternehmen, der öffentlichen Verwaltung oder auch von privaten Personen verwendet. Sie können beispielsweise helfen, Dokumente zu analysieren, Zusammenfassungen zu erstellen oder Prozesse zu optimieren. Beispiele für AI-Tools sind Sprachassistenten, Chatbots, Gesichtserkennung oder automatische Übersetzung. Ausserdem wird AI teilweise auch eingesetzt, um menschliches Denken und Handeln zu beeinflussen (z.B. Empfehlungsalgorithmen auf Plattformen der sozialen Medien).
Risiken und Chancen von AI
Diskussionen über AI richten sich häufig nicht nur auf die Chancen, sondern auch auf die Risiken. Daher ist bei der Nutzung von AI stets eine sorgfältige Abwägung der Chancen und Risiken erforderlich. Während AI enorme Chancen für Innovation und Effizienz bietet, bringt sie auch komplexe Herausforderungen insbesondere in Bezug auf Datenschutzrecht, Urheberrecht, Sicherheit und Ethik mit sich. Angesichts der zahlreichen Risiken stellt sich die Frage, wie Unternehmen strategisch vorgehen sollen, um den Erfolg ihrer AI-Anwendungen und die damit verbundenen Aktivitäten nicht zu gefährden und langfristige Sicherheit zu gewährleisten. Mithilfe der AI-Governance können AI-bezogene Risiken minimiert und Chancen verbessert werden. Angesichts dieser Herausforderungen wird die erfolgreiche Implementierung einer AI-Governance zu einer entscheidenden Aufgabe für Unternehmen aller Grössen und Branchen.
Die Bedeutung von AI-Governance
Eine effektive AI-Governance ist entscheidend für Unternehmen, die Vorteile aus dem Einsatz von AI-basierten Systemen ziehen möchten. AI-Governance umfasst ein breites Spektrum von Regeln, organisatorischen Massnahmen, Prozessen und Werkzeugen, die Unternehmen dabei unterstützt, eine vertrauenswürdige, verantwortungsvolle, ethische, rechtlich zulässige und effiziente Entwicklung und Nutzung von AI-Technologien sicherzustellen. Die Notwendigkeit von AI-Governance in Unternehmen ergibt sich aus verschiedenen Faktoren, zu welchen insbesondere die folgenden gehören:
- Risikominderung
- Einhaltung von ComplianceAnforderungen
- Vertrauensbildung
- Maximierung des Nutzens
- Reputationsschutz
Eine stabile AI-Governance ist somit in verschiedener Hinsicht von entscheidender Bedeutung, um die Chancen von AI zu nutzen und gleichzeitig potenzielle Risiken und Herausforderungen proaktiv anzugehen.
Was sollte eine AI-Governance regeln?
Der Einsatz von AI im Unternehmen erfordert die Erstellung und Umsetzung klarer Regeln. Die AI-Governance bietet einen Rahmen, welcher sich auf die Umsetzung von Richtlinien bezieht und Verfahren und Mechanismen zur Verwaltung und Kontrolle beinhaltet.
Eine AI-Governance sollte insbesondere auch klare Zuständigkeiten, Kompetenzen und Verantwortlichkeiten in Bezug auf den Einsatz von AI und die Durchführung von AI-Projekten im Unternehmen festlegen. Um als Unternehmen gut positioniert zu sein, ist es von entscheidender Bedeutung, die geltenden Gesetze, künftige Regulierungen sowie ethische Standards sorgfältig zu berücksichtigen.
Ethische Aspekte
Es ist unerlässlich, ethische Grundsätze in der Entwicklung und Anwendung, also im gesamten Lebenszyklus von AI-Systemen, zu berücksichtigen. Jede Entscheidung zu AI sollte deshalb im Prozess der Planung und des Einsatzes insbesondere auch an ethischen Werten, Menschenrechten und dem Völkerrecht ausgerichtet werden. Daher ist es entscheidend, ethische Grundsätze auch in die AI-Governance einzubeziehen und umzusetzen. Die UNESCO hat die erste globale AI-Ethik-Empfehlung verfasst, die international anerkannte ethische Standards für AI-Technologien unter Einhaltung des Völkerrechts setzt. Diese Empfehlung wird von 193 Mitgliedstaaten unterstützt.
Rechtliche Aspekte
Das Thema der AI-Compliance wird heute schwerwiegend dem Datenschutz zugeordnet und über diesen sichergestellt. Allerdings müssen beim Einsatz eines AI-Tools sämtliche rechtlichen Anforderungen eingehalten werden. Das schliesst nicht nur die Einhaltung von Gesetzen zum Datenschutz ein, sondern auch den Schutz der Persönlichkeit, des geistigen Eigentums und die Einhaltung von Antidiskriminierungsnormen. Auch im internationalen Umfeld haben sich in den vergangenen Jahren verschiedene Entwicklungen abgezeichnet. Von besonderem Interesse für Unternehmen in der Schweiz wird der AI Act der EU sein. Mit diesem kommt insbesondere die Disziplin der Produktregulierung sowie die Einführung von gewissen Standardprüfungen durch Unternehmen in bestimmten Fällen. Das Europäische Parlament hat den EU AI Act am 13. März 2024 formal verabschiedet.
Aufgrund seiner extraterritorialen Wirkung kann der EU AI Act auch für Schweizer Unternehmen gelten, die ein AI-System auf dem EU-Markt bereitstellen, oder wenn die von ihrem AI-System generierten Daten in der EU verwendet werden. Folglich wird der EU AI Act für gewisse Schweizer Unternehmen erhebliche Auswirkungen haben, selbst wenn sie nicht in der EU ansässig sind. Der Bundesrat hat in einer Stellungnahme angekündigt, dass er den Verordnungsvorschlag zur Festlegung von harmonisierten Vorschriften für künstliche Intelligenz («AI Act») verfolgt und bis Ende 2024 den Handlungsbedarf sowie mögliche Optionen für sektorielle und, wenn nötig, horizontale Massnahmen aufzeigen wird.
Implementierung von AI-Governance in Unternehmen
Nun stellt sich die Frage, wie eine AIGovernance im Unternehmen konkret umgesetzt werden kann, was einige Hindernisse aufwerfen kann. Zur Vereinfachung kann die Implementierung der AI-Governance intern bei jenen Stellen angesetzt werden, die sich bereits um den Datenschutz kümmern. Zwischen der Datenschutz- und der AI-Thematik lassen sich nämlich verschiedene Zusammenhänge erkennen. So sind beispielsweise verschiedene Grundsätze im Datenschutz bereits bekannt und verankert, aber auch Datenschutz-Thematiken wie Bearbeitungsverzeichnisse oder Datenschutz-Folgenabschätzungen (DSFA) werden im Bereich der AI immer wichtiger.
Für Mitarbeitende ist es sinnvoll, Grundsätze und alltagstaugliche Handlungsweisungen in Form einer Richtlinie oder einer Weisung zu erlassen. Darin können die Benutzer von AI-Tools beispielsweise angehalten werden, das von der AI generierte Material sorgfältig auf ungenaue oder unvollständige Informationen und mögliche Verstösse gegen Rechte Dritter zu überprüfen. Zudem sollten im Unternehmen verschiedene Prozesse, wie beispielsweise das Einführen einer neuen KI-Anwendung, definiert werden.
Empfohlene Anhaltspunkte für die Gestaltung und Implementierung einer AIGovernance umfassen grundsätzlich:
- Ausrichtung der AI-Governance an der Unternehmensstrategie und den Unternehmenswerten
- Anpassung der Governance an Grösse und Komplexität des Unternehmens
- schrittweises Vorgehen bei der Implementierung
- Durchführung einer Risikobewertung
- Erwägung der Einrichtung einer interdisziplinären «AI-Governance Working Group»
- Festlegen von Grundsätzen
- Festlegen von Verantwortlichkeiten
- Durchführen von Schulungen
- kontinuierliche Anpassung
Ausblick
AI wird Unternehmen revolutionieren. Die Implementierung einer AI-Governance erweist sich als unabdingbare Massnahme in Unternehmen, um potenzielle Bedrohungen abzuwenden und das Ver
Dr. iur. Reto Fanger
Dr. iur. Reto Fanger ist Rechtsanwalt (ADVOKATUR FANGER – Anwaltskanzlei für Technologierecht), Lehrbeauftragter an der Richterakademie der Universität Luzern und Dozent an der Hochschule Luzern. www.advokatur-fanger.ch
Schreibe einen Kommentar
Du musst angemeldet sein, um einen Kommentar abzugeben.