The Meaning of Transparency in AI Regulation

English:

The development of artificial intelligence (AI) is profoundly changing all spheres of life and challenging law. The legal system needs to respond to the challenges raised by AI. Against this background, the European Union is about to enact the Artificial Intelligence Act (AI Act). One of the key issues addressed by the AI Act is transparency. The AI Act particularly introduces a set of transparency obligations for AI systems. The aim to establish transparency rules with respect to AI aligns with the fact that transparency has become something like a legal concept in modern lawmaking. However, despite the importance stakeholders and governments attribute to transparency, its meaning still seems to be vague and unclear. Within the proposed AI Act alone, the term covers several distinct meanings ranging from making visible the mere existence of an AI system to its explainability. The objective of this project carried out by Prof. Dr. Alfred Früh and Dr. Daria Bohatchuk is to unravel the meanings of transparency used in the AI regulation and to build a coherent concept for the use of transparency that can also be applied to future Swiss legislative proposals on AI regulation.

German:

Die Entwicklung der künstlichen Intelligenz (KI) verändert alle Lebensbereiche und stellt das Recht vor neue Herausforderungen. Das Rechtssystem muss auf die von der KI aufgeworfenen Herausforderungen reagieren. Die Europäische Union hat darauf mit einer Verordnung über künstliche Intelligenz (KI-VO) reagiert, die kurz vor der Verabschiedung steht. Eines der Hauptthemen der KI-VO ist die Transparenz. Das neue Gesetz führt eine Reihe von Transparenzpflichten für KI-Systeme ein. Das Ziel, Transparenzregeln für KI festzulegen, steht im Einklang mit der Tatsache, dass Transparenz in der modernen Gesetzgebung zu einem üblichen Instrument oder gar einem etablierten Konzept geworden ist. Allerdings ist der Gehalt des Transparenzbegriffs in der KI-Regulierung trotz seiner evidenten Bedeutung aus sicht der Interessengruppen und Regierungen immer noch vage und unklar. Allein innerhalb der KI-VO finden sich unterschiedliche Bedeutungen, die von der Sichtbarmachung der blossen Existenz eines KI-Systems bis hin zu dessen Erklärbarkeit (explainability) reichen. Ziel dieses von Prof. Dr. Alfred Früh und Dr. Daria Bohatchuk bearbeiteten Projekts ist es, die in der KI-VO verwendeten Bedeutungen von Transparenz zu entschlüsseln und ein kohärentes Konzept für die Verwendung von Transparenz zu entwickeln, das auch auf künftige Schweizer Gesetzesvorschläge zur KI-Regulierung angewendet werden kann.