Informatik und Ethik

Ziel der Vorlesung

Ziel der Veranstaltung ist der wissenschaftliche Diskurs zu ethischen Problemen in der Informatik. Dazu zählt die Schaffung des Bewusstseins des informatischen Handelns anhand von hypothetischen jedoch realistischen Fallbeispielen zu Konfliktfällen. Es gibt einen Vorlesungsteil, gefolgt von einem Diskussionsteil.

Die Inhalte umfassen:

• ethischen Leitlinien der GI (Gesellschaft für Informatik)
• Empfehlungen zur guten wissenschaftlichen Praxis der DFG (Deutsche Forschungsgemeinschaft)

• Fallbeispiele aus der Robotik, Autonomes Fahren, Entscheidungen durch Künstliche Intelligenz, insbesondere KI in der Medizin, Plagiate und Fake News, Netzwerksicherheit und Privatsphäre

Der Fokus der Veranstaltung liegt auf der Verbindung von Ethik zur Informatik, Implikationen für Informatik (z.B. bei Implementierung) und auch technische Möglichkeiten (etwa wie man Privacy implementieren kann oder sichere Kommunikation über Netze).

Inhaltlich werden keine Vorkenntnisse aus dem Bereich Ethik erwartet, sondern die Veranstaltung führt Ethikparadigmen kurz ein. Es werden Neugierde und Interesse am Thema und eine aktive Teilnahme an den Diskussionen erwartet.

Die Veranstaltung ist empfohlen für Informatik und informatiknahe Studiengänge.
Empfohlenes Vorwissen: Programmierung, Algorithmen und Datenstrukturen.

Vorlesungsinhalte

In der ersten Vorlesung wird ein Überblick über die inhaltlichen Fragestellungen gegeben, die von verschiedenen Dozenten vorgestellt werden (Reihenfolge entspricht nicht der Abfolge der Vorlesungsinhalte).

Stanislav Pilischenko

• Ethik – allgemeine Einführung: 1. Ethik – Überblick: Ethik, Moral, Soziale Normen, Theologie (Trennung). 2. Ethikparadigmen: Tugendethik (Aristoteles), Pflichtethik (Kant), Konsequentialismus (Utilitarismus, z. B. Mill), Metaethischer Ansatz (Levinas). 3. Moral Luck & Moralische Kontingenz (Thomas Nagel): Kontingenz (versch. Aspekte), beabsichtigte und unbeabsichtigten Handlungen, Schuld und Unschuld

• Ethik am digitalen Arbeitsplatz: 1. Verantwortungsvolles Arbeiten: Verantwortung (haben, abgeben, übernehmen), Zusammen- und selbständig arbeiten. 2. Verantwortungsvolles Gründen: Voranschreitende Digitalisierung & Innovation, Verantwortung für die Kunden, Umwelt und das Team, Rechtsformen bei der Gründung, Ethik und IT-Sicherheit vor Profit

Frank Puppe

• Entscheidungs-KI: Kann, darf oder soll eine KI Entscheidungen treffen (Vorauswahl von Angeboten, Stellenbewerbungen; juristische, politische Entscheidungen; Illustration am Beispiel Fußball-Schiedsrichter). Bedeutung der Trainingsfälle, Transparenz und Erklärbarkeit; Schwächen menschlicher Entscheidungsfindung; Zusammenspiel von KI- und menschlichen Entscheidungen.

• Medizinische KI: Fernbehandlung; Elektronische Patientenakte; Diagnose und Therapie durch KI angesichts der inhärenten Unsicherheit der Entscheidungen, Datenschutz vs. Verfügbarkeit von anonymisierten Patientenfällen als Trainingsdaten in der Medizinischen Diagnostik und Therapie. “Korrektur” genetisch bedingter Krankheiten oder unerwünschter Eigenschaften, Einsatz von Robotern in der Altenpflege;

Andreas Nüchter

• Autonome robotische Systeme - Die Entwicklung der Telematik und aktuelle Anwendungen: Fernhandhabungstechnik (analog / digital); Remote control / supervisory control / Autonome Systeme

• Autonomes Fahren – Stand der Technik und Perspektiven: Autonomielevel für das automatisierte Fahren; Sensoren und Technologien für das autonomes Fahren

Andreas Hotho

• Fake (News, Bild, Video) - Text, Bild und Video generieren, Fake News, Bild und Video, Analyse von Text/Bild zur Erkennung von generierten Sachen, Ersetzen von Personen in Bildern

• Plagiate: Von Text, wissenschaftlichen Aufsätzen, Duplikate erkennen, Übersetzen von Aufsätzen und Veröffentlichen in China, Paper generieren, Beispiel Konferenz ECML PKDD, von Produkten (3D Drucker) Patente

Tobias Hoßfeld

• Filter Bubbles: Was sind Filter Bubbles? Wie kann man diese messen? Wie entstehen Filter Bubbles? Wie funktionieren Empfehlungssysteme in sozialen Netzen? Wieviel Wahrscheinlichkeit braucht man für Diversität und Serendipity? Was ist der Wert der Unsicherheit? Was ist Algorithmenethik?

• Netzwerk Sicherheit und Privatsphäre: Warum ist Network Security wichtig? Kann man Authentizität gewährleisten? Was macht authentische Menschen aus? Wie weit darf der Staat für die digitale Sicherheit gehen? Wer darf Sicherheitslücken ausnutzen? Unter welchen Randbedingungen soll man Sicherheitslücken zurückhalten?

Eric Hilgendorf

• Die Vorschläge der EU HLEG on AI zur Regulierung von KI"? Zusammenfassung: Die "High Level Expert Group" der EU hat kürzlich Vorschläge für die ethische und rechtliche Regulierung von KI gemacht. Prof. Hilgendorf, selbst Mitglied der Expertengruppe, wird die Vorschläge vorstellen und kritisch diskutieren.