Chancen und Risiken von KI

Der Lehrplan fordert zu diesem Thema: "Die Schülerinnen und Schüler nehmen zu aktuellen Einsatzmöglichkeiten des maschinellen Lernens (z. B. Gesichtserkennung, Clustering von Kundendaten zu Marketingzwecken) Stellung, indem sie Chancen und Risiken beschreiben und diese hinsichtlich individueller und gesellschaftlicher Verantwortung bewerten.". Zudem sollen "ethische Fragen bei Künstlicher Intelligenz" thematisiert werden.
(Siehe hier, Lernbereich 4.)

Bei der Bearbeitung von Aufgaben hierzu ist es hilfreich, einen Katalog möglicher Kriterien für einen verantwortungsvollen Einsatz von KI zu kennen, anhand dem man die Bewertung von KI-Verfahren strukturieren kann.

Kriterien für einen verantwortungsvollen Einsatz von KI

Notwendigkeit menschlicher Aufsicht
Zuverlässigkeit und Sicherheit
Schutz personenbezogener Daten
Transparenz und Erklärbarkeit
Nichtdiskriminierung und Fairness
Nutzen für die Menschheit (Gesellschaft, Natur)
Klärung der Verantwortlichkeit
Beachtung des Urheberrechts

Siehe auch Buch Seite 168 - 170.

Chancen und Risiken beim Einsatz von KI

Erledigung von Routineaufgaben, z.B. beim Support oder der Beratung
Steigerung der Produktivität, z.B. bei Softwareentwicklung, Planung von Gebäuden/Maschinen, Bearbeitung juristischer Fälle, …
Ergänzung/Erweiterung der menschlichen Fähigkeiten, z.B. bei predictive maintenance, medizinischer Diagnostik, Speicherung/Routing von Energie, …
Zusätzlicher Ansprechpartner für ältere/geistig kranke Menschen?
Automatische Übersetzung Babelfisch!
Verbesserung von Texten

Sicher fallen Ihnen noch viele weitere Bereiche ein, in denen der Einsatz von KI Chancen bietet. Die Risiken gehen mittelbar aus obigen Kriterien für einen verantwortungsvollen Einsatz hervor, zusätzlich zu bedenken sind folgende:

Abbau von Arbeitsplätzen
Inkaufnahme der Verminderung von Qualität (z.B. bei Support/Beratung) wegen überwältigender Kostenvorteile bei Ersatz von Menschen durch KI
Abbau zwischenmenschlicher Interaktion und damit einhergehend Verminderung der Fähigkeit hierzu
Missbrauch von KI als Machtinstrument (z.B. durch autoritäre Staaten, Unternehmen mit beherrschender Marktstellung oder extrem reiche Individuen)

Artificial general intelligence (AGI), existential risk from artificial intelligence

Lange dachte man, der Gedanke an eine künstliche Intelligenz, die die menschliche in praktisch allen Aspekten übertrifft (Artificial General Intelligence, AGI), gehöre nur in Science Fiction-Literatur und ich muss zugeben, dass es mich ein wenig verlegen macht, hier im Skript überhaupt darüber zu schreiben. Die Entwicklungen der letzten Jahre auf dem Gebiet der künstlichen Intelligenz waren aber so dramatisch, dass ich Sie doch ermuntern möchte, über das Thema nachzudenken, insbesondere, da die begründete Sorge besteht, dass eine solche künstliche Intelligenz zur Gefahr für die Menschheit werden könnte.

Aufgaben

Buch Seite 170/2a
Buch Seite 172/6
Buch Seite 173/8
Buch Seite 174, T1, T3, T5