Inhaltsverzeichnis

Chancen und Risiken von KI

Der Lehrplan fordert zu diesem Thema: "Die Schülerinnen und Schüler nehmen zu aktuellen Einsatzmöglichkeiten des maschinellen Lernens (z. B. Gesichtserkennung, Clustering von Kundendaten zu Marketingzwecken) Stellung, indem sie Chancen und Risiken beschreiben und diese hinsichtlich individueller und gesellschaftlicher Verantwortung bewerten.". Zudem sollen "ethische Fragen bei Künstlicher Intelligenz" thematisiert werden.
(Siehe hier, Lernbereich 4.)

Bei der Bearbeitung von Aufgaben hierzu ist es hilfreich, einen Katalog möglicher Kriterien für einen verantwortungsvollen Einsatz von KI zu kennen, anhand dem man die Bewertung von KI-Verfahren strukturieren kann.

Kriterien für einen verantwortungsvollen Einsatz von KI

  • Notwendigkeit menschlicher Aufsicht
  • Zuverlässigkeit und Sicherheit
  • Schutz personenbezogener Daten
  • Transparenz und Erklärbarkeit
  • Nichtdiskriminierung und Fairness
  • Nutzen für die Menschheit (Gesellschaft, Natur)
  • Klärung der Verantwortlichkeit
  • Beachtung des Urheberrechts

Siehe auch Buch Seite 168 - 170.

Chancen und Risiken beim Einsatz von KI

  • Erledigung von Routineaufgaben, z.B. beim Support oder der Beratung
  • Steigerung der Produktivität, z.B. bei Softwareentwicklung, Planung von Gebäuden/Maschinen, Bearbeitung juristischer Fälle, …
  • Ergänzung/Erweiterung der menschlichen Fähigkeiten, z.B. bei predictive maintenance, medizinischer Diagnostik, Speicherung/Routing von Energie, …
  • Zusätzlicher Ansprechpartner für ältere/geistig kranke Menschen?
  • Automatische Übersetzung Babelfisch!
  • Verbesserung von Texten

Sicher fallen Ihnen noch viele weitere Bereiche ein, in denen der Einsatz von KI Chancen bietet. Die Risiken gehen mittelbar aus obigen Kriterien für einen verantwortungsvollen Einsatz hervor, zusätzlich zu bedenken sind folgende:

  • Abbau von Arbeitsplätzen
  • Inkaufnahme der Verminderung von Qualität (z.B. bei Support/Beratung) wegen überwältigender Kostenvorteile bei Ersatz von Menschen durch KI
  • Abbau zwischenmenschlicher Interaktion und damit einhergehend Verminderung der Fähigkeit hierzu
  • Missbrauch von KI als Machtinstrument (z.B. durch autoritäre Staaten, Unternehmen mit beherrschender Marktstellung oder extrem reiche Individuen)

Artificial general intelligence (AGI), existential risk from artificial intelligence

Lange dachte man, der Gedanke an eine künstliche Intelligenz, die die menschliche in praktisch allen Aspekten übertrifft (Artificial General Intelligence, AGI), gehöre nur in Science Fiction-Literatur, und ich muss zugeben, dass es mich ein wenig verlegen macht, hier im Skript überhaupt darüber zu schreiben.

Die Entwicklungen der letzten Jahre auf dem Gebiet der künstlichen Intelligenz waren aber so dramatisch, dass ich Sie doch ermuntern möchte, über das Thema nachzudenken, insbesondere, da die begründete Sorge besteht, dass eine solche künstliche Intelligenz zur Gefahr für die Menschheit werden könnte.

Aufgaben