Gefahren bei künstlicher Intelligenz – Erklärung (deutsch)

In diesem Beitrag geht es um die Gefahren bei moderner KI - denn während oft die Vorteile und Chancen künstlicher Intelligenzen im Mittelpunkt stehen, wird nur selten auf Gefahren hingewiesen. Beginnen wir mit einem grundlegenden Punkt, der Entscheidungsfindung intelligenter Systeme.

  • Wir wissen nicht, wieso eine KI bestimmte Entscheidungen trifft

Stellen Sie sich einen KI-Algorithmus als eine Art Blackbox vor. Sie "füttern" diese Blackbox mit Daten, die anschließend diese Daten analysiert, Muster erkennt (Machine Learning) und bestimmte Entscheidungen trifft. Doch wieso bevorzugt das System die Entscheidungsmöglichkeit A?

Wieso nicht Option B? Ein konkretes Beispiel künstlicher Intelligenz macht das Problem deutlich: Ein Algorithmus wertet Kamerabilder auf und klassifiziert einen vorbeilaufenden Passanten als verdächtig. Doch wieso hat die Maschine diesen bestimmten Menschen als verdächtig eingeschätzt.

Gab es bestimmte Entscheidungskriterien, wie beispielsweise bestimmte Nuancen in seinem Verhalten, die in potentielle Verbindung mit Straftaten gesetzt werden? Jein. KI-Algorithmen entscheiden nicht zufällig, sondern anhand bestimmter Muster (v.a. im Bereich des maschinellen Lernens mit künstlichen neuronalen Netzwerken). Welche konkreten Muster jedoch zu einer Entscheidung geführt haben, ist unklar.

  • Eine zuverlässige KI braucht große Mengen Daten als Trainingsmaterial - Die Qualität schwankt oft

Insbesondere bei künstlichen neuronalen Netzen (auch bekannt als neural networks) werden Algorithmen mit Daten gefüttert. Diese speziellen Algorithmen bilden Teile des Nervensystems ab: Über mehrere zwischengelagerte Ebenen (Deep Learning) arbeitet der Algorithmus kleinste Unterschiede in Daten heraus und setzt diese in Verbindung. Viele miteinander verbundene Eigenschaften von Daten (z.B. verschieden große Bildanteile und unterschiedliche Motive) können als Entscheidungsgrundlage verwendet werden.

Stellen wir uns folgendes Problem vor: Im Sommer kauft ein Unternehmen einen großen Satz an Satellitenbildern, um damit eine KI zu trainieren, die die Qualität von Wäldern mithilfe von Satellitenbildern beurteilen kann. Im Datensatz sind viele Beispiele für Schäden eines Waldes enthalten. Ein Beispielbild finden Sie hier.

Nach einem Sturm im Winter möchte die Firma ihren KI-Algorithmus testen. Dazu nimmt es aktuelle Satellitenbilder aus dem Winter. Es fällt jedoch auf, dass der Algorithmus kaum Schäden erkennt, obwohl er dafür trainiert wurde und im Sommer zuverlässig funktioniert hat. Der Grund: In den beschädigten Waldbereichen liegt Schnee. Die künstliche Intelligenz wurde jedoch ausschließlich mit Bildmaterial aus dem Sommer trainiert.

Schnee hat den Algorithmus verwirrt und seine Leistungsfähigkeit bedeutsam eingeschränkt. Und das nur, weil das Unternehmen bei der Entwicklung die Jahreszeiten und ihre Auswirkungen auf Satellitenbilder vergessen hat. Deshalb: Die Qualität des Trainingsmaterials entscheidet über den Erfolg von KI-Programmen.

Fazit:

Bei der KI-Entwicklung ist Transparenz, also die Nachvollziehbarkeit, wieso ein Algorithmus bestimmte Entscheidung vornimmt besonders wichtig. Zudem ist auf die Qualität der verwendeten Trainingsdaten zu achten, da die KI sonst zu fehlerhaften Entscheidungen tendiert. Einen Betrag mit weiteren Beispielen sowie einer Erklärung und Definition zu künstlicher Intelligenz finden Sie hier.

Abschließend die Frage: Was überwiegt Ihrer Meinung nach mehr - die Chancen oder Gefahren von KI? Teilen Sie Ihre Meinung in den Kommentaren.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Verwandte Beiträge

Beginne damit, deinen Suchbegriff oben einzugeben und drücke Enter für die Suche. Drücke ESC, um abzubrechen.

Zurück nach oben