Wo treffen Kinder auf Künstliche Intelligenz?

Bereits ab dem Säuglingsalter werden Kinder mit künstlicher Intelligenz konfrontiert. Sogenannte Babycams setzen auf KI, um Säuglinge vor dem Ersticken oder Strangulieren zu bewahren. Die ersten aktiven Begegnungen mit KI erleben Kinder beim Umgang mit dem elterlichen Tablet, Smartphone oder Sprachassistenten. Z. B. wenn Siri oder Hey Google harmlose Witze erzählen oder Tiergeräusche nachmachen.

Mit zunehmendem Alter begegnet KI den Heranwachsenden vor allem auf ihren Lieblingsnetzwerken TikTok, Instagram und YouTube. Die Anbieter setzen KI ein, um

• zu erkennen, ob die Altersangabe der Userinnen und User korrekt ist,
• um Inhalte zu „empfehlen“ – z. B. auf der TikTok-For-You-Page oder im Instagram-Reels-Feed oder in den YouTube-Empfehlungen
• oder um Inhalte, Kommentare und Interaktionen zu moderieren (z. B. indem sie automatisiert Beleidigungen oder pornografisches Material erkennen)

TikTok ist, was KI-generierte Bilder angeht, Vorreiter in dessen Implementierung. Mithilfe des „AI greenscreen“-Effekt können Heranwachsende auf TikTok bereits künstlich Grafiken erstellen, die sich für Video-Hintergründe einsetzen lassen. Darstellungen von Nacktheit oder Gewalt werden von TikToks Bildgenerator nicht unterstützt und vorab herausgefiltert.

Was sind die Risiken von KI-Anwendungen wie DALL-E2?

Verletzung geistigen Eigentums

Nur indem KI mit realen Kunstwerken gefüttert wird, ist sie in der Lage, bestimmte Kunststile zu kopieren und nachzuempfinden. Leider gehen die Erfinder eines bestimmten Stils, so wie der polnische Fantasy-Zeichner Greg Rutkowski leer aus, wenn ihr Stil durch die Bild-Generatoren tausendfach kopiert wird. Dass Userinnen und User aller Welt unzählige Bilder erstellen (und sogar weiterverkaufen), die genauso aus seiner eigenen Feder stammen könnten, hält der polnische Zeichner für „unethisch“. Ihn treibt auch die Angst um, dass durch die tausendfache Vervielfältigung seines Stils seine eigene Arbeit entwertet wird – und sich niemand mehr für den Original-Urheber interessiert. Diese Befürchtungen teilen auch Künstler anderer Stilgattungen und fordern deshalb einen ethisch verantwortungsvolleren Einsatz der Technik.

Generierung verstörender oder jugendgefährdender Inhalte

Während einige Bildgeneratoren, wie DALL-E2 die Erstellung pornografischen oder gewaltverherrlichendem Material technisch unterbinden, haben andere deutlich laxere Bestimmungen. Bei Midjourney bzw. der dahinterliegenden Software Stable Diffusion war es möglich, u. a. pornografische Bilder, aber auch Deepfakes zu erstellen. Zwar untersagen die Anbieter von Stable Diffusion in den Nutzungsbestimmungen die Erstellung pornografischen Materials.

Mit Stable Diffusion, was sich mithilfe einer starken Grafikkarte und etwas technischem Geschick auch ohne Onlineverbindung auf dem heimischen Rechner nutzen lässt, wurde aber bereits pornografisches Material erstellt. Bereits kurz nach dem Stable Diffusion an die Öffentlichkeit ging, erschienen auf 4chan künstlich erstellte Nacktbilder von Berühmtheiten und weitere pornografische Bilder. Kritiker befürchten, dass Stable Diffusion für die kommerzielle Erstellung von Deepfake-Pornografie, Kinderpornografie, oder für Schmähkampagnen sowie Erpressung eingesetzt werden könnte.

Eine Prognose lautet: In ferner Zukunft werden die Bildgeneratoren deutlich einfacher zu bedienen sein und auch einem größeren Publikum zugänglich. Das kann dazu führen, dass im pubertären Leichtsinn oder aus Böswilligkeit, mithilfe von Bildgeneratoren pornografisches Material von Mädchen oder Jungen aus dem näheren Umfeld erstellt und verbreitet wird. Heranwachsende sollten daher über den sensiblen Umgang mit den eigenen Fotos und die rechtlichen Konsequenzen bei der Erstellung sowie Verbreitung von Deepfakes aufgeklärt werden.

Erstellung grafischen Materials für Falschnachrichten

Mit den Bildgeneratoren lassen sich auch historische Ereignisse bebildern, z. B. mit den Begriffen „War in Ukraine“, „military protest“ oder „Election in Brazil“. Leider können auch gar nicht so stattgefundene Ereignisse mithilfe der Bildgeneratoren bebildert werden. Die realitätsgetreuen Bildkreationen könnten dann als Beweise für Falschnachrichten herangezogen werden.

Existiert für Bildgeneratoren so etwas wie ein Jugendmedienschutz?

Laut der Nutzungsvereinbarung von DALL-E2 ist die Nutzung erst ab 18 Jahren erlaubt. Darüber hinaus untersagt deren Content-Richtline die Erstellung von gewaltverherrlichender oder sexueller Inhalte, was mithilfe eines Wortfilters gewährleistet wird. Bei andern Bildgeneratoren, wie Stable Diffusion ließen sich zeitweise nicht jugendfreie Bilder ohne Einschränkungen produzieren. Mittlerweile ist dies aber bei den im Netz gehosteten Versionen von Stable Diffusion nicht mehr möglich. Im Fall, dass die Software in der Urversion auf heimischen Rechner installiert wurde, lässt sich deren ethisch verantwortungsvolle Nutzung nur schwer kontrollieren.

Was sollten Heranwachsende über KI lernen?

Der Wunsch, Heranwachsende auf eine technisierte Zukunft vorzubereiten, ist eine Grundmotivation von Erziehenden, Kinder möglichst früh der Technik auszusetzen. Bereits beim Thema Programmieren streiten sich Bildungsexperten aber darüber, ob Programmier-Fähigkeiten die Heranwachsenden ausreichend auf die Zukunft vorbereiten – oder ob es auf das Verstehen der Zusammenhänge und Meta-Kenntnisse ankommt.

Lernexperten aus den Vereinigten Staaten empfehlen im Falle von KI, dass Kinder die Zusammenhänge von KI, Rechennetzwerken und Anwendungen fächerübergreifend erlernen sollen. Dabei müsste die Technik hinter der KI entmystifiziert werden und auch ethische Fragen über den Einsatz von KI diskutiert werden. Ein Beispiel: Beim Debattieren im Unterricht kann z. B. darüber gestritten werden, ob KI darüber entscheiden darf, welche Medikamente jemand bekommen darf oder ob KI bei Gerichtsentscheidungen eingesetzt werden sollte.

Anhand eines Tools wie DALL-E2 lässt sich in geeigneten Bildungssettings veranschaulichen,

• wie KI gestalterisch eingesetzt werden kann,
• wie KI ganze Kreativbranchen (Illustratoren, Zeichner) umstrukturiert,
• wie KI mit Informationen gefüttert werden muss, um seine Resultate zu verbessern.

Um sich im Informatikunterricht oder Kunstunterricht dem Thema anzunähern, müssten deshalb grundlegende Prinzipien von KI vermittelt werden: Wie funktioniert Machine Learning? Was sind Modelle? Wie funktionieren neuronale Netzwerke? Wie funktioniert Mustererkennung?

Tools um KI in Bildungssettings auszuprobieren

Mithilfe Teachable Machine, einem kostenlosen Google-Tool, können Heranwachsende bereits ganz praktisch erlernen, wie maschinelles Lernen funktioniert und sich Modelle erstellen lassen. Teachable Machine will anschaulich machen, wie eine KI mit Daten (z. B. Fotos oder Tönen) gefüttert wird. Die Daten werden dann in Modellen einem bestimmten Output zugeordnet: z. B. Fotos einer rechten Hand, einem Hund und Fotos einer linken Hand einer Katze.

Wie ein neuronales Netzwerk anhand von 50 Millionen von Einreichungen lernt, Zeichnungen zu erkennen, veranschaulicht Quickdraw. Ein Beispiel: Über hundert Tausend gekrizelte Mona Lisas trainieren helfen der KI, anhand weniger Striche zu erkennen, wenn eine neue Mona Lisa gemalt wird.