|
|
|
Der hohe Verbrauch von Energie und teilweise auch Wasser beim Training von LLMs ist eine der direktesten Auswirkungen moderner KI. Zusätzlich werden große Rechenzentren und leistungsfähige Hardware benötigt, deren Herstellung ebenfalls Rohstoffe und Energie verbraucht. Man hofft, dass zukünftige Systeme durch technische Fortschritte deutlich effizienter werden und weniger Ressourcen benötigen, gleichzeitig dürfte ihre Verbreitung weiter zunehmen. Daher ist unklar, ob der gesamte Energie- und Wasserverbrauch durch KI langfristig sinken wird.
Moderne KIs laufen meist auf Servern, viele davon außerhalb Europas.
Jede Eingabe in einen Chatbot oder andere KI, muss es zum Server
übertragen und eventuell auch dort gespeichert werden. Möglicherweise
landen diese Eingaben sogar in den Trainingsdaten.
Anbieter von KI-Diensten sammeln anfallende Daten und verwenden diese
für verschiedene Zwecke oder geben diese an Partner weiter.
Das ist vielen nicht bewusst, weil es nicht immer so klar gesagt wird.
Kritiker fordern in diesem Bereich mehr Transparenz.
Besonders sensibel sind vertrauliche Daten aber auch personenbezogene
Daten, die also einer bestimmten Person zugeordnet werden könnnen, was
nicht immer offensichtlich ist.
Das Sammeln von Daten muss nicht immer ein Problem sein, kann aber in
manchen Fällen für Betroffene nachteilig sein.
Anbieter können aus den Daten Interessen, Gewohnheiten oder Vorlieben
ableiten und Benutzerprofile erstellen (Stichwort Tracking und
Profiling).
Bei Firmen sind auch geschäftsbezogene Daten betroffen.
KI-Systeme können selbst Ziel von Cyberangriffen werden. Gleichzeitig können Angreifer KI nutzen, um Phishing-Mails, Deepfakes oder andere digitale Angriffe einfacher und schneller durchzuführen.
KI-Chatbots sind sehr hilfreiche Werkzeuge aber sie können sich auch irren.
KI-Chatbots erkennen oft nicht, wenn sie zu einem Thema nur unzureichende Informationen haben. In solchen Fällen können sie Inhalte erfinden, die dennoch glaubwürdig und fachkundig wirken. Dabei werden manchmal sogar erfundene Quellen oder Tatsachen angegeben. Diese gefährliche Form der Täuschung nennt man Halluzination.
Die Antworten des Chatbots können verzerrte Ansichten enthalten. Das nennt man Voreingenommenheit oder Bias.
mögliche Gründe
Die Erstellung eines großen Sprachmodells (Large Language Model, LLM) ist ein mehrstufiger Vorgang, mehrere davon mit menschlichem Eingriff.
optional:
Rohdaten → Datenaufbereitung → Pretraining → Basis-LLM → kuratierte
Beispieldaten → Fine-Tuning / Alignment → angepasstes LLM
Der Bias kann nicht aus der Datenverarbeitung des
Chatbot stammen, denn dabei handelt es sich nur um numerische
Berechungen. Mögliche Quellen für Bias sind falsche oder veraltete
Trainingsdaten und alle menschlichen Eingriffe.
Auch ein nicht gut formulierter Prompt kann zu Fehlern in der Antwort
beitragen.
Die Möglichkeiten eine vorliegenden Bias sollte man Ernst nehmen,
aber genau prüfen.
Nicht jeder behauptete Bias ist tatsächlich einer, manche Menschen
erheben den Vorwurf, wenn sie nicht mit einem Ergebnis zufrieden sind.
Ein Bias könnte aber tatsächlich bewusst eingebaut worden sein, um
Benutzende zu manipulieren.
Vertraue niemals blind dem Ergebnis oder Rat eines Chatbots:
Hat jemand selbst schon Erfahrung gemacht mit falschen Auskünften
durch einen Chatbot?
In welchen Situationen könnten falsche KI-Antworten besonders
problematisch sein?
Teilt eure Erfahrung mit der Gruppe.
Den Vorgang in einem Neuronalen Netz kann man nicht oder nur schwer
nachvollziehen. Dieses Verhalten wird auch “Black-Box-Prinzip”
genannt.
Man kann schlecht einschätzen, warum ein bestimmtes Ergebnis so
geliefert wurde und insbesondere ist nicht offensichtlich warum und wo
ein Fehler passiert ist.
KI-Modelle lernen statistische Zusammenhänge aus großen Datenmengen. Solche Zusammenhänge können für Gruppen gelten, müssen aber nicht auf jeden einzelnen Fall zutreffen. Achte deshalb darauf, ob die Antwort ausgewogen wirkt und vermeide es, Verallgemeinerungen über Personen oder Untergruppen ungeprüft zu übernehmen.
Mittels generativer KI können sehr leicht täuschend echt wirkende, aber gefälschte Bilder und Videos erstellt werden. Auch die Erstellung echt wirkender, aber gefälschter Texte und Dokumente kann von KI übernommen werden.
Es wird zunehmend schwieriger, zwischen echten und gefälschten Inhalten zu unterscheiden, weil neue KI-Modelle häufig Schwächen ihrer Vorgänger beheben. Deshalb gibt es langfristig keine eindeutigen Erkennungsmerkmale für gefälschte Inhalte.
Dadurch ist das Vertrauen in digitale Inhalte insgesamt zurückgegangen. Ein Bild oder Video gilt heute nicht mehr automatisch als Beweis dafür, dass sich etwas tatsächlich so zugetragen hat.
Hat jemand selbst schon Erfahrung mit Deep Fakes gemacht?
Teilt eure Erfahrung mit der Gruppe.
Wenn du selbst generative Inhalte erstellst halte dich an Regeln zum Beispiel:
An Schulen und Arbeitsplätzen herrscht teilweise Verunsicherung, wie
mit KI-generierten Arbeiten umgegangen werden soll:
- Mit KI erstellte Arbeiten sind nicht automatisch Plagiate, aber mit KI
erzeugte Resultate als eigene auszugeben ist ein Täuschung.
- Verwende nur dort KI, wo es gestattet ist. Lege offen, wie du sie
verwendet hast, falls das vorgeschrieben ist.
KI-Kompetenz wird eine der wichtigsten Fähgikeiten am Arbeitsmarkt und wird nicht nur Berufe verdrängen sondern auch ergänzen und neue Berufe schaffen.
Wie wird sich KI auf folgende Berufe auswirken?
- Arzt
- Forscher
- Maurer
- Lehrer
- Koch
- Kellner
- Maler
- Musiker
Alle Berufe werden in irgendeiner Weise von KI betroffen sein. Manche Tätigkeiten können stark automatisiert werden, andere benötigen weiterhin menschliche Fähigkeiten wie Kreativität, soziale Kompetenz oder körperliches Geschick.
Arzt
KI kann medizinische Bilder auswerten, bei Diagnosen unterstützen, Patientenakten analysieren und bei der Medikamentenauswahl helfen. In manchen Bereichen erreicht sie bereits eine Genauigkeit, die mit menschlichen Experten vergleichbar ist. Wichtige Entscheidungen zur Behandlung werden wohl in nächster Zeit noch von Menschen getroffen werden.
Forscher
KI kann große Datenmengen analysieren, Literatur durchsuchen, Hypothesen vorschlagen, beim Programmieren oder Schreiben wissenschaftlicher Texte helfen. Dadurch können Forschende mehr Zeit für kreative und strategische Aufgaben aufwenden.
Maurer
Die Kombination von KI mit Robotik ist momentan noch nicht in der Lage, handwerkliche Berufe vollständig zu ersetzen. Langfristig könnten KI-gesteuerte Roboter jedoch immer mehr Aufgaben übernehmen.
Lehrer
KI kann Lernmaterial erstellen, Übungen anpassen, Texte korrigieren und individuelles Feedback geben. Die pädagogische Betreuung, Motivation der Schülerinnen und Schüler sowie die soziale Interaktion kann von KI wohl nicht gänzlich übernommen werden.
Koch
KI kann Rezepte entwickeln, Speisepläne optimieren und Küchenabläufe
unterstützen. In einigen Bereichen gibt es bereits automatisierte
Kochsysteme.
Für menschliche Köche spricht:
Kreativität, Geschmackserfahrung, Anpassung an individuelle Wünsche
Kellner
Bestellungen können zunehmend automatisiert werden, etwa über Apps
oder digitale Assistenten. In manchen Restaurants werden bereits
Serviceroboter eingesetzt.
Für menschliche Kellner spricht:
Freundlichkeit, Beratung, persönlicher Kontakt
Musiker
KI kann Musik komponieren, Instrumente simulieren und bei der
Produktion helfen. Sie wird zunehmend als Werkzeug eingesetzt.
Für menschliche Musiker spricht:
Kreativität, individuelle Interpretation, Kontakt zum Publikum
Fazit
KI wird viele Berufe verändern, aber nicht alle in gleichem Ausmaß. Besonders betroffen sind Tätigkeiten, die hauptsächlich aus Informationsverarbeitung bestehen. Berufe, die soziale Fähigkeiten, Kreativität oder komplexe körperliche Arbeit erfordern, sind derzeit deutlich schwerer zu automatisieren. Gleichzeitig entstehen durch KI neue Berufsfelder und Spezialisierungen.
Ein Durchbruch in Richtung AGI (Allgemeine Künstliche Intelligenz)
würde die Auswirkungen von KI auf die Gesellschaft noch einmal
verstärken.
Die Auswirkungen einer ASI (Künstliche Superintelligenz) sind derzeit
schwer einschätzbar. Es ist verständlich, dass sich manche Menschen
Sorgen machen, dass eine solche Entwicklung auch Probleme verursachen
könnte.
Können solche Systeme außer Kontrolle geraten? Jede neue Technologie
birgt Risiken, das gilt besonders für sehr leistungsfähige
Technologien.
Gerade deshalb sind eine aktive Auseinandersetzung mit dem Thema und gute Fähigkeiten im Umgang mit KI wichtig. Moderne KI wird voraussichtlich nicht mehr verschwinden, denn sie beruht auf allgemein zugänglichen Verfahren und verbreiteter Hardware.
Für Kerntechnik benötigt man streng kontrolliertes spaltbares Material. Quantencomputer erfordern spezielle Hardware, die derzeit nur wenigen Organisationen zur Verfügung steht. Moderne KI basiert dagegen auf weit verbreiteter Computertechnik und veröffentlichten Verfahren. Deshalb ist es unwahrscheinlich, dass KI wieder verschwindet oder vollständig kontrolliert werden kann.
Die EU-KI-Verordnung (AI Act) soll den sicheren und fairen Einsatz von KI gewährleisten. KI darf Lehrkräfte unterstützen, wichtige Entscheidungen wie Benotungen dürfen jedoch nicht ausschließlich von einer KI getroffen werden. Systeme zur Leistungsbewertung oder Prüfungsüberwachung gelten als Hochrisiko-KI und unterliegen besonders strengen Regeln. Außerdem sollen Menschen vor Diskriminierung, Manipulation und intransparenten KI-Entscheidungen geschützt werden.
Einen Stil nachzuahmen ist für sich genommen meist kein Copyrightverstoß. Geschützt sind in erster Linie konkrete Werke, nicht allgemeine Stilmerkmale. Problematisch kann es werden, wenn KI-generierte Inhalte geschützte Werke, Marken oder Logos erkennbar übernehmen oder nachbilden. Die missbräuchliche Verwendung eines bekannten Firmenlogos auf einer Webseite oder in sozialen Medien kann rechtliche Folgen haben. Die meisten urheberrechtlichen Konflikte entstehen, wenn geschützte Inhalte verbreitet oder öffentlich zugänglich gemacht werden. Private Weiterleitungen an einzelne Personen sind meist unproblematisch.
Bei KI-generierten Inhalten ist nicht immer klar, ob und wer daran Urheberrechte besitzt.
Da moderne KI neue Möglichkeiten eröffnet hat, sind einige rechtliche Fragen derzeit noch nicht abschließend geklärt.
Bildet Gruppen und ordnet die KI-Herausforderungen nach Ihrer empfundenen Wichtigkeit:
Vergleicht dann eure Ergebnisse.