Was mit ChatGPT in Bewegung kommt…
veröffentlicht am 17.04.2023
Was verbirgt sich hinter der Abkürzung ChatGPT und was kann die neue Technologie?
Was bedeutet die Abkürzung ChatGPT?
ChatGPT steht für „Chatbot Generative Pretrained Transformer“ (frei übersetzt „Allgemeiner vortrainierter Umwandler“). Auf Basis von riesigen Datenmengen (überwiegend aus dem Internet) erzeugt ChatGPT mit Hilfe von maschinellem Lernen (einer Methode künstlicher Intelligenz) Texte, die von menschlich verfassten Texten kaum oder gar nicht unterscheidbar sind. Die Software „antwortet“ auf eine Frage, die man eingibt, und geht dabei nach einer Wahrscheinlichkeitsverteilung vor. Sie erzeugt durchaus eloquente, wenn auch sehr allgemein gehaltene Texte.
Welche Nachteile hat ChatGPT?
Zu beachten ist, dass aktuell nur Daten bis 2021 verwendet werden. Das bedeutet, dass ChatGPT Informationen ab 2021 nicht mehr verarbeitet und daher schon aus diesem Grund falsche bzw. veraltete Ergebnisse liefern kann. Aber auch sonst kann ChatGPT unrichtige Informationen enthalten. Weiters gibt ChatGPT keine Quellen an, die einer Aussage zugrunde liegen. Deshalb laufen Verwender:innen derartiger Texte auch Gefahr, Urheberrechtsverstöße zu begehen, wenn sie – ohne es zu wissen – geschützte Inhalte wiedergeben und ihren Urheber oder ihre Urheberin nicht kennzeichnen.
Ist künstliche Intelligenz gesetzlich geregelt?
Natürlich gelten z.B. Datenschutzbestimmungen auch für künstliche Intelligenz. Aber es gibt keine Gesetze, die spezifisch auf künstliche Intelligenz eingehen. Seit 2021 wird eine EU Verordnung über künstliche Intelligenz verhandelt. Die EU Mitgliedstaaten haben sich bereits geeinigt – wir haben darüber berichtet. Europäische Regulierung der Künstlichen Intelligenz (KI) – ein weiterer Pflock ist eingeschlagen (konsumentenfragen.at). Nun ist das europäische Parlament an der Reihe. Bis zur Beschlussfassung wird es also noch dauern.
Einstufung von ChatGPT als hochriskant?
Künstliche Intelligenz, die nicht für einen bestimmten Zweck (wie z.B. personalisierte Werbung oder die Feststellung der Kreditwürdigkeit) entwickelt wurde, sondern wie ChatGPT allgemein in verschiedensten Bereichen einsetzbar ist, wurde im Entwurf der Europäischen Kommission nicht ausdrücklich berücksichtigt. In der Gesetzesfassung, auf die sich die EU Mitgliedstaaten geeinigt haben, gibt es nun für allgemeine Systeme, sofern sie auch für hochriskante Anwendungen (wie z.B. Bonitätsbewertungen oder Arbeitsvermittlung) verwendet werden können, spezifische Anforderungen. Näheres ist aber erst durch ein Durchführungsgesetz der Europäischen Kommission auszugestalten. Im Europäischen Parlament wird jetzt intensiv darüber diskutiert, ob Software wie ChatGPT als hochriskant eingestuft und damit z.B. mit einem Risikomanagementsystem ausgestattet werden und einer stärkeren staatlichen Überwachung unterliegen soll.
Auch internationale Expert:innen und Organisation sprechen sich dafür aus, ChatGPT als hochriskant zu beurteilen. Es bleibt also spannend, welche rechtlichen Anforderungen das europäische Gesetz an Systeme wie ChatGPT EU-weit stellen wird.
EU Mitgliedstaaten setzen unterschiedliche Akzente
In Italien hat die Datenschutzbehörde ChatGPT mittlerweile vorläufig gesperrt, nachdem Nutzer- und Kreditkartendaten öffentlich zugänglich wurden. Die französische Datenschutzbehörde unterzieht derzeit ChatGPT einer behördlichen Überprüfung. Die spanische Datenschutzbehörde appelliert an die Europäischen Behörden tätig zu werden. In Deutschland spricht sich das Digitalisierungsministerium gegen ein Verbot aus. Auch der österreichische Staatssekretär für Digitalisierung sprach sich kürzlich für Regulierung, aber gegen Verbote aus.
Welche Erfahrungen haben Sie mit ChatGPT gemacht? Welche Vor- und Nachteile sehen Sie? Schreiben Sie uns ihre Meinung an iii3@sozialministerium.at.