Liebe Schülerinnen und Schüler, liebe Eltern, liebe Kolleg*innen, 
 
über die Ferien hat die Webanwendung Chat-GPT (https://chat.openai.com/
einige Wellen geschlagen, deshalb ein paar Hinweise aus unserer Sicht dazu. 


Bei der Anwendung handelt es sich um einen Chatbot der Firma OpenAI, welcher durch ein bisher herausragendes Sprachmodell in der Lage ist, nicht nur auf Fragen mehr oder weniger korrekt zu antworten, sondern der auch gleich ganze Analysen, zu beispielsweise Gedichten etc., bereitstellen kann, zumindest oberflächlich betrachtet.  
Erörtere die Frage der Impfpflicht fördert zum Beispiel eine frisch generierte Erörterung der Impfpflicht zutage. Schreibe ein Arduino-Programm, welches eine Figur über ein Display hüpfen lässt, generiert den entsprechenden Quellcode. Die Software eignet sich also durchaus auch für Fragestellungen, die im schulischen Kontext entstehen. Was der Sinn des Lebens ist, ist übrigens eine weitere beliebte Aufgabenstellung. Oder: Schreibe ein Lied zu [hier beliebigen Namen einfügen]. 


Zur Funktionsweise:  
Die Software ist keine wirkliche künstliche Intelligenz, wie der Name vermuten lässt, sondern lediglich ein Algorithmus, der eine Frage oder Aufforderung anhand eines hinterlegten Sprachmodells interpretiert und die Antwort generiert, in dem er Wort für Wort abarbeitet, welches nächste Wort das wohl wahrscheinlichste ist. Die Wahrscheinlichkeit ist (vereinfacht gesagt) abhängig vom Vorkommen des gleichen oder ähnlichen Satzes in den (riesigen) Trainingsdaten, mit denen der Algorithmus angelernt wurde. 
Die Software weiß nicht, was richtig oder falsch ist, sondern hat nur die entsprechende Wahrscheinlichkeit des nächsten Wortes im Blick. Das führt dazu, dass die Ergebnisse in oft einwandfreiem Stil geschrieben, aber inhaltlich falsch sind. Man bekommt immer eine Antwort, oft aber eben eine teilweise oder sogar gänzlich falsche. Das gilt auch für nachgefragte Quellen, die der Chatbot manchmal erfindet, sollte es in den Trainingsdaten keine Quellenverweise zu einem bestimmten Thema geben. 
Texte, die mit einer AI generiert sind, müssen deshalb bei Weitergabe nicht nur mit einem entsprechenden Verweis gekennzeichnet, sondern auch unbedingt auf inhaltliche Korrektheit überprüft werden. 

KI-generierte Texte lassen sich zur Zeit noch leicht erkennen, beispielsweise dadurch, dass die Komplexität der Satzkonstruktionen immer gleichmäßig ist, während menschliche Autor*innen darin variieren. 
 
Wenn das Werkzeug ausprobiert werden soll, appellieren wir daran, die Anwendung bewusst und verantwortungsvoll einzusetzen. Wir hoffen, dass das Verständnis der hinter Chat-GPT liegenden Technologie dabei hilft.