OpenAI startet spezialisierte ChatGPT-Version für Jugendliche weltweit

OpenAI hat am Dienstag ChatGPT for Teens vorgestellt, eine spezielle Version seines Chatbots für Nutzer im Alter von 13 bis 17 Jahren. Diese umfasst Kindersicherungsfunktionen, Schutzmaßnahmen für die mentale Gesundheit und Werkzeuge, die kritisches Denken fördern sollen, anstatt bloß schnelle Antworten zu liefern. Das Produkt wird ab heute weltweit eingeführt.axios+1

Die Einführung erfolgt zu einem Zeitpunkt, an dem OpenAI mit mehreren Klagen von Familien konfrontiert ist, die angeben, ihre Kinder seien durch Interaktionen mit ChatGPT geschädigt worden, und während sich das Unternehmen auf einen Börsengang innerhalb des nächsten Jahres vorbereitet.ft

Was für Jugendliche anders ist

Die Jugendversion leitet Nutzer dazu an, Aufgaben schrittweise zu durchdenken, anstatt fertige Antworten zu liefern. Ein aktualisierter „Lernmodus“ führt Jugendliche Schritt für Schritt an Themen heran, und neue „Erinnerungen für verantwortungsvolle Hausaufgaben“ können erkennen, wenn ein Nutzer versucht, eine Aufgabe abzukürzen. Eltern und Jugendliche können zudem „Lernzeiten“ festlegen, in denen der Lernmodus standardmäßig aktiviert ist.theverge+1

Die Inhaltsbeschränkungen sind bei den Themen Selbstverletzung, Essstörungen, Gewalt und explizit sexuellen Inhalten strenger angesetzt. ChatGPT wird gegenüber jugendlichen Nutzern keine romantische Sprache oder Koseworte verwenden und wird laut OpenAI „noch strenger angewiesen, nicht vorzugeben, Gefühle, ein Bewusstsein oder Emotionen zu haben“, um eine emotionale Abhängigkeit zu verringern.axios

Jugendliche erhalten außerdem bei längeren Sitzungen häufiger Erinnerungen an Pausen sowie Hinweise darauf, dass sie mit einer KI und nicht mit einem Menschen interagieren. Eltern können „Ruhezeiten“ festlegen, in denen der Chatbot vollständig gesperrt ist, und erhalten Sicherheitsbenachrichtigungen, falls das System Diskussionen über Suizid, Selbstverletzung, Essstörungen oder Gewalt registriert.ft+1

Warum das wichtig ist

Nutzer, die angeben, zwischen 13 und 17 Jahre alt zu sein, sowie Nutzer, die vom Altersschätzungssystem von OpenAI auf unter 18 Jahre geschätzt werden, gelangen automatisch in den Jugendmodus.theverge

„Wenn man keinen sicheren Raum für sie schafft, werden sie zu einer weniger sicheren Modellerfahrung wechseln“, sagte Lauren Jonas, Leiterin des Bereichs Jugend und Familien bei OpenAI. Jonas erklärte gegenüber der Financial Times, dass OpenAI „derzeit kein Problem mit problematischer oder übermäßiger Nutzung von ChatGPT sieht“, aber aufgrund des Mangels an Studien zu diesem Thema „einen konservativen Ansatz gewählt hat“.axios+1

Breiterer Kontext

Die Veröffentlichung erfolgt in einer Phase verstärkter Überprüfung der Auswirkungen künstlicher Intelligenz auf junge Menschen. OpenAI wurde von der Familie eines 16-jährigen Jugendlichen aus Kalifornien verklagt, der nach Gesprächen über eine Beendigung seines Lebens mit dem Chatbot Suizid beging. Kritiker bleiben skeptisch, ob die Schutzmaßnahmen ausreichen. „Soziale KI-Begleiter sind für Kinder nicht sicher“, sagte Jim Steyer, Gründer von Common Sense Media, im vergangenen Jahr in einer Erklärung. „Sie sind darauf ausgelegt, eine emotionale Bindung und Abhängigkeit zu erzeugen, was für sich entwickelnde jugendliche Gehirne besonders bedenklich ist.“ft+1

Google Alphabet Inc. ↗ 0.81% hat vergangene Woche seinen Gemini-Chatbot in Google Classroom für Schulen freigeschaltet, was unterstreicht, wie schnell KI-Tools jüngere Nutzer sowohl über Verbraucher- als auch über Bildungskanäle erreichen.axios