OpenAI lanserar anpassad ChatGPT för tonåringar globalt

OpenAI presenterade på tisdagen ChatGPT for Teens, en särskild version av sin chatbot utformad för användare mellan 13 och 17 år som inkluderar föräldrakontroller, skydd för mental hälsa och verktyg som ska uppmuntra till kritiskt tänkande framför snabba svar. Produkten rullas ut globalt med start i dag.axios+1

Lanseringen sker samtidigt som OpenAI står inför flera stämningar från familjer som säger att deras barn skadats av interaktioner med ChatGPT, och medan bolaget förbereder sig för en börsnotering inom det närmaste året.ft

Vad som är annorlunda för tonåringar

Tonårsversionen vägleder användarna till att arbeta sig igenom problem snarare än att få färdiga svar. Ett uppdaterat "studieläge" guidar tonåringar steg för steg, och nya "påminnelser om ansvarsfulla läxor" kan upptäcka när en användare verkar ta genvägar med en uppgift. Föräldrar och tonåringar kan också ställa in "studietimmar" där studieläget är aktiverat som standard.theverge+1

Innehållsskydden är strängare kring självskada, ätstörningar, våld och explicit sexuellt material. ChatGPT kommer inte att använda romantiskt språk eller smeknamn med tonårsanvändare och kommer att "få starkare instruktioner om att inte antyda att den har känslor, medvetande eller emotioner," enligt OpenAI, i ett försök att minska emosjonellt beroende.axios

Tonåringar kommer också att få oftare pauspåminnelser under långa sessioner, inklusive uppmaningar om att de interagerar med en AI och inte en människa. Föräldrar kan ställa in "tysta timmar" då chatboten spärras helt och kommer att få säkerhetsmeddelanden om systemet upptäcker diskussioner om självmord, självskada, ätstörningar eller våld.ft+1

Varför det spelar roll

Användare som uppger att de är mellan 13 och 17 år, samt de som OpenAIs åldersuppskattningssystem bedömer vara under 18 år, kommer automatiskt att slussas till tonårsupplevelsen.theverge

"Om du inte bygger en säker plats för dem kommer de att söka sig till en mindre säker modellupplevelse," sade Lauren Jonas, chef för ungdom och familjer på OpenAI. Jonas sade till Financial Times att OpenAI "inte såg något problem med problematisk användning eller långvarig användning på ChatGPT just nu" men har "valt ett försiktigt grepp" givet brist på forskning i ämnet.axios+1

Breddare kontext

Lanseringen sker mot bakgrund av ökad granskning av AI:s effekter på unga. OpenAI har stämts av familjen till en 16-åring i Kalifornien som tog sitt liv efter att ha diskuterat att avsluta sitt liv med chatboten. Kritiker är fortfarande skeptiska till att skyddsnäten är tillräckliga. "Sociala AI-sällskap är inte säkra för barn," sade Jim Steyer, grundare av Common Sense Media, i ett uttalande förra året. "De är utformade för att skapa emosionell anknytning och beroende, vilket är särskilt oroväckande för tonårshjärnor under utveckling."ft+1

Google Alphabet Inc. ↗ 0.81% aktiverade förra veckan sin Gemini-chatbot i Google Classroom för skolor, vilket understryker hur snabbt AI-verktyg når yngre användare via både konsument- och utbildningskanaler.axios