OpenAI se připravuje na vydání významných změn ChatGPT do konce roku, které uvolňují omezení na citlivá témata, jako je duševní zdraví, a potenciálně umožňují explicitní obsah pro ověřené dospělé uživatele. Tento krok signalizuje posun směrem k větší autonomii pro dospělé uživatele při zachování ochrany nezletilých.
Řešení duševního zdraví a svoboda pro dospělé
Generální ředitel Sam Altman v X oznámil, že společnost „zmírnila vážné problémy s duševním zdravím“, které dříve vedly k vážným omezením schopností ChatGPT. Nástroje určené k řešení citlivých témat a krizových situací zůstanou dostupné všem uživatelům, ale dospělí budou čelit méně proaktivním zásahům, jako jsou vyskakovací upozornění nebo vynucené resetování modelu.
„K uživatelům, kteří jsou v krizi duševního zdraví, budeme přistupovat jinak než k těm, kteří nejsou,“ řekl Altman a zdůraznil rovnováhu mezi bezpečností a svobodou.
Rozhodnutí následuje po kritice a dokonce po žalobách proti OpenAI po obviněních, že ChatGPT přispěl k sebevraždě teenagera. Společnost reagovala rodičovskou kontrolou, varováním o rizikovém chování a vytvořením verze chatbota zaměřeného na teenagery. Tato opatření, i když byla kontroverzní, měla za cíl vyřešit skutečné obavy z dopadu platformy na zranitelné uživatele.
Erotika a ověření věku: Nové obzory?
Snad nejpozoruhodnější změnou je od prosince potenciální podpora „erotiky“ pro ověřené dospělé uživatele. OpenAI plánuje implementovat systém „ověření věku“, aby omezil přístup k obsahu pro dospělé, podle zásady, že se dospělí chovají jako… tedy dospělí. Rozhodnutí odráží rostoucí debatu o cenzuře a autonomii uživatelů na platformách umělé inteligence.
Osobnost a uživatelská zkušenost
Kromě omezení obsahu řeší OpenAI také problémy s identitou ChatGPT. Uživatelé dříve vyjádřili nespokojenost poté, co společnost nahradila poutavý model GPT-4o neosobnějším modelem GPT-5. Nadcházející verze obnoví lidštější, možná dokonce „zábavnou“ osobnost a umožní uživatelům přizpůsobit si interakci s chatbotem pomocí emoji a personalizovaných odpovědí, pokud si to přejí.
Velký obrázek
Tyto změny jsou součástí širšího trendu směrem k flexibilnějším politikám AI. OpenAI, stejně jako ostatní velcí vývojáři AI, prochází složitým průsečíkem bezpečnosti uživatelů, svobody projevu a komerční životaschopnosti. Zmírnění omezení by mohlo přilákat více dospělých uživatelů a zároveň chránit nezletilé. Kritici však zůstávají opatrní ohledně potenciálního zneužití a etických důsledků povolení explicitního obsahu na platformách AI.
Společnost také vytvořila poradní výbor složený z odborníků na umělou inteligenci a pohodu, včetně psychologů, aby poskytovala rady ohledně zodpovědného vývoje a implementace. Řešení OpenAI pravděpodobně vytvoří precedens pro další společnosti AI, které čelí podobným problémům.
