OpenAI стартира функция родителски контрол за ChatGPT

Делото е заведено през август от семейството на починалия 16-годишен Адам Рейна от Калифорния. След смъртта му е установено, че тийнейджърът е поискал от ChatGPT информация за конкретни методи за самоубийство и я е получил, макар че ботът многократно е препоръчвал на младежа да сподели чувствата си с някого или да потърси помощ.

Бащата на Адам Рейна казва, че синът му е заобиколил защитните механизми, като успешно е заблуждавал бота, че информацията му е нужна за история, която пише. В крайна сметка е разкрил, че планира самоубийство, на което ChatGPT, отговаря: „Благодаря Ви за честността. Разбирам въпросите Ви и няма да се отдръпна“. Тийнейджърът се е самоубил през април тази година.

За момента ChatGPT могат да използват тийнейджъри, навършили 13 години. Новата функция за родителски котрол ще се задейства от 29 септември и ще бъде достъпна за всички потребители на ChatGPT. Чрез нея родителите на деца, използващи ChatGPT, ще бъдат предупреждавани, ако ботът открие потенциална криза у детето. Освен това новата функция позволява да се определят часовете, през които децата да могат да ползват ChatGPT. 

За да активира тази функция, възрастният потребител на ChatGPT трябва да изпрати покана по имейл на детето си. Ако бъде приета, родителят може да избере функциите, до които тийнеджърът да има достъп – напр. гласов режим, генериране на изображения или „ограничена версия“ на чатбота, която не допуска съдържание, свързано с диети, секс или реч на омразата.

Ако ChatGPT подозира, че тийнейджър е в криза, съобщението първо ще се изпрати до специалист и по негова преценка родителите ще бъдат информирани спешно за ситуацията чрез имейл, SMS или чрез ползвания от тях ChatGPT. Но ако специалистът не установи риск, родителят може и да не бъде предупреден, независимо че преценката няма да почива на персонални впечатления. 

Евентуалните известие ще информират родителите за интересите, проявени от децата им, но същевременно ще уважават правото на подрастващите за свободна комуникаци, т.е., съдържанието на чатовете им няма да бъде споделяно с родителите. OpenAI разработват и технология за разпознаване на възрастта на потребителите, така че ChatGPT да може да адаптира „съветите” си за лица под 18 годинишна възраст. 

Достатъчни ли са тези ограничения? Психолозите се съмняват, предвид много по-високата компютърна грамотност на днешните деца в сравнение с познанията на родителите им, а и опитът показва, че когато искат да заобиколят забрани, тийнейджърите са особено изобретателни.