OpenAI е активирал набор от родителски контрол ChatGPT е предназначен да предложи на семействата инструменти за по-безопасно използване от тийнейджъри. Иновацията се стреми да балансира полезността на изкуствения интелект с ясни ограничения, които намаляват излагането на неподходящо съдържание и улесняват надзора.
Движението се случва в контекста на Притеснения относно изкуствения интелект при непълнолетни, особено поради нарастващата му образователна и домашна употреба. Компанията предлага подход, фокусиран върху сигурността и поверителността, след седмици на обществен дебат и медийно внимание в скорошен случай което възобнови разговора за въздействието на тези технологии върху младите хора.
Какво се променя с новите родителски контроли
Родителите могат свържете акаунта си с тази на подрастващия (между 13 и 18 години), за да активира специфични защити. Тази връзка изисква съгласие на непълнолетнияи от този момент нататък се прилагат допълнителни ограничения, предназначени за тази възрастова група.
- Приложение на допълнителни филтри които ограничават достъпа до чувствително съдържание: намаляване на графични материали, вирусни предизвикателства, ролеви игри със сексуален, романтичен или насилствен характер и екстремни идеали за красота.
- възможност за деактивирайте функциите като например памет, гласов режим или генериране на изображения, адаптиране на поведението на асистента към това, което всяко семейство счита за подходящо.
- опция изключване на разговорите от обучението на моделите, засилвайки поверителността на подрастващите и контрола им върху техните данни.
- конфигурация тихи часове и ограничения за да се балансира времето пред екрана с почивката и други дейности.
Важно е да се има предвид, че родителите не получават директен достъп до историята на чатовете на непълнолетни; инструментът е предназначен да модулира преживяването и да намали рисковете, като същевременно запазва разумно ниво на поверителност.
Сигнали и поверителност: как се управляват рисковите случаи
Ако употребата от подрастващия предполага възможни признаци на самонараняване или емоционален риск, се активира система за предупреждение, която може да предупреди родители или настойници. Тези сигнали не се изпращат автоматично от изкуствен интелект: човешки екип преглежда случаите и определя дали уведомяването е уместно.
От съображения за поверителност, известието ще сподели само строго необходимата информация за улесняване на семейната намеса. Точното съдържание, от което е направено известието, не се изпраща и, когато е необходимо, насоки, разработени с експерти да помогне за насочването на разговора с непълнолетния.
OpenAI показва, че те могат да се появят закъснения на доставките на сигналите поради обема на отзивите и потвърждава, че ако е необходимо, ще се опита да се свърже чрез множество канали (имейл, SMS или известие в приложението). В ситуации на непосредствена заплаха, компанията обмисля ескалирайте известието до службите за спешна помощ когато родителите не могат да бъдат открити.
Контекст, сътрудничество и следващи стъпки
Разработването на тези мерки е осъществено в диалог с референтни организации, като например Често задавани въпроси и специалисти по психично здраве и юношество. Наред с това, OpenAI публикува Страница с ресурси за родители с ръководства и препоръки, които да съпътстват използването на изкуствен интелект у дома.
Новите функции идват на фона на по-широк обществен дебат след смърт на тийнейджър и делото, заведено от семейството му, които поставиха обществения дневен ред относно рисковете и отговорностите от използването на чатботове. Компанията уверява, че продължава да укрепва своята предпазни мерки да отговори на тези опасения.
Въпреки това компанията предупреждава, че контролът не е... безпогрешен и че някои млади хора биха могли да се опитат да ги заобиколят. Следователно, подчертава се важността на комбинирането на тези инструменти с семейни разговори, ясни правила относно технологиите и активно родителско участие.
За да разшири защитата, OpenAI работи върху система от прогнозиране на възрастта което позволява автоматично прилагане на настройки за непълнолетни, когато има съмнение, че потребителят е тийнейджър. Контролите вече са достъпни в уеб версия и ще бъде разширена до мобилни устройства, като същевременно времето за реакция и опциите за конфигуриране продължават да се усъвършенстват.
С този пакет от функции – филтри за съдържание, контроли за употреба, опции за поверителност и сигнали, прегледани от експерти— OpenAI се опитва да направи ChatGPT по-безопасен за тийнейджъри, като същевременно има предвид, че родителската подкрепа и дигиталното образование остават ключови.