OpenAI потвърди, че работи върху версия на ChatGPT, специално разработена за непълнолетни. Преживяване, адаптирано към тийнейджъри, и нови бариери за безопасностЦелта е да се намали излагането на чувствително съдържание и да се реагира различно, когато потребителите са момчета и момичета на възраст между 13 и 17 години.
Тази инициатива ще бъде подкрепена от система, която автоматично се опитва да прецени дали потребителят е непълнолетен или възрастен въз основа на начина, по който се изразяват, и вида въпроси, които задават. Ако има някакви съмнения, компанията ще предприеме най-разумния подход: ще активира режима за тийнейджъри и ще предложи опции за проверка на възрастни, за да възстанови всички функции.
Какви са промените в тийнейджърската версия
В този режим, ChatGPT ще блокира достъпа до материали със сексуален характер и няма да участва във флиртуващи или подвеждащи разговори. Той също така ще избягва да навлиза в теми, свързани с самонараняване или самоубийство, дори ако е представено като упражнение по творческо писане, като по този начин се затягат филтрите по отношение на опита на възрастните.
В изключителни ситуации на сериозен риск, системата би могла активирайте автоматични известия до родители или настойници и ако контактът не е възможен, помислете за уведомяване на службите за спешна помощ, когато има непосредствена опасност за живота на непълнолетния.
OpenAI напомня, че услугата му е ориентирана към по-стар от 13 години и че не е предназначено за деца под 12 годиниКомпанията уверява, че ще продължи да коригира отговорите, така че взаимодействието на тийнейджъра да е „ясно различно“ от това на възрастен.
Освен това, компанията твърди, че има наскоро засили откриването на емоционални кризи и блокиране на съдържание, за да се улесни насочването към ресурси за помощ, когато е уместно, и да се предотврати навлизането в вредни разговори.
Как ChatGPT ще реши дали сте непълнолетен
OpenAI изгражда система от прогнозиране на възрастта въз основа на езикови сигнали и модели на употребаКомпанията признава, че това е сложно техническо предизвикателство и ще го усъвършенства с помощта на експерти и организации за защита на потребителите.
Когато инструментът не може да определи възрастта със сигурност, ще прилага опита за непълнолетни по подразбиранеВ някои страни и при определени обстоятелства OpenAI обмисля изискването на лична карта от възрастни, за да потвърди тяхната възраст за пълнолетие, балансирайки сигурността и поверителността.
За тези, които имат нужда от това, ще бъдат активирани опции. проверка на възрастта, която отключва пълните функции ChatGPT за възрастни. Успоредно с това, поведението на модела ще следва различни модели в зависимост от това дали акаунтът принадлежи на тийнейджър или възрастен.
Родителски контрол: Какво могат да правят семействата
OpenAI ще стартира серия от проекти в края на месеца Родителски контрол за наблюдение и коригиране на използването на ChatGPT у дома. Тези инструменти ще позволят на майките и бащите да подкрепят по-добре децата си при използването на изкуствен интелект.
- Свържете семейния акаунт с акаунта на тийнейджъра чрез покана.
- Определете стандарти за поведение, за да адаптирате реакциите към възрастта на детето.
- Деактивирайте функции като памет и история на чатовете.
- Получавайте известия, когато системата засече признаци на сериозно страдание.
- Определете времеви интервали за ползване или задължително изключване.
Тези функции ще съществуват едновременно с вече действащите политики и с новите филтри, така че Придружаването на възрастни е комбинирано с автоматични предпазни меркиOpenAI казва, че се е консултирала със специалисти и заинтересовани страни, за да създаде по-безопасно изживяване, без да се прави компромис с полезността на услугата.
Като цяло, компанията предлага два водещи принципа: Първо защита на подрастващите и същевременно запазване на свободата на възрастнитеПо този начин, по подразбиране, моделът няма да предлага опасни инструкции, но ако възрастен поиска помощ с измислено произведение с деликатни сцени, ще бъдат предоставени допълнителни ограничения и защити.
Въвеждането на тийнейджърски режим, предвиждане на възрастта и родителски контрол е предназначено да да се направи ясно разграничение между това как непълнолетни и възрастни използват ИИ, с инструменти за проверка, когато е необходимо, и възможност за намеса в ситуации на реален риск.
