Roblox направи дълбока промяна в начина, по който играчите му комуникират: отсега нататък достъпът до чат става чрез... задължителна проверка на възрастта, базирана на изкуствен интелектКомпанията изоставя класическия формуляр с дата на раждане и избира автоматизирани системи, които анализират лицето или документ за самоличност, за да определят към коя възрастова група принадлежи всеки потребител.
Тази промяна засяга всички пазари, където чатът е наличен, включително Европа и Испания, както и Съединените щати и Латинска АмерикаТова позиционира Roblox като една от първите големи онлайн платформи за игри, които изискват строг контрол върху възрастта за чат. Ходът идва на фона на регулаторен натиск и съдебни дела. пропуски в защитата на непълнолетните срещу тормоз, подстрекателство и неподходящо съдържание.
Необходимо е потвърждение на възрастта за чат
Новата политика на платформата гласи, че Никой потребител няма да може да използва чата, без първо да премине проверка за възраст.Играта ще е възможна и без тази стъпка, но социалните функции – съобщения и чат в игрите – ще бъдат блокирани, докато проверката не приключи.
Процесът започва от официалното приложение Roblox: потребителят трябва Активирайте камерата на устройството и следвайте инструкциите на екрана. за да заснеме изображение или кратко видео на лицето им. Тази информация се изпраща до Persona, доставчик на външна информация, специализиран в цифрова идентичност и проверка с изкуствен интелект, който оценява възрастта, без да идентифицира лицето по име.
За тези, които имат 13 или повече години, се отваря алтернативен маршрутВместо лицево разпознаване, потребителите могат да качат официален документ (като например национална лична карта, паспорт или местен еквивалент), за да потвърдят възрастта си. Тази опция е особено актуална в европейски страни, където разпоредбите относно биометричните данни и поверителността са по-строги и семействата са склонни да бъдат по-предпазливи към лицевото разпознаване.
Как работи оценката на лицето и какво се случва с изображенията
Roblox подчертава, че Поверителността е централен стълб на систематаКомпанията настоява, че изображенията и видеоклиповете, заснети за проверка, се използват единствено за оценка на възрастта и Те се изтриват веднага след приключване на анализа., без да се съхранява дългосрочно на сървърите на Roblox или Persona.
Компанията също така подчертава, че е оценка на възрастта, а не разпознаване на лица, както се използваСистемата не се опитва да идентифицира конкретно лице или да свърже лицето му с база данни, а само да изчисли приблизителен възрастов диапазон, за да го причисли към съответната група.
Използваният модел на изкуствен интелект е бил Тестван от независими лаборатории и от схемата за сертифициране на проверка на възрастта в Обединеното кралствокоето поставя средната абсолютна грешка на около 1,4 години за лица под 18 години. Въпреки това, Roblox признава, че никоя система не е перфектна и че могат да възникнат случаи на погрешна класификация, особено по отношение на възрастовите граници между групите.
Чат, сегментиран по възрастови групи
След като проверката е успешна, платформата активира чат, базиран на възрасттаСлед това всички играчи се интегрират в една от шестте установени групи:
- Под 9 години
- От 9 до 12 години
- От 13 до 15 години
- От 16 до 17 години
- От 18 до 20 години
- Над 21 години
Дизайнът на системата цели Минимизирайте директния контакт между възрастни и децаПо подразбиране всеки потребител може да комуникира с хора от собствената си възрастова група и в повечето случаи с групите непосредствено преди и след него. Например, тези между 9 и 12 години могат да чатят с потребители от собствената си група, с деца под 9 години и с възрастовата група 13-15 години, докато възрастните ще намерят директното си взаимодействие с непълнолетни под 16 години за много ограничено.
В случая с най-малките деца механизмът е още по-рестриктивен: За деца под 9 години чатът остава деактивиран по подразбиране.Активирано е само ако родител или настойник, след като е извършил собствена проверка, даде изрично съгласие. Този контрол е предназначен да даде на семействата по-голяма гъвкавост при вземането на решения кога да започнат да разрешават писмени взаимодействия с други играчи.
Платформата обаче запазва фигурата на „Доверени връзки“ за тийнейджъри на възраст 13 и повече годиниТази функция позволява на потребителите, при определени условия, да разговарят с реални контакти, дори ако не са в една и съща часова зона или група. Целта е да се избегне пълното нарушаване на установени приятелства и семейни отношения, но винаги в рамките на по-контролирана рамка.
Допълнителни нива на сигурност в чата
Roblox очертава това ново изискване в рамките на многопластов подход за сигурносткъдето проверката на възрастта е само един от елементите. Компанията отново заявява, че никога не е позволявала споделяне на изображения директно чрез чат и че проактивно блокира споделянето на лични данни между потребители, които не са част от доверени връзки.
Освен това, платформата използва разширени филтри и автоматизирани системи за модериране да открива съдържание, което нарушава неговите Стандарти на общността, включително съобщения, потенциално свързани с тормоз, подстрекателство или искания за чувствителна информация. Идеята е да се спре или премахне това съдържание, преди да достигне до получателя, като по този начин се допълва бариерата, осигурена от възрастовите групи.
Наред с автоматизираните инструменти, Roblox насърчава семействата да участват активно в дигиталното образование на децата си. Компанията препоръчва следното Родители и настойници, говорете с децата за безопасността в интернетРискове от онлайн измами и основни насоки за взаимодействие с непознати, особено на платформи със силен социален компонент като Roblox.
Система за обжалване и родителски контрол
Осъзнавайки, че изкуственият интелект може да прави грешки, Roblox е включил това от самото начало. излишни методи и процедури за обжалванеАко потребител смята, че системата е изчислила неправилно възрастта му – например, като го е присвоила на по-ниска или по-висока възрастова група – той може да започне процес на преглед.
В тези случаи платформата предлага алтернативни методи за проверка, като например представянето на официален документ или намесата на родителски контролЧрез тези последни методи родителите или настойниците могат да актуализират възрастта на акаунтите на децата си, винаги в рамките на ограниченията, определени от вътрешните политики и местните разпоредби за защита на данните.
Roblox също не счита процеса на верификация за завършен след първата проверка. Компанията обяснява, че използвайки множество сигнали и модели на поведениеНепрекъснато проверявайте дали използването на акаунта съответства на декларирания или очаквания възрастов диапазон. Ако установите, че някой може да е значително по-високи или по-ниски от очакваното, планира да ви помоли да повторите процеса на проверка, за да коригирате профила си.
Данни за глобално внедряване и приемане
Промяната към чат, базиран на възрастта, не се случи за една нощ. Roblox започна с... пилотна фаза в АвстралияНова Зеландия и Нидерландия, където първоначално проверката на възрастта се предлагаше на доброволна основа или се изискваше за определени групи, като например потребители на възраст от 13 до 17 години, които искаха достъп до проверена чат стая.
Според данни на самата компания, в тези първи региони повече от 50% от активните ежедневно потребители са завършили проверката почти веднагаВ световен мащаб, Roblox вече говори за десетки милиони акаунти, преминали през системата, дори преди изискването да стане задължително на всички пазари.
След положителните резултати от теста, компанията разшири изискването за проверка и към другите територии, където чатът е активиран: Съединените щати, Европа — включително Испания —, Латинска Америка и други международни пазариРазгръщането се активира постепенно в продължение на няколко дни, придружено от известия в приложението, информиращи играчите, че трябва да потвърдят възрастта си, ако искат да продължат да чатят.
Правен натиск и нов индустриален стандарт
Преходът към чат с филтриране по възраст идва в момент, когато Roblox е изправен пред... съдебни дела и официални разследвания в няколко щата на САЩ.Тези щати включват Тексас, Луизиана, Флорида и Кентъки. Властите обвиняват платформата, че не е успяла да защити адекватно непълнолетните от сексуална експлоатация, тормоз и достъп до съдържание с сексуално съдържание.
В допълнение към разследванията, водени от главните прокурори, компанията се занимава с десетки граждански дела, заведени от семейства Тези съдебни дела твърдят за случаи на злоупотреба и подстрекателство, възникнали на платформата. Някои от тези дела, които включват и други технологични компании като Meta, Discord и Snapchat, се разглеждат във федерален съд в Сан Франциско, което увеличава съдебния и медийния натиск.
Междувременно европейските и британските регулаторни органи... затягане на правилата за онлайн безопасност, насочени към непълнолетниВ Обединеното кралство, комуникационният орган Ofcom публично аплодира платформи като Roblox и Twitch за въвеждането на по-усъвършенствани системи за сканиране на възрастта, в съответствие с новите закони за дигитална безопасност. Тези разпоредби изискват от компаниите да предприемат проактивни мерки за намаляване на риска децата да влязат в контакт с хищници и вредно съдържание.
В този контекст, Roblox представя задължителната си проверка на лицето като опит за позициониране над регулаторния минимумРъководството на компанията го описва като потенциален „златен стандарт“ в безопасността на комуникацията с деца, подчертавайки, че е първата голяма платформа за игри и комуникация, която изисква проверка на възрастта, проверява лицето си. за достъп до чата.
Реакции на експерти и нерешени въпроси
Новите мерки на Roblox генерираха Противоречиви мнения сред експертите по безопасност на децата, поверителност и дигитално здравеНякои специалисти оценяват факта, че компанията надхвърля традиционните полета за възраст, които са лесни за манипулиране, и въвежда по-надеждни инструменти за проверка.
Сред тези, които аплодират промяната, идеята, че Други услуги, насочени към непълнолетни, може да бъдат подтикнати да въведат подобни решенияТова би улеснило създаването на по-хомогенна среда. Няколко експерти обаче подчертават, че проверката на възрастта е само едно парче от пъзела и че Активното участие на семействата остава от съществено значение така че децата да разбират рисковете и да се научат как да ги управляват.
Има и критични гласове, които посочват, че технологията не е безпогрешна и че допустимата грешка в моделите с изкуствен интелект може да бъде проблематична в контекста на защитата на детето. Някои специалисти по поверителност твърдят редовни независими одитиПо-строг родителски контрол по подразбиране и по-широк ангажимент към принципа „сигурност по дизайн“, което включва преосмисляне не само на чата, но и на цялостната конфигурация на игралните среди.
Отвъд чата: възрастови контроли в други функции
Roblox няма да ограничава възрастовите си ограничения за чат. Компанията обяви, че през следващите месеци... Ще са необходими подобни проверки и за други чувствителни функции. на платформата, като например функциите за сътрудничество в реално време в Roblox Studio, инструментът, използван от разработчици и създатели на игри за проектиране на игрови изживявания.
Намерението е, че Моделът на многопластова проверка трябва да бъде разширен до цялата екосистема.От създаване на съдържание до участие в общности и групи, включително гласови системи или всяка друга функция с потенциално въздействие върху безопасността на непълнолетните.
Междувременно, Roblox запазва своето Център за сигурност и неговият Помощен центърДокументът описва подробно политиките на общността, обяснява как работи проверката на възрастта и предлага ръководства и ресурси за семейства и преподаватели. Тези материали имат за цел да изяснят често задавани въпроси относно използването на биометрични данни, ограниченията за чат въз основа на възрастта и наличните инструменти за докладване.
Затягането на чата въз основа на възрастта, с проверка на лицето или документите и стриктно сегментиране по възрастови групи, бележи... Нов етап за Roblox и за европейския и международен дебат относно безопасността на децата на цифровите платформиКомпанията е начело на технологиите, като изисква надеждна проверка на възрастта за толкова основна функция като чат, но същевременно повдига въпроси относно реалната ефективност на тези бариери, тяхната съвместимост с разпоредбите за поверителност и ролята, която семействата, училищата и регулаторните органи трябва да играят, за да направят онлайн игрите и социализацията наистина по-безопасни за деца и тийнейджъри.
