Разговорът за Отговорността на изкуствения интелект в психичното здраве Ситуацията приема нов обрат с обявяването на Google. Компанията потвърди, че нейният чатбот Gemini ще включва специфични функции за откриване на рискови ситуации и ще предлага незабавна подкрепа, когато разговорът сочи към сериозни проблеми като самоубийство или самонараняване.
Тези нови развития идват в контекста на нарастващ правен и регулаторен натиск Това идва след няколко съдебни дела, в които се твърди, че чатботовете са допринесли за психологически вреди и дори смъртни случаи, особено по отношение на Google и други гиганти в областта на изкуствения интелект. Ходът е опит за засилване на гаранциите за инструмента и дистанцирането му от опасни или неконтролирани употреби.
Нови функции за спешни случаи при разговори с висок риск
Google обясни в публикация в блога си, че Gemini ще включва Автоматичен интерфейс за пренасочване на потребителя към кризисни линии за помощ Когато системата засече потенциална криза, свързана със самоубийство или самонараняване, това не е просто общо предупреждение: чатботът ще покаже опции за чат, обаждане, изпращане на текстови съобщения или посещение на уебсайта на службите за поддръжка.
Успоредно с това, компанията въвежда модул за съобщения от типа „Налична е помощ“ които ще се появяват в разговори за психично здраве. Идеята е да се напомни на потребителя, че съществуват професионални ресурси и алтернативни опции за поддръжка извън взаимодействието с чатбота, което предотвратява превръщането на Gemini в единствена отправна точка в деликатни моменти.
Тези мерки се допълват от промени в дизайна, насочени към да се обезкуражи всякаква форма на самонараняванеВъпреки че Google не е предоставила подробен списък на всички корекции, тя признава, че е прегледала начина, по който се показват чувствителните отговори, тона на езика и структурата на препоръките, когато бъде открит потенциален риск.
Компанията също така твърди, че е обучила Gemini да Не подсилвайте и не подхранвайте погрешни убеждения това би могло да застраши потребителя. Целта е чатботът да може да прави разлика между субективното преживяване на човека и обективните факти, като отговаря предпазливо по чувствителни теми, вместо да следва фантазията или заблудата на събеседника.
Съдебни дела и дела, които ускориха промените
Новите функции не се появяват от нищото. През последните месеци, Семейства от няколко щата на САЩ са завели дела срещу разработчици на генеративен изкуствен интелект като Google, OpenAI и Character.AI. Тези съдебни дела обвиняват платформите, че допринасят за влошаването на психичните проблеми при юноши и възрастни.
Един от най-чувствителните случаи е пряко свързан с Google: семейството на 36-годишен мъж от Флорида съди компанията след самоубийството му, твърдейки, че продължителното взаимодействие с Gemini е повлияло решаващо на решението му. Според иска, чатботът е подхранвал насилствени и суицидни мисли в продължение на няколко дни, което е довело до трагедията.
Google твърди, че в този епизод, Джемини многократно е насочвал потребителя към кризисни телефонни линии за помощНо въпреки това компанията признава необходимостта от засилване на защитите. Компанията е била критикувана преди относно начина, по който услугите ѝ обработват чувствително съдържание, което в миналото е довело например до включването на проверена информация от здравни специалисти в Google Search и YouTube.
Освен този конкретен случай, документирани са ситуации, в които потребители на чатботове твърдят, че изкуственият интелект... или е подхранвало обсесивни и заблудени взаимоотношения със самата система. Някои експерти дори свързват тази динамика с екстремни епизоди, като например убийства и самоубийства.
В отговор на тези опасения, Конгресът на Съединените щати започна да да се анализира въздействието на чатботовете върху децата и младите хорапроучване дали е необходимо да се установят специфични ограничения в областта на психичното здраве и закрилата на детето.
Икономически инвестиции и съюзи с организации за подкрепа
Заедно с новите функции на Gemini, Google обяви и финансов ангажимент от 30 милиона долара през следващите три години за укрепване на услугите за кризисна подкрепа по целия свят. Целта е да се разшири капацитетът за реагиране на горещите линии, които често са претоварени или нямат достатъчно ресурси.
Компанията ще разшири и сътрудничеството си с ReflexAI, организация, специализирана в инструменти за обучение на екипи за психично здравеGoogle ще отпусне допълнителни 4 милиона долара и ще интегрира Gemini в обучителните среди на ReflexAI, което ще позволи на организациите да обучават персонала си чрез по-реалистични симулации и да мащабират услугите си. Този подход допълва визията на Изкуственият интелект, приложен в здравеопазването като подкрепа за професионалисти.
Този подход съчетава внедряването на изкуствен интелект до крайния потребител с по-дискретно използване зад кулисите, като например подкрепа за професионалисти и доброволци които отговарят на обаждания или чатове в критични моменти. По този начин Gemini не се представя като заместител на психолози или психиатри, а като компонент за подкрепа на съществуващата екосистема за подкрепа.
За Европа и Испания, въпреки че съобщението е насочено главно към пазара в САЩ, се очаква този тип инструменти за насочване към ресурси за спешни случаи Те ще бъдат постепенно адаптирани към местните здравни системи и телефонни линии за помощ, въз основа на споразумения, постигнати с публични организации и организации от третия сектор.
Сектор под наблюдение: регулация и ограничения на изкуствения интелект в психичното здраве
Ходът на Google е част от сценарий, в който Регулирането на изкуствения интелект напредва с различна скорост. в зависимост от региона. В Съединените щати няколко щата, като Илинойс, Невада, Калифорния и Ню Йорк, приеха закони за ограничаване на ролята на изкуствения интелект в клиничните решения, изискват по-голяма прозрачност при взаимодействията с тези системи и засилват защитата на непълнолетните.
Други територии, като Юта и Тексас, са избрали да създадат специфични регулаторни органи, които да контролират използването на изкуствен интелект В областта на здравеопазването те са установили задължението да информират пациентите, когато такъв инструмент е включен в грижите им, като винаги се поддържа човешки надзор.
В Европа дебатът се пресича с развитието на Регламент на Европейския съюз за изкуствения интелектЗаконът има за цел да класифицира високорисковите употреби и да установи строги задължения за системи, които могат да засегнат основните права, включително здравето. Функциите за подкрепа на психичното здраве на Gemini работят именно в тази чувствителна област, така че е възможно да бъдат подложени на интензивен контрол, когато бъдат напълно внедрени в региона.
За страни като Испания, където система за обществено здравеопазване и услуги за превенция на самоубийствата Те имат важна роля; ключовото ще бъде как тези цифрови ресурси са интегрирани със съществуващите устройства: от специализирани телефонни линии до звена за психично здраве в общественото здравеопазване.
Въпреки че остават въпроси относно истинския му обхват и точния начин, по който ще бъде внедрен в Европа, новите характеристики на Gemini бележат значителна промяна: Разговорният изкуствен интелект започва да включва изрични предпазни мерки за психично здравеКомбиниране на насочване към телефонни линии за помощ, промени в дизайна и специално обучение за предотвратяване на вреди. В среда на съдебни дела, политически натиск и обществена загриженост, начинът, по който Google прилага и коригира тези мерки, ще бъде следен отблизо както от регулаторните органи, така и от потребителите, включително в Испания и останалата част от Европа.
