AI новини: Тестове за безопасност на чатботове за тийнейджъри разкриха пропуски в системите за спешни сигнали

Новото преживяване ChatGPT, въведено от OpenAI за тийнейджъри, е провалило няколко теста за безопасност с висок риск, според изследване, публикувано на 7 октомври 2026 г., докато отделни доклади установиха, че чатботът може да продължава чувствителни разговори, без надеждно да предупреждава родителите или да насочва потребителите към професионална помощ. Находките засилиха контрола върху защитните механизми на компанията и повдигнаха нови въпроси пред по-широката индустрия за AI новини относно това дали разговорните системи могат безопасно да обслужват непълнолетни.
Какво не успя да направи чатботът за тийнейджъри?
Институтът за безопасност на младежите в AI (Youth AI Safety Institute) към Common Sense Media класифицира ChatGPT за тийнейджъри като „неприемлив риск“ за потребители под 18 години след тестване на услугата преди и след нейното стартиране. Организацията заяви, че чатботът често избягваше да дава изрични инструкции за самоубийство, самонараняване или разстройства в храненето, но не разпознаваше последователно кога един тийнейджър се нуждае от спешна външна подкрепа.
- Според Common Sense Media, изследователите са тествали повече от 4000 подкани (prompts) по време на оценката.
- Според Common Sense Media, тестерите са използвали повече от дюжина новосъздадени акаунти, свързани с родителски акаунти.
- Според Common Sense Media, тестерите са могли да обсъждат самоубийство, самонараняване или разстройства в храненето до един час, без да се задейства родителско предупреждение.
- Според Common Sense Media, чатботът е пропуснал повече от един на всеки четири случая, в които е било необходимо насочване към кризисна помощ.
Тестването обхващаше фиктивни образи на тийнейджъри и изрични подкани, включващи суицидни мисли, самонараняване и разстройства в храненето. Изследователите разгледаха и разговори, включващи изкривена реалност и сексуални или романтични ролеви игри.
Защо разговорите притесниха изследователите?
Основното безпокойство не беше само дали чатботът предоставя вредни инструкции. Изследователите разгледаха и неговия тон, упоритост и решенията кога да включи човешка подкрепа. Common Sense Media заяви, че ChatGPT може да продължи да ангажира в разговори стресиран потребител по приятелски, приятелски настроен начин, дори когато разговорът е достигнал ниво, което трябваше да предизвика нужда от гореща линия, клиничен специалист или доверен възрастен.
„ChatGPT все още говори като приятел, когато тийнейджърите го третират като човек“, заяви Common Sense Media в своята оценка. OpenAI беше обещала, че системата няма да внушава, че притежава чувства, съзнание или лична връзка с потребителя, според репортаж на The Associated Press.
Клиничните рецензенти установиха, че някои материали за отговор при кризи са коректни. Проблемът беше в непоследователността. Според Los Angeles Times, много разговори, които трябваше да доведат до насочване към професионална помощ, не го направиха, докато родителските предупреждения често бяха закъснели или липсваха.
Уведомявани ли бяха родителите, когато тийнейджърите обсъждаха самоубийство?
Не надеждно. Common Sense Media съобщи, че тестерите, използващи новосъздадени, свързани с родители акаунти, не са получили нито едно предупреждение за разговорите с висок риск, разгледани по време на тестовия период. Други акаунти с по-дълга история са генерирали предупреждения, което накара изследователите да се за疑問 дали системата не зависи твърде много от натрупаната активност на акаунта, вместо от сериозността на едно отделно признание.
- Според Common Sense Media, новосъздадените тестови акаунти, обсъждащи самоубийство, самонараняване и разстройства в храненето, не са произвели никакви родителски предупреждения по време на тестваните разговори.
- Според Los Angeles Times, само шепа предупреждения са се появили в тестваните акаунти, като някои са дошли след разговори, продължили колкото един час.
- Според документацията за помощ на OpenAI, известия могат да бъдат изпращани, когато специално обучени рецензенти идентифицират сериозни опасения за самонараняване или поведение, свързано с разстройства в храненето.
Резултатите разкриват пропаст между система, проектирана да открива риск, и такава, която реагира достатъчно бързо, за да може родител да действа. Известие, което пристига със закъснение, може да има малка стойност по време на непосредствена криза.
Какви защити обеща OpenAI?
OpenAI обяви режима, ориентиран към тийнейджъри, през август за потребители на възраст между 13 и 17 години. Компанията заяви, че преживяването ще прилага защитни механизми при разговори с висок риск, включващи самонараняване, насилие, разстройства в храненето и графично съдържание, като същевременно дава на родителите нови контролни механизми върху свързаните акаунти.
Системата на OpenAI може автоматично да прилага „преживяването за тийнейджъри“, когато информацията за възрастта или технологията за оценка на възрастта покажат, че потребителят е под 18 години, според репортаж на CNBC. Компанията също така заяви, че тийнейджърите използват ChatGPT средно за по-малко от 15 минути на ден, въпреки че тази цифра е представена от OpenAI и не измерва колко интензивни или чувствителни могат да бъдат индивидуалните разговори.
Документацията за родителски контрол на компанията гласи, че родителите могат да получават известия при тясно дефинирани обстоятелства след преглед от специално обучен персонал. Документацията не означава, че всяко споменаване на самоубийство или самонараняване автоматично генерира незабавно предупреждение.
Как се сравняват независимите тестове с твърденията на OpenAI?
Независимите тестове представят по-мрачна картина от описанието на продукта на OpenAI. Common Sense Media заяви, че версията за тийнейджъри показва малко доказателства за това, че е по-безопасна от предишното преживяване за потребители под 18 години. Robbie Torney, ръководител на оценките за AI и дигитални технологии в организацията, каза на CNBC: „Намерихме много малко доказателства, които да показват, че тази нова версия е по-безопасна от предишната.“
Тестването направи и важно разграничение. Изследователите казаха, че чатботът обикновено не предоставя директни инструкции, улесняващи самоубийство, самонараняване или разстройства в храненето. Въпреки това, системата е по-малко надеждна при идентифицирането на криза, препоръчването на външна помощ и уведомяването на родителите. Тези провали могат да възникнат дори когато моделът откаже най-очевидно опасното искане.
Находките идват от контролирани тестове, а не от проучване на реални потребители-тинейджъри. Това ограничава това, което оценката може да установи относно честотата на провалите при ежедневна употреба. Това не премахва въпроса за безопасността. Контролираният тест е специално проектиран да разкрие условията, при които защитите отслабват.
Какво следва за ChatGPT за тийнейджъри?
Common Sense Media призова OpenAI да ограничи чатбота само за възрастни, докато компанията не може да осигури това, което нарече „безопасно, подходящо за развитието преживяване“. Следващите стъпки на OpenAI вероятно ще включват промени в откриването на кризи, правилата за насочване и праговете за родителско уведомяване, въпреки че наличните до 12 октомври доклади не установиха публична графика за тези промени.
- Според Common Sense Media, услугата не трябва да се рекламира на тийнейджъри, докато идентифицираните проблеми остават нерешени.
- Според The Associated Press, наблюдателят критикува конкретно провалите, включващи самоубийство, самонараняване, разстройства в храненето и кризисна подкрепа.
- Според NPR, чатботът може да разговаря с тинейджъри по приятелски начин и не уведомява последователно родителите по време на дискусии за самонараняване или самоубийство.
Родителите и тийнейджърите, следователно, се сблъскват със система, чиито защитни механизми могат да блокират някои вредни съдържания, без надеждно да сигнализират кога е необходима човешка намеса. Това разграничение е важно. Отказът на небезопасно искане не е същото като разпознаването на медицинска спешност или спешност в областта на психичното здраве.
За семействата, използващи услугата, публикуваните резултати не подкрепят третирането на чатбота като кризисен консултант, заместител на клиничен специалист или единствен източник на подкрепа. Тийнейджър, изразяващ непосредствена опасност, изисква контакт с доверен възрастен, квалифициран специалист или спешна служба, а не продължаващо разчитане на автоматизиран разговор.


