OpenAI Внедряет систему прогнозирования возраста для повышения безопасности подростков. ChatGPT
Коротко
OpenAI внедрила систему прогнозирования возраста и усовершенствовала систему родительского контроля. ChatGPT для защиты несовершеннолетних от контента, представляющего сексуальный подтекст.
Исследовательская организация ИИ OpenAI была внедрена функция прогнозирования возраста для ChatGPT потребительские планы, разработанные для оценки вероятности использования счета лицом младше 18 лет и для применения мер защиты, соответствующих возрасту.
Эта система основана на существующих мерах защиты: пользователи, указавшие, что им меньше 18 лет при создании учетной записи, автоматически получают дополнительные меры по снижению риска доступа к конфиденциальному или потенциально опасному контенту, в то время как совершеннолетние пользователи сохраняют полный доступ в безопасных рамках.
Модель прогнозирования возраста анализирует сочетание поведенческих сигналов и сигналов на уровне учетной записи, включая возраст учетной записи, типичное время использования, долгосрочные модели активности и возраст, указанный самим пользователем. Полученные данные используются для непрерывного совершенствования модели, повышая ее точность с течением времени.
Пользователи, ошибочно классифицированные как не достигшие 18-летнего возраста, могут быстро подтвердить свой возраст и восстановить полный доступ с помощью Persona, защищенного сервиса проверки личности. Пользователи могут в любое время просмотреть и управлять применяемыми мерами безопасности в разделе «Настройки» > «Учетная запись».
Когда модель определяет учетную запись, предположительно принадлежащую лицу младше 18 лет, ChatGPT Автоматически внедряет дополнительные меры защиты для ограничения доступа к контенту деликатного характера. Это включает в себя графическое насилие, рискованные вирусные челленджи, ролевые игры сексуального или насильственного характера, изображения членовредительства, а также контент, пропагандирующий экстремальные стандарты красоты или нездоровые диеты.
Эти ограничения основаны на научных исследованиях в области развития ребенка, учитывающих различия в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции у подростков.
Меры безопасности разработаны таким образом, чтобы по умолчанию обеспечивать более безопасный режим работы в тех случаях, когда возраст невозможно с уверенностью определить или информация неполна. OpenAI продолжает совершенствовать эти меры для предотвращения обхода системы.
Родители могут дополнительно настроить взаимодействие своего подростка с помощью родительского контроля, включая установку тихих часов, управление такими функциями, как тренировка памяти и моделирования, а также получение оповещений в случае обнаружения признаков острого стресса.
Внедрение системы находится под пристальным наблюдением с целью повышения точности и эффективности модели, а в Европейском Союзе прогнозирование возраста будет внедрено в ближайшие недели в соответствии с региональными требованиями.
Содержание:
Ужесточение проверки возраста сталкивается с попытками обхода системы: чат-боты с искусственным интеллектом представляют опасность для пользователей-подростков.
Все больше нормативных требований предъявляются к проверке возраста при доступе к вредоносному или конфиденциальному контенту, что побуждает платформы внедрять более строгие методы обеспечения соответствия. Британская система онлайн-безопасности, а также аналогичные политики в других регионах, требуют надежных процессов проверки возраста при доступе к таким материалам, как порнография, контент, связанный с членовредительством, и другой контент откровенного характера.
Эти правила поощряют или обязывают использовать такие инструменты, как государственная проверка удостоверений личности, определение возраста по лицу и платные системы проверки, чтобы защитить несовершеннолетних от доступа к материалам повышенного риска.
На практике платформы используют различные механизмы для обеспечения соблюдения возрастных ограничений. К ним относятся автоматизированные поведенческие модели, которые выявляют учетные записи, предположительно принадлежащие несовершеннолетним, проверки подлинности и соответствия лиц, которые сопоставляют удостоверения личности с селфи, проверка данных кредитных карт или телекоммуникационных счетов, а также модерируемые процессы эскалации для неоднозначных случаев.
Несмотря на эти меры, многочисленные расследования и отчеты регулирующих органов указывают на то, что многие несовершеннолетние пользователи продолжают обходить слабые или неэффективные проверки.
К распространенным тактикам обхода относятся предоставление родительских или приобретенных удостоверений личности, использование VPN или прокси-сервисов для сокрытия местоположения, манипулирование распознаванием лиц с помощью селфи, созданных с помощью ИИ, или инструментов дипфейков, а также передача учетных данных или предоплаченных платежей для обхода проверки. Участники отрасли считают эти тактики основной проблемой на пути к достижению «высокоэффективной» системы подтверждения возраста.
Последствия обхода системы могут быть серьезными. Результаты исследований. документ случаи, когда несовершеннолетние получали полезные или вредные рекомендации через чат-боты с искусственным интеллектом, включая советы по самоповреждению, злоупотреблению психоактивными веществами и другим рискованным видам поведения.
В Соединенных Штатах исследования таких организаций, как Common Sense Media, показывают, что более 70% подростков взаимодействуют с чат-ботами на основе искусственного интеллекта для общения, и примерно половина из них используют таких чат-ботов на регулярной основе.
Чат-боты любят ChatGPT может генерировать уникальный и персонализированный контент, включая такие материалы, как предсмертные записки, чего не может сделать поиск в Google, и это может повысить доверие к ИИ как к проводнику или компаньону.
Поскольку ответы, генерируемые искусственным интеллектом, по своей природе случайны, исследователи наблюдали случаи, когда чат-боты уводили разговоры в еще более мрачное русло.
В ходе экспериментов модели ИИ предоставляли дополнительную информацию, начиная от плейлистов для вечеринок с употреблением психоактивных веществ и заканчивая хэштегами, которые могли бы увеличить аудиторию публикации в социальных сетях, прославляющей членовредительство.
Такое поведение отражает известную тенденцию проектирования в больших языковых моделях, называемую подхалимством, при которой система адаптирует ответы в соответствии с заявленными желаниями пользователя, а не оспаривает их. Хотя инженерные решения могут смягчить эту тенденцию, более строгие меры безопасности могут снизить коммерческую привлекательность, создавая сложный компромисс между безопасностью, удобством использования и вовлеченностью пользователя.
Расширение мер безопасности и проверка возраста на фоне опасений по поводу защиты детей.
OpenAI В последние месяцы компания ввела ряд новых мер безопасности на фоне растущего внимания к тому, как ее платформы искусственного интеллекта защищают пользователей, особенно несовершеннолетних. Компания, наряду с другими технологическими фирмами, находится под следствием Федеральной торговой комиссии США в связи с потенциальным воздействием чат-ботов с искусственным интеллектом на детей и подростков. OpenAI Также фигурирует в нескольких исках о неправомерной смерти, в том числе в деле, связанном с самоубийством подростка, употреблявшего наркотики.
Между тем, Persona используется и другими технологическими компаниями, это защищенный сервис проверки личности, который также используется Roblox, столкнувшимся с законодательным давлением с целью повышения безопасности детей.
В августе, OpenAI Были объявлены планы по выпуску средств родительского контроля, предназначенных для того, чтобы дать опекунам возможность отслеживать и контролировать взаимодействие подростков с другими пользователями. ChatGPTЭти контрольные образцы были выкатил В следующем месяце, наряду с усилиями по разработке системы прогнозирования возраста для обеспечения мероприятий, соответствующих возрасту.
В октябре OpenAI был создан совет из восьми экспертов для предоставления рекомендаций относительно потенциального влияния ИИ на психическое здоровье, эмоциональное благополучие и мотивацию пользователей.
Одновременно с выпуском последней версии компания сообщила, что продолжит совершенствовать точность своей модели прогнозирования возраста с течением времени, используя полученные данные для улучшения защиты молодых пользователей.