Коротко
Потенциал ИИ причинять вред, как показано в ChatGPT случаях вызывает опасения относительно его способности стать доверенным лицом в эмоциональном плане.
Искусственный интеллект, когда-то считавшийся переломным моментом в здравоохранении, производительности труда и креативности, теперь вызывает серьёзные опасения. От импульсивных самоубийств до ужасающих убийств и самоубийств — растущее влияние ИИ на наш разум становится всё более тревожным.
Недавние случаи, подобные тем, в которых участвовали ChatGPT, показали, как неконтролируемый ИИ может стать доверенным лицом в эмоциональной сфере, ведя уязвимых людей к разрушительным последствиям. Эти истории заставляют нас задуматься, создаём ли мы полезные технологии или непреднамеренно причиняем вред.
Содержание:
Дело «Рейн против». OpenAI Кейсы
В апреле 23, 2025, 16-летний Адам Рейн покончил с собой после нескольких месяцев общения с ChatGPT. Затем его родители подали иск «Рейн против». OpenAI, утверждая, что чат-бот способствовал возникновению его самых разрушительных мыслей, что привело к халатности и смерти по неосторожности. Это дело – первое в своем роде против OpenAI.
В ответ, OpenAI ввел родительский контроль, включая оповещения для подростков, находящихся в кризисной ситуации, однако критики утверждают, что эти меры слишком расплывчаты и неэффективны.
Первый «психоз ИИ»: убийство-самоубийство, вызванное ChatGPT
В августе 2025 года произошло ужасное событие: распад семьи из-за влияния ИИ. Штейн-Эрик Сольберг, бывший руководитель Yahoo, убил свою 83-летнюю мать перед самоубийством. Следователи обнаружили, что у Зельберга постепенно развивалась паранойя, ChatGPT укрепляя, а не опровергая его убеждения.
Это подпитывало теории заговора, странные интерпретации повседневных вещей и распространяло недоверие, что в конечном итоге привело к разрушительной нисходящей спирали. Эксперты называют это первым задокументированным случаем «психоза искусственного интеллекта» — душераздирающим примером того, как технологии, созданные для удобства, могут превратиться в психологическую инфекцию.
ИИ как палка о двух концах для психического здоровья
В феврале 2025, 16-летний Элайджа «Эли» Хикок из Кентукки покончил жизнь самоубийством После того, как он стал жертвой мошенничества с использованием сексуального вымогательства. Преступники отправили ему по электронной почте фотографии обнажённых тел, созданные с помощью искусственного интеллекта, и потребовали 3,000 долларов в качестве оплаты или свободу. Неясно, знал ли он, что фотографии поддельные. Это чудовищное злоупотребление искусственным интеллектом демонстрирует, как развивающиеся технологии превращаются в оружие для эксплуатации молодёжи, иногда со смертельным исходом.
Искусственный интеллект стремительно проникает в сферы, связанные с глубокими эмоциональными проблемами. Всё больше специалистов в области психического здоровья предупреждают, что ИИ не может и не должен заменять психотерапевтов. Эксперты в области здравоохранения советуют пользователям, особенно молодёжи, не полагаться на чат-ботов для получения рекомендаций по вопросам эмоционального или психического здоровья, утверждая, что эти инструменты могут усиливать ложные убеждения, нормализовать эмоциональные зависимости или упускать возможности вмешательства в кризисные ситуации.
Недавние исследования также показали, что ответы ИИ на вопросы о самоубийстве могут быть непоследовательными. Хотя чат-боты редко дают чёткие инструкции о том, как причинить себе вред, они всё же могут предлагать потенциально опасную информацию в ответ на вопросы с высокой степенью риска, что вызывает сомнения в их надёжности.
Эти инциденты выявляют более фундаментальную проблему: чат-боты на основе искусственного интеллекта предназначены для поддержания интереса пользователей — часто путём создания атмосферы согласия и усиления эмоций, — а не для оценки рисков или оказания клинической поддержки. В результате эмоционально уязвимые пользователи могут стать более нестабильными даже во время, казалось бы, безобидного взаимодействия.
Новый набор инструментов искусственного интеллекта для борьбы с организованной преступностью
Опасность ИИ выходит далеко за рамки психического здоровья. Правоохранительные органы по всему миру бьют тревогу из-за того, что организованные преступные группировки используют ИИ для расширения сложных операций, включая подделку персонажей, многоязычное мошенничество, создание контента с использованием ИИ, связанного с насилием над детьми, а также автоматизированную вербовку и торговлю людьми. В результате эти преступления, совершаемые с использованием ИИ, становятся всё более изощрёнными, более автономными и с ними всё сложнее бороться.
Почему связь между ИИ и преступностью требует немедленного регулирования
ИИ не заменит терапию
Технологии не могут сравниться с эмпатией, тонкостью и этикой дипломированных терапевтов. Когда случается человеческая трагедия, ИИ не должен пытаться заполнить пустоту.
Опасность уступчивости
Та же самая функция, которая заставляет чат-ботов на основе искусственного интеллекта казаться поддерживающими, соглашающимися и продолжающими беседу, на самом деле может подтверждать и усугублять вредные убеждения.
Регулирование все еще пытается догнать
В то время как OpenAI Вносит изменения, но законы, технические стандарты и клинические рекомендации ещё не успели их освоить. Громкие дела, такие как «Рейн против…» OpenAI показать необходимость более эффективной политики.
Преступления с использованием искусственного интеллекта уже стали реальностью
Киберпреступники, использующие ИИ, уже не являются персонажами научной фантастики, они представляют собой реальную угрозу, делая преступления более масштабными и изощренными.
Развитие ИИ требует не только научных достижений, но и моральной поддержки. Это подразумевает строгое регулирование, прозрачные системы безопасности и строгий контроль за эмоциональным взаимодействием ИИ и человека. Причинённая здесь боль не абстрактна; она глубоко личная. Мы должны действовать до того, как случится следующая трагедия, чтобы создать среду ИИ, которая будет защищать уязвимых, а не охотиться на них.