изображение создано нейросетью
Минюст Германии намерен в ближайшее время представить пакет мер, который позволит эффективнее пресекать использование искусственного интеллекта для манипуляций с изображениями, нарушающих личные права граждан. erid: 2W5zFHDqWp8
ООО РУБЭКАП Реклама
В министерстве уточняют, что меры нацелены на случаи массового и организованного использования таких инструментов, и обсуждают расширение оснований для уголовного преследования.
Толчком к обсуждению стала история вокруг Grok, встроенного чат-бота в соцсети X, где режим генерации изображений («spicy mode») оказался в центре внимания европейских регуляторов. Расследование Reuters показало, что генератор изображений использовали для создания сексуализированных материалов с реальными людьми, включая женщин и несовершеннолетних, зачастую без согласия тех, кто изображен.
На этой неделе министр по делам медиа Германии призвал Еврокомиссию принять правовые меры, чтобы остановить то, что он назвал «индустриализацией сексуальных домогательств» на платформе. Представитель Минюста Анна-Лена Бекфельд, отвечая на вопросы на правительственном брифинге, дала понять, что Берлин готовит инструменты для разбирательств и на национальном уровне.
В министерстве поясняют, что параллельно прорабатываются две линии: более четкое регулирование дипфейков и отдельный закон против «цифрового насилия», который должен упростить пострадавшим защиту прав и возможность оперативно действовать при нарушениях в интернете. Детали предложений обещают раскрыть позже.
На фоне скандала xAI уже ограничила функцию генерации изображений в Grok для платных подписчиков. Илон Маск заявлял, что создание незаконного контента через чат-бот повлечет те же последствия, что и его публикация напрямую.
Антидипфейк меры в мире
Немецкая инициатива — не единичный случай. В последние годы многие страны уже начали закрывать правовые «дыры» вокруг интимных дипфейков: кто-то вводит уголовную ответственность, кто-то — обязанности платформ по быстрому удалению, а кто-то делает ставку на маркировку синтетического контента. Ниже наиболее показательные примеры.
Франция. В уголовном кодексе закрепили запрет на распространение сексуализированных «дипфейков» без согласия человека (отдельная норма про контент, сгенерированный алгоритмами и воспроизводящий образ/голос).
Великобритания. Регулятор Ofcom и власти публично давят на платформы по теме интимных дипфейков (в т.ч. в контексте Grok/X). Параллельно действует рамка Online Safety Act по обязанностям сервисов предотвращать и быстро удалять незаконный контент; обсуждения и законодательные шаги вокруг криминализации/закрытия «лазеек» для создания NCII тоже идут.
США. На федеральном уровне принят закон TAKE IT DOWN Act: он вводит уголовный запрет на умышленное распространение несанкционированных интимных изображений (включая дипфейки) и закрепляет требования к онлайн-платформам по реагированию/удалению по уведомлению.
Австралия. На уровне федерального уголовного права принят пакет, прямо нацеленный на создание и несанкционированное распространение сексуального deepfake-контента (в материалах правительства это оформлено как специальные нормы в уголовном праве). Отдельно eSafety рассматривает кейсы «nudify/deepfake» и применяет свои полномочия в рамках борьбы с image-based abuse. Испания задержала 34 подозреваемых по делу Black Axe Цифровые технологии как поле битвы между США и ЕС Livestream как двигатель интернет-торговли. Приживутся ли продающие стримы в России?
Южная Корея. Законодатели и власти усилили ответственность в части deepfake-порнографии, включая инициативы по наказуемости не только распространения, но и владения/просмотра такого контента (по сообщениям местных СМИ — через поправки к законам о сексуальных преступлениях).
Канада. На уровне провинций появляются специальные механизмы защиты жертв. Например, в Британской Колумбии закон об охране интимных изображений прямо включает «цифровые измененные изображения / deepfakes» и позволяет быстрее добиваться запрета и удаления таких изображений. При этом подчеркивается, что общефедеральная уголовная рамка по «фейковым» интимным изображениям может оставлять пробелы.
Евросоюз. В ЕС проблему решают через закон об ИИ (AI Act), так помимо ответственности, он предусматривает требования к маркировке дипфейков и другого синтетического контента, чтобы пользователи понимали, что материал создан или изменен алгоритмами. Для практики готовят отдельный Code of Practice по маркировке и лейблингу.
Китай. Еще раньше ввел правила для «deep synthesis»-сервисов (с регламентом и ограничениями на незаконный контент), а также обсуждал/вводил отдельные требования к маркировке синтетического контента.
Сингапур. Ввел нормы, направленные на пресечение использования «дипфейков» и иных манипуляций в избирательной рекламе и коммуникациях в период выборов. Читайте также
Кто заработает на дефиците памяти и кто за него заплатит Мировая электроника внезапно уперлась в память. Формально ее выпускают все больше, фабрики работают на пределе, инвестиции растут. Но рынок ИИ ускорителей все равно испытывает дефицит, цены ползут вверх, а поставки срываются. Как выяснил IT-World, причина оказалась не там, где ее привыкли искать. Кризис памяти оказался кризисом цепочек и первым сигналом более глубокого передела всей отрасли.
Индия. В 2025 году в Индии обсуждали изменения в правилах для интернет-платформ, которые прямо затрагивают дипфейки: речь шла об усилении обязанностей сервисов по удалению такого контента и о более строгих требованиях к проверкам и процедурам со стороны платформ».
В ближайшие месяцы станет понятно, каким будет баланс между технологией и ответственностью. Германия и другие страны фактически переходят от точечных запретов к «системной сборке» правил, где вместе работают уголовные нормы, обязанности платформ по оперативному удалению и требования к прозрачности синтетического контента. Для рынка это означает неизбежное ужесточение комплаенса, так генераторы изображений и сервисы распространения контента будут вынуждены быстрее внедрять защитные механизмы, а компании — пересматривать политики по использованию генеративного ИИ и обработке персональных данных. Иными словами, эпоха, когда дипфейки считались экзотикой, заканчивается, они становятся регуляторной темой первого уровня, а вопрос «кто отвечает» — ключевым в цепочке от модели до публикации.