ИИ-модель Grok, принадлежащая Илону Маску, больше не сможет редактировать фотографии реальных людей, изображая их в откровенной одежде, в тех юрисдикциях, где это незаконно. Такое решение принято после волны возмущения сексуализированными дипфейками, создаваемыми с помощью ИИ, пишет Русская служба Би-би-си.
«Мы приняли меры, чтобы Grok не позволял редактировать изображения реальных людей и изображать их в откровенной одежде, такой как бикини. Это ограничение распространяется на всех пользователей, включая платных подписчиков», — говорится в объявлении на платформе X, которая управляет инструментом Grok AI.
Об изменениях было объявлено через несколько часов после того, как генеральный прокурор Калифорнии заявил, что власти штата расследуют распространение сексуализированных ИИ-дипфейков, в том числе с изображениями детей, созданных этой моделью.
«Теперь мы геоблокируем возможность для всех пользователей создавать изображения реальных людей в бикини, нижнем белье и аналогичной одежде через аккаунт Grok и Grok в X в тех юрисдикциях, где это незаконно», — сообщила компания X в заявлении в среду.
Также в компании подчеркнули, что редактировать изображения с помощью Grok на платформе смогут только пользователи с платной подпиской.
По заявлению компании, это добавит дополнительный уровень защиты и поможет обеспечить привлечение к ответственности тех, кто пытается использовать Grok для нарушения закона или правил X.
При включенных настройках NSFW (not safe for work) Grok, по словам Маска, должен разрешать «обнажение верхней части тела у воображаемых взрослых людей (но не реальных)» — в рамках того, что можно увидеть в фильмах с рейтингом R.
«Это фактический стандарт в США. В других регионах он будет различаться в зависимости от законодательства конкретной страны», — заявил миллиардер в среду.
Ранее Маск защищал X, заявляя, что критики «просто хотят подавить свободу слова». Этот пост он сопроводил двумя сгенерированными ИИ изображениями премьер-министра Великобритании Кира Стармера в бикини.
В последние дни лидеры разных стран подвергли функцию редактирования изображений Grok резкой критике.
В минувшие выходные Малайзия и Индонезия стали первыми странами, запретившими инструмент Grok AI после того, как пользователи сообщили, что их фотографии редактировались с целью создания изображений откровенного характера без их согласия.
Британский медиарегулятор Ofcom в понедельник заявил, что расследует, не нарушила ли X британское законодательство в связи с распространением сексуализированных изображений.
Стармер предупредил, что X может лишиться «права на саморегулирование» на фоне скандала вокруг ИИ-изображений, однако позднее заявил, что приветствует сообщения о том, что платформа предпринимает шаги для решения проблемы.
Некоторые британские депутаты также покинули социальную сеть X после всплеска общественного возмущения.
Генеральный прокурор Калифорнии Роб Бонта в среду сказал: «Этот материал, изображающий женщин и детей в обнаженном виде, использовался для травли людей по всему интернету».
Исследовательница в области цифровой политики Риана Пфефферкорн заявила, что удивлена тем, как долго X тянула с внедрением новых защитных мер в Grok, и что функции редактирования следовало удалить сразу после начала злоупотреблений.
По ее словам, остаются вопросы о том, как именно X будет обеспечивать соблюдение новых правил — например, как ИИ будет определять, изображен ли на фото реальный человек, и какие меры будут применяться к нарушителям.
Кроме того, добавила она, Маск сам не способствует серьезному восприятию компании, и было бы полезно, если бы он перестал «делать такие вещи, как перепост ИИ-изображений Кира Стармера в бикини».