Grok научился “снимать” одежду женщин на фотографиях

Женщина рассказала BBC, что почувствовала себя «обесчеловеченной и превращённой в сексуальный стереотип» после того, как ИИ Grok Илона Маска использовали для цифрового удаления её одежды.

BBC ознакомилась с несколькими примерами в социальных сетях, где пользователи просили чат‑бота «раздеть» женщин — сделать так, чтобы они появились в бикини без их согласия, а также помещали их в сексуальные ситуации.

Компания XAI, разработчик Grok, не ответила на запрос о комментарии — за исключением автоматически сгенерированного ответа со словами «традиционные СМИ лгут».

Представитель Министерства внутренних дел заявил, что ведётся работа над законом о запрете инструментов «обнажения» (nudification tools), и согласно новому уголовному преступлению любой, кто предоставит такие технологии, «будет приговорён к тюремному сроку и крупным штрафам».

Регулятор Ofcom заявил, что технологические компании должны «оценивать риск» того, что пользователи в Великобритании увидят незаконный контент на их платформах, но не подтвердил, ведётся ли в настоящее время расследование в отношении Grok в связи с изображениями, созданными ИИ.