Цукерберг решил озаботиться влиянием ИИ на умы детей — нейросети могут заниматься виртуальным сексом с несовершенолетними

Meta (запрещена в РФ) обновляет правила и обучение ИИ-чатботов после отчета Reuters, выявившего проблемы с безопасностью детей. Отчет указал на тонкие моменты в соглашениях, допускавшие романтические или сексуальные разговоры чатботов с несовершеннолетними.

Представитель Meta Стефани Отвей сообщила TechCrunch: «Мы добавляем защитные меры, обучая ИИ избегать таких тем с подростками, направляя их к экспертным ресурсам, и временно ограничивая доступ к некоторым ИИ-персонажам».

Отчет Reuters также вызвал расследование Сената и критику от Национальной ассоциации генеральных прокуроров, заявившей, что сексуализированный контент для детей недопустим, независимо от источника.

Второй отчет Reuters выявил, что Meta допустила распространение «пародийных» ИИ-чатботов, имитирующих знаменитостей, таких как Тейлор Свифт и Селена Гомес, с откровенными сообщениями и взрослыми изображениями. Некоторые чатботы, включая созданные сотрудником Meta, были удалены.Эти инциденты подчеркивают риски генеративного ИИ для безопасности детей и знаменитостей. Профсоюз SAG-AFTRA настаивает на усилении защиты от ИИ, указывая на необходимость строгих регулирований.