Цукерберг решил озаботиться влиянием ИИ на умы детей — нейросети могут заниматься виртуальным сексом с несовершенолетними

1441
1
Цукерберг решил озаботиться влиянием ИИ на умы детей — нейросети могут заниматься виртуальным сексом с несовершенолетними

Meta (запрещена в РФ) обновляет правила и обучение ИИ-чатботов после отчета Reuters, выявившего проблемы с безопасностью детей. Отчет указал на тонкие моменты в соглашениях, допускавшие романтические или сексуальные разговоры чатботов с несовершеннолетними.

Представитель Meta Стефани Отвей сообщила TechCrunch: «Мы добавляем защитные меры, обучая ИИ избегать таких тем с подростками, направляя их к экспертным ресурсам, и временно ограничивая доступ к некоторым ИИ-персонажам».

Отчет Reuters также вызвал расследование Сената и критику от Национальной ассоциации генеральных прокуроров, заявившей, что сексуализированный контент для детей недопустим, независимо от источника.

Второй отчет Reuters выявил, что Meta допустила распространение «пародийных» ИИ-чатботов, имитирующих знаменитостей, таких как Тейлор Свифт и Селена Гомес, с откровенными сообщениями и взрослыми изображениями. Некоторые чатботы, включая созданные сотрудником Meta, были удалены.Эти инциденты подчеркивают риски генеративного ИИ для безопасности детей и знаменитостей. Профсоюз SAG-AFTRA настаивает на усилении защиты от ИИ, указывая на необходимость строгих регулирований.

Другие публикации по теме
Гений Кодзима выступил в защиту ИИ при разработке видеоигр
Гений Кодзима выступил в защиту ИИ при разработке видеоигр
Хидео Кодзима видит в ИИ идеального помощника для рутины вроде моделирования деревьев или анимации, что освободит время для творчества.
Вчера в 18:30
3792
6
Форум
Pinterest пытается бороться с наплывом ИИ-контента
Pinterest пытается бороться с наплывом ИИ-контента
Социальная платформа Pinterest вводит новые инструменты для контроля количества ИИ-контента в пользовательских лентах. Решение стало ответом на многочисленные жалобы пользователей, которые в последние годы столкнулись с избытком искусственно сгенерированного материала на сайте.
17 октября в 17:45
15452
18
Форум
Оказалось, что без нового “человеческого” контента, ИИ больше неоткуда брать идеи
Оказалось, что без нового “человеческого” контента, ИИ больше неоткуда брать идеи
Новое исследование компании Five Percent проливает свет на важную тенденцию в мире цифрового контента. Согласно полученным данным, материалы, созданные с помощью искусственного интеллекта, впервые превысили объём человеческого контента. Этот переломный момент произошёл в конце 2024 года.
17 октября в 12:29
5999
9
Форум