Человек все реже способен отличить ИИ-контент от созданного другим человеком

Исследование Microsoft AI for Good с участием 12 500 человек и анализом 287 000 изображений выявило, что люди распознают AI-генерацию лишь в 62% случаев. Участники лучше определяли фейковые портреты благодаря способности замечать аномалии в лицах, но хуже справлялись с пейзажами (59-61% точности), особенно созданными старыми GAN-сетями или через замену фрагментов реальных фото.

AI-детектор Microsoft показал 95% точности, но не был безупречным. Водяные знаки не решают проблему, так как их легко обрезать или скрыть.

С развитием моделей вроде Midjourney и DALL-E 3 угроза дезинформации возрастает. Microsoft выступает за внедрение водяных знаков, инструментов детекции и образовательных кампаний, таких как проект против AI-фейков. Вывод: люди уязвимы к AI-обману, и необходимы технологические меры защиты.