Ученые из Чикагского университета разработали нейросеть, которая генерирует обзоры ресторанов и отелей. Алгоритм обучали на тысяче реальных отзывов, найденных в интернете.
В результате он научился писать тексты, практически неотличимые от настоящих, сообщает DTI.
"Мы провели исследование с 600 реальными пользователями сайтов отзывов. Люди не только не смогли отличить фальшивые рецензии, но и назвали их настолько же полезными, насколько и человеческие", - заявили разработки нейросети.
Уникальность достигается за счет того, что нейросеть составляет текст из отдельных слов, а не из нарезанных кусков текста. Искусственный интеллект даже дополняет рецензии "историями из жизни".
Пока отличить фальшивку возможно лишь с помощью статистических методов - нейросеть выдает частота появления букв.
Как отмечают аналитики, создание такого робота разрушает бизнес по продаже отзывов и подрывает доверие людей к сайтам с обзорами - например, Yelp или TripAdvisor - а также к онлайн-ритейлерам, таким как Amazon.
Однако этим возможные проблемы не ограничиваются. Один из создателей нейросети Бен И. Чжао заявил: “Я думаю, что опасность для общества гораздо серьезнее. Это развитие искусственного интеллекта может пошатнуть нашу веру в то, что реально, а что нет. Начало - рецензии: верите ли вы в то, что кто-то написал о ресторане или товаре? Однако дальше могут быть сконструированы, например, целые записи в блогах. Дальше вам придется все сильнее задумываться, откуда появилась информация и как ее можно подтвердить. Я хочу, чтобы люди обратили на это внимание как на реальную и близкую угрозу".