«Это искусственный интеллект для фотографий из Instagram?» В 2024 году Мета пыталась контролировать мошенничество с искусственным интеллектом с помощью постоянно меняющейся политики.

🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇

Roblox Telegram

Как человек, ставший свидетелем душераздирающей истории о том, как «Джейка» обманул на Facebook двойник Ника Кейва, я не могу не испытывать чувства тревоги и беспокойства по поводу растущей проблемы мошенничества с контентом, созданным с помощью ИИ. Поразительно видеть, как легко этим сложным системам обмануть ничего не подозревающих людей, таких как Джейк, которые доверяли знаменитостям, не ставя под сомнение подлинность полученных им инвестиционных советов.

Как аналитик, я бы перефразировал это утверждение следующим образом: я считаю Facebook идеальной платформой для того, чтобы быть в курсе новостей о моих любимых музыкальных группах: он предоставляет мне расписание гастролей, фотографии и даже отдельные видеоклипы.

Джейк, учитель из Австралии, использовал Facebook, чтобы следить за Ником Кейвом и его рок-группой The Bad Seeds. В 2023 году, посмотрев на Facebook видео, на котором Кейв одобряет потенциально выгодную инвестицию, Джейк почувствовал уверенность в том, что прислушается к совету Кейва. По его собственным словам: «Учитывая мое высокое уважение к нему как к художнику, я не мог устоять перед искушением воспользоваться этой возможностью, которая казалась слишком хорошей, чтобы быть правдой.

К сожалению для Джейка, видео Кейва было ненастоящим.

За считанные месяцы Джейк потерял значительную сумму – 130 000 австралийских долларов – из-за мошеннической схемы. Этот последний инцидент подчеркивает пугающий потенциал использования искусственного интеллекта для обмана людей, выдавая себя за известных знаменитостей.

6 февраля 2024 года Meta представила новый подход к идентификации контента, созданного искусственным интеллектом. К сожалению, это обновление появилось после инцидента с Джейком, но оно может помочь предотвратить обман, связанный с ИИ, в будущем.

В течение года Meta продолжала развивать свою политику маркировки ИИ.

Метка AI, представленная еще в феврале, представляет собой текстовый тег, который появляется над изображениями и видео, которые, как считается, в той или иной степени связаны с искусственным интеллектом. Это может варьироваться от контента, полностью созданного искусственным интеллектом, до частично обработанных визуальных эффектов с использованием технологии искусственного интеллекта.

В течение года Meta изменила свою политику маркировки контента, созданного искусственным интеллектом, несколькими способами.

Статья под названием «Стратегии маркировки контента, созданного искусственным интеллектом, и измененных медиа» была первоначально опубликована в апреле и впоследствии исправлена в мае, июне и сентябре этого года соответственно.

Начиная с апреля, Meta решила больше не удалять контент, которым манипулирует ИИ, если только он явно не нарушает правила сообщества. Одновременно они расширили свою политику относительно того, какой контент теперь будет иметь тег AI, включая видео, звуки и изображения.

В мае они дали понять, что будут специально помечать контент как «органический», если он был создан пользователями с использованием искусственного интеллекта, что также можно назвать контентом, созданным пользователями.

В июле Meta еще раз пересмотрела свою стратегию, изменив идентификатор ИИ с «Сделано с использованием ИИ» на «Информация об ИИ». Это изменение сделало ярлык более полным, охватывая не только контент, созданный с помощью ИИ, но также контент, отредактированный или манипулируемый с помощью таких инструментов. Однако стало менее конкретным и точную роль, которую ИИ сыграл в этом процессе.

В сентябре Meta заявила о своем намерении скрыть метку AI в настройках публикации, если их технология определит, что изображение было изменено (но не создано полностью) с использованием AI. Ожидается, что пользователи также будут применять метку AI к загружаемым изображениям. В предупреждении на help.instagram.com говорится: «Неспособность пометить контент как необходимый может привести к штрафам». Для аккаунтов, которые генерируют доход через социальную платформу, потенциальный «теневой бан» за игнорирование политики маркировки ИИ может существенно навредить бизнесу.

Meta не ответила на несколько запросов о комментариях по поводу изменения политики, отправленных Laptop Mag.

Работает ли маркировка контента, созданного ИИ?

Широко признано, что добавление меток к контенту, созданному с помощью ИИ, может быть полезным, часто помогая избежать недоразумений или помочь другим распознать конкретный инструмент ИИ, используемый для создания изображения.

В ходе исследований было обнаружено, что некоторые выражения работают лучше, чем другие, когда речь идет об искусственном интеллекте, в первую очередь из-за того, что многие люди еще недостаточно хорошо разбираются в терминах, связанных с искусственным интеллектом.

Учитывая угрозу, которую представляют дипфейки, созданные искусственным интеллектом, маркировка контента, созданного искусственным интеллектом, является положительным моментом, даже если это может испортить удовольствие людям, пытающимся выдать свои фотографии кошек, созданные искусственным интеллектом, за настоящие.

Неясно, смогут ли эти ярлыки в конечном итоге остановить распространение вводящего в заблуждение контента. Тем не менее, Meta постоянно сталкивается с проблемами в управлении контентом, созданным ИИ, на своей платформе, особенно когда он используется мошенниками не по назначению, что остается серьезной проблемой.

В сентябре 2024 года WANF, новостной телеканал Атланты, провел расследование, в ходе которого была обнаружена серия сгенерированных искусственным интеллектом изображений военнослужащих, проходящих службу за границей. Эти изображения использовались в профилях и страницах с целью обмана и обмана пользователей Facebook. Одна из таких афер была нацелена на пенсионерку Жанну Вассерман, которая в результате потеряла около 130 000 долларов.

Meta регулярно совершенствует инструмент, корректируя его возможности обнаружения и уровень видимости для контента, созданного искусственным интеллектом. Однако потенциальные опасности сохраняются.

Если вы энтузиаст искусственного интеллекта, любитель искусственного интеллекта или человек, интересующийся дополнительными функциями искусственного интеллекта на ПК с Windows Copilot+ или Apple Intelligence на компьютерах Mac, то вам необходимо иметь высокопроизводительный и эффективный ноутбук, способный удовлетворить требования этих передовых инструментов.

В Laptop Mag мы постоянно оцениваем ноутбуки в течение года, чтобы предоставить вам надежные и актуальные советы о том, какой ноутбук лучше всего соответствует вашим потребностям. Когда дело доходит до лучших компьютеров, ориентированных на искусственный интеллект, нашими фаворитами являются выдающийся Asus Zenbook S 14 (UX5406) для пользователей Windows и замечательный Apple MacBook Air M3 для тех, кто предпочитает macOS.

Смотрите также

2024-12-23 21:30