Microsoft представляет спорное приложение искусственного интеллекта для устройств iPhone и Android

Как преданный технический энтузиаст и давний пользователь продуктов Microsoft, я с большим интересом следил за развитием Microsoft Designer с момента его первого анонса. Недавние новости о бесплатной доступности приложения на мобильных устройствах взволновали меня, поскольку у меня была возможность поэкспериментировать с ним в Windows и я был впечатлен его возможностями графического дизайна, улучшенными искусственным интеллектом.

Устремления Microsoft в области искусственного интеллекта были еще раз подчеркнуты представлением нового бесплатного мобильного приложения Designer. Это приложение является расширением Microsoft Copilot, которое предлагает функции создания изображений на платформах Windows, мобильных устройствах и веб-платформах.

Как страстный пользователь Microsoft Designer, я бы описал его как продвинутую платформу графического дизайна и редактирования изображений, основанную на искусственном интеллекте, очень похожую на Adobe Express или Canva. Этот инструмент позволяет мне создавать оригинальные изображения с помощью искусственного интеллекта, быстро улучшать фотографии и изображения, а также создавать документы, приглашения, листовки и многое другое с помощью широкого спектра настраиваемых шаблонов.

В недавнем сообщении в блоге о Microsoft 365 корпоративный вице-президент Сумит Чаухан объявил о нескольких предстоящих улучшениях. Он отметил, что пользователи могут рассчитывать на более интегрированную работу с такими приложениями, как Word, PowerPoint и Photos. Кроме того, была обнаружена поддержка более 80 языков, что сделало платформу более доступной для более широкой аудитории. Наконец, будут выпущены новые приложения, адаптированные для устройств Windows, iOS и Android.

Несмотря на то, что Microsoft сделала свой инструмент для создания изображений с использованием искусственного интеллекта широко доступным, это объявление не лишено спорных моментов. Дизайнер компании столкнулся с пристальным вниманием в связи с одним из самых серьезных споров в области искусственного интеллекта в 2024 году и внутренними опасениями по поводу сомнительного характера контента, который он генерирует.

Эскизное прошлое Microsoft Designer

Microsoft Designer, представленный в октябре 2022 года, стал следующим дополнением к коллекции инструментов Microsoft 365, использующим возможности искусственного интеллекта (ИИ) для расширения творческих возможностей и ускорения проектов графического дизайна как для корпоративных организаций, так и для отдельных пользователей.

В апреле 2023 года Microsoft выпустила предварительную версию своего инструмента Designer с новыми возможностями искусственного интеллекта. Эти функции позволяют пользователям с любыми способностями создавать высококачественные копии и визуально привлекательные результаты путем ввода естественного языка.

Microsoft знала об этих уязвимостях и возможности злоупотреблений.

В январе 2024 года Designer оказался втянутым в скандал, когда выяснилось, что это программное обеспечение было среди тех, которые использовались для создания и распространения откровенно сексуального контента таких знаменитостей, как Тейлор Свифт, в X/Twitter. Тревожные изображения быстро привлекли всеобщее внимание в Интернете.

Как технический энтузиаст, я бы сказал это так: начиная с конца 2023 года я обнаружил некоторые уязвимости в программном обеспечении Microsoft Designer. Будучи преисполнен решимости решить эти проблемы, я обратился к Microsoft и OpenAI, чтобы сообщить о своих выводах. К сожалению, мои усилия остались без публичного признания их главного руководителя разработки программного обеспечения Шейна Джонса.

Джонс утверждал, что Microsoft знала об этих уязвимостях и возможности неправомерного использования. В ответ компания заявила, что они тщательно изучили отчет сотрудника и обнаружили, что раскрытые им методы не обходят наши механизмы безопасности ни в одном из инструментов Microsoft для создания изображений на основе искусственного интеллекта.

Хотя Microsoft делала противоречивые заявления, Джонс продолжал настаивать на решении своих проблем. В конце концов ему посоветовали лично связаться с OpenAI – этот шаг, по его утверждению, не привел к разрешению проблемы.

Опасения, высказанные Джонсом, стали реальностью в течение месяца, когда созданные искусственным интеллектом изображения Designer наводнили социальные сети. Это привело к внесению в США законопроекта, направленного на пресечение сексуальных дипфейков без согласия, и вызвало резкую реакцию со стороны генерального директора Microsoft Сатьи Наделлы, который назвал ситуацию «тревожной и тревожной».

Microsoft быстро отреагировала на проблему неправомерного использования своего инструмента графического дизайна. Они эффективно закрыли использованную уязвимость, которая привела к созданию и широкому распространению провокационных изображений.

Как технический энтузиаст, я слежу за новостями об уязвимостях безопасности, раскрытых Шейном Джонсом. Хотя не совсем ясно, связаны ли эти уязвимости и упомянутый им конкретный петлевой хак, одно можно сказать наверняка — Microsoft серьезно отнеслась к этому вопросу. В ответ они активизировали усилия по усилению мер безопасности. В конечном итоге в марте они представили AI Prompt Shielding как часть своей защитной стратегии для предотвращения несанкционированных попыток взлома или манипулирования их моделями ИИ в будущем.

Перспективы

Инструмент графического дизайна Microsoft Designer не вызывал разногласий с тех пор, как компания решила проблему неправильного использования. Тем не менее, этот инцидент подчеркивает важность того, чтобы разработчики систем ИИ сохраняли бдительность в отношении потенциальных злоупотреблений. Это служит предостережением о настойчивых попытках некоторых пользователей найти способы обойти меры безопасности.

Microsoft Designer значительно улучшил свои функции безопасности и удобство работы с пользователем, что делает широкое внедрение на этой неделе возможностью начать все сначала.

Доступ к Microsoft Designer можно получить бесплатно в Интернете, а также на платформах iOS, Android и Windows. Он предоставляет надежный и удобный набор инструментов для людей, стремящихся быстро и продуктивно создавать впечатляющие графические проекты.

Другие материалы из журнала Laptop Mag

• Эти умные очки на базе ChatGPT — лучший вариант для портативного искусственного интеллекта
• Чему Google не удалось научиться у самого агрессивного чат-бота Microsoft с искусственным интеллектом
• Можно ли доверять журналистике, которой помогает искусственный интеллект?

Смотрите также

• Как быстро заработать деньги в Roblox Fisch
• Руководство по квесту ведьмы на Хеллоуин Roblox Fisch – расположение всех ингредиентов
• Все квестовые предметы Ланы Лор и ключевые места в Dress to Impress (DTI) – Roblox
• Все предметы в обновлении «Хэллоуин» в Roblox: Dress To Impress
• Как получить Жезл Судьбы в Fisch Roblox
• Игра My Hero Academia Roblox раскрывает новый игровой процесс и многое другое [ЭКСКЛЮЗИВ]
• Расположение секретной зоны Vertigo в Roblox Fisch
• 5 хороших сериалов, похожих на «Белый лотос»
• Руководство по выполнению заданий на Хэллоуин в Royale High 2024
• «Те собираются умереть» и 3 шоу выйдут на канале Peacock в июле 2024 года.

2024-07-18 15:05