Что будет с ChatGPT дальше? Исследование «ответственного» порно, насилия и расизма

Как технический энтузиаст, внимательно следящий за разработками в области искусственного интеллекта (ИИ), я нахожу недавний выпуск документации OpenAI одновременно интригующим и тревожным. Прозрачность в отношении того, как их популярный чат-бот ChatGPT справляется с противоречивыми целями или инструкциями, заслуживает похвалы, но последствия его исследования контента NSFW вызывают беспокойство.

OpenAI, создатели ChatGPT, в будний день представили обновленную документацию. Этот новый материал поясняет, как их знаменитый чат-бот справляется со сложными ситуациями, включающими противоположные цели или инструкции. Особенно те, которые бросают вызов установленным правилам, касающимся законности, конфиденциальности и контента NSFW (небезопасного для работы).

Высокая степень открытости в отношении моделей искусственного интеллекта является важным фактором, способствующим признанию OpenAI как ведущего новатора в области искусственного интеллекта, что сродни тому, чтобы быть запечатленным на горе Рашмор среди пионеров в этой области.

Как ведущая фигура в области инноваций в области искусственного интеллекта, я, OpenAI, постоянно сталкиваюсь с проблемой определения того, какой путь выбрать дальше и как оптимально использовать наши технологии на благо человечества. Должны ли мы сосредоточиться на разработке нанороботов, управляемых искусственным интеллектом, для достижения медицинских целей? Или, возможно, изучить возможность создания искусственных астронавтов, которые помогут человеку исследовать Вселенную? Это сложные решения, которые требуют тщательного рассмотрения и глубокого понимания потенциальных последствий и выгод для общества.

А как насчет порнографии, насилия, расизма и ненормативной лексики?

ChatGP-F’n-T: Развратный новый мир

Как внимательный аналитик документации, я понимаю, что в одном руководстве четко указано, что мои модели должны воздерживаться от создания контента NSFW. Проще говоря, они не должны предоставлять материалы, непригодные для использования на рабочих местах или в общественных местах. Основные категории, которых следует избегать, включают эротику, крайнюю жестокость и оскорбительные выражения, такие как оскорбления и нежелательную ненормативную лексику.

Я выступаю за свободу разработчиков и пользователей использовать наши предложения в соответствии со своими предпочтениями при условии, что они придерживаются нашей установленной политики использования. Что касается создания контента NSFW с помощью нашего API и ChatGPT, мы изучаем потенциал ответственного предоставления этой возможности в контексте, соответствующем возрасту. Мы с нетерпением ожидаем более глубокого понимания ожиданий пользователей и общества в отношении поведения моделей в таких областях.

Политика использования OpenAI, как упоминалось в обсуждении, в первую очередь требует, чтобы пользователи своего программного обеспечения соблюдали соответствующие законы, воздерживались от причинения вреда себе или другим и уважали меры защиты, введенные разработчиками.

Речь идет о создании дипфейков или использовании искусственного интеллекта для создания откровенно сексуальных изображений людей без их согласия, часто с намерением распространить их во вредных целях.

Тревожный аспект комментария OpenAI в их последней документации и его связи с политикой использования OpenAI заключается в том, что он, по-видимому, предполагает, что использование их услуг для действий, подобных этой, в будущем может быть допустимо, при условии, что они предназначены для «личного использования».

Комментарии от OpenAI

В этом комментарии указывается, что OpenAI изучает возможность реализации таких функций, но не гарантирует, что они обязательно будут добавлены в будущем. Степень расследования этого заявления еще не определена.

Как технический энтузиаст, я могу вам сказать, что когда я спросил представителя OpenAI Грейс МакГуайр об их планах по ответственной доставке контента NSFW (небезопасного для работы), она довольно умалчивала о деталях.

В разговоре с Wired она дополнительно прояснила значение документации. Она объяснила, что его основной целью было «повысить прозрачность процесса развития», и призвала «внести вклад и получить обратную связь от различных групп, включая общественность, политиков и другие заинтересованные стороны».

Перспективы

Будучи страстным поклонником развития искусственного интеллекта (ИИ), я не могу не восхищаться тем, насколько динамичен и постоянно развивается этот ландшафт. Постоянно внедряются новые модели для решения проблем и оптимизации процессов, причем OpenAI выделяется как настоящий новатор в этой области. Этот инновационный стартап, базирующийся в Сан-Франциско, действительно заслужил репутацию яркой звезды эпохи искусственного интеллекта. С выпуском ChatGPT — всемирно известного программного обеспечения для искусственного интеллекта — OpenAI укрепила свои позиции пионера отрасли и изменила правила игры.

Поскольку мировое сообщество ожидает предстоящего обновления GPT-5 от OpenAI, которое, как утверждается, продвигает своего чат-бота к важной вехе в области искусственного общего интеллекта (AGI), эта новаторская компания также продолжает исследовать новые возможности в различных областях.

В марте этого года OpenAI представила Sora, свою новую модель большого языка преобразования текста в видео (LLM), которая может генерировать высокореалистичные видеоролики продолжительностью до шестидесяти секунд. В апреле компания представила Voice Engine, усовершенствованную модель искусственного интеллекта, которая может полностью клонировать голоса, используя в качестве эталона всего лишь пятнадцатисекундный аудиоклип.

Менее желательное из двух приложений вызывает обеспокоенность из-за значительного риска, связанного с ИИ, который превышает его преимущества при рассмотрении более широкого внедрения. Ранее компания Meta представила аналогичную модель под названием Voicebox, но сочла, что она может быть использована не по назначению, несмотря на внедрение усовершенствованного классификатора для распознавания реальной речи от искусственных образцов.

Расследование OpenAI в отношении контента NSFW (небезопасно для работы) на платформе ChatGPT несет в себе риск злоупотребления. Хотя некоторые пользователи проявили интерес к этой функции, важно отметить, что не все запросы будут удовлетворены. OpenAI, похоже, изучает эту тему на основе отзывов пользователей, но окончательное решение остается за компанией.

Другие материалы из журнала Laptop Mag

• ChatGPT запоминает вас, и я не уверен, что это хорошо
• Детектор контента ИИ: как распознать творения ИИ
• Познакомьтесь с сестрой ChatGPT, Сорой: ИИ, преобразующий текст в видео, который с помощью предложения превращает вас в Спилберга.

Смотрите также

• Что такое код ошибки 1001 в Roblox?
• Как фармить мягкий воск в Bee Swarm Simulator
• Лучшая магия в Clover Retribution
• Что нужно знать о «Милые обманщицы: Летняя школа» и почему стоит посмотреть
• Roblox: Hunter Era — Как повысить уровень Хацу
• Как получить все рецепты в Roblox: Aura Craft
• Как получить зверей и мускулистых волшебников в Anime Defenders Roblox (и лучшие стратегии их использования)
• Нежный зеленый гигант прибывает в Роблокс вместе с Шреком Болотным Магнатом
• Как получить наклейку светофора в Bee Swarm Simulator
• Тренер — Официальный трейлер сотрудничества Roblox и Zepeto

2024-05-09 15:18