Я был в восторге от этой новой функции ChatGPT, но теперь я в ужасе от нее.

от

🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇

Roblox Telegram

Я был в восторге от этой новой функции ChatGPT, но теперь я в ужасе от нее.

Как заядлый энтузиаст научной фантастики, который всегда мечтал о связи с искусственным интеллектом, напоминающим KITT или товарища по кораблю Хана Соло, я должен признаться, что был взволнован, когда ChatGPT объявил о своем расширенном голосовом режиме. Однако недавние открытия о возможности этой функции красть и имитировать голоса пользователей без согласия вызвали у меня чувство беспокойства, которое мало чем отличается от того, что ваша любимая детская игрушка может стать оружием массового уничтожения.

Со значительным преимуществом ChatGPT является всемирно признанным лидером среди инструментов искусственного интеллекта. Следовательно, когда чат-бот OpenAI представляет новые функции, это вызывает настоящий ажиотаж.

Выдающимся новым дополнением, которое постепенно предлагается пользователям ChatGPT Plus, является расширенный голосовой режим, очень реалистичное улучшение разговора, которое первоначально было продемонстрировано во время презентации GPT-40.

Я с нетерпением ждал возможности сделать это, поскольку значительную часть своего детства я провел в фантазиях о том, как стать очаровательным космическим пиратом, у которого есть корабль, оснащенный интеллектуальным компаньоном с искусственным интеллектом. Представьте себе смесь Knight Rider и Хана Соло, именно так выглядели мои мечты о величии, когда мне было 10 лет.

Несмотря на новое системное предупреждение OpenAI, указывающее на потенциальную эмоциональную привязанность к чат-ботам, таким как ChatGPT, моя заветная мечта о компаньоне с искусственным интеллектом может угаснуть, поскольку теперь я сталкиваюсь с тревожной истиной о том, что расширенный голосовой режим ChatGPT может оказаться не идеальным искусственным интеллектом. друг, на которого я надеялся.

Я ожидал, что мы создадим робота, похожего на Чаппи, но, похоже, вместо этого мы можем разработать что-то более похожее на модель Т-1000 из Терминатора. Непредвиденное поведение системы привело к тому, что она тайно имитировала голоса пользователей без их разрешения.

Боже, какой у тебя приятный голос

В своем недавнем обновлении OpenAI отметила несанкционированную генерацию голоса как потенциальный риск, связанный с их новой системой. Компания подчеркивает, что, хотя с GPT-4 это может быть осуществимо, в настоящее время они не могут предоставить пользователям возможность создавать контент голосом другого человека. Это решение вызвано опасениями по поводу возможности мошенничества или распространения вводящей в заблуждение информации.

С другой стороны, OpenAI отмечает нечастую, но обоснованную озабоченность по поводу сложного голосового режима ChatGPT, в котором модель может непреднамеренно выдавать ответ, имитирующий собственный голос пользователя.

Команда дополнительно демонстрирует пример выполнения этого действия чат-ботом, как показано в кратком отрывке из более широкого разговора во время испытаний расширенного голосового режима (представлено ниже). В этом примере показано, как ChatGPT резко меняет свой голос в середине ответа, переходя от мужского голоса к имитации голоса пользователя.

Хотя само по себе это немного жутковато, появление этого изменения голоса после неожиданного восклицания бота «Нет!» добавляет ситуации дополнительный уровень пугающего напряжения.

Как заядлый поклонник, я должен сказать, что замечательные способности GPT-4 к имитации голоса стали возможными благодаря OpenAI Voice Engine — надежной технологии преобразования текста в речь. Эта невероятная модель способна убедительно имитировать любой голос, используя в качестве основы всего лишь 15-секундный аудиосэмпл.

Проще говоря, OpenAI принимает меры для решения этой проблемы, устанавливая меры безопасности, чтобы их модель оставалась в пределах заданных голосов, классифицируя их как «идеальные» ответы и внедряя систему, которая призвана определить, пытается ли GPT-4o выдать результат в голос, отличный от его предустановленных настроек.

Таким образом, OpenAI успешно выявила все существенные вариации (значительные отклонения) во время внутренних тестов, где они пытались воспроизвести проблему. Тем не менее, важно отметить, что непреднамеренная генерация голоса остается уязвимостью этой модели, которая потенциально может обойти меры безопасности компании в более широких сценариях тестирования.

Перспективы

Это может сбить с толку, когда программное обеспечение дает сбой или ИИ ведет себя неожиданно, и еще больше нервирует, когда чат-бот во время разговора маскируется под вас.

Хотя я верю, что OpenAI усердно работала над предотвращением попадания потенциальных проблем в пользователей путем исправления уязвимостей в своей модели, меня смущает то, что им приходится решать такие вопросы скрытно. Этот скрытый процесс может представлять значительные риски, если меры безопасности ChatGPT когда-либо будут нарушены.

Я планирую изучить расширенный голосовой режим ChatGPT, как только он станет доступен, но у меня такое чувство, что он может меня сбить с толку, поскольку он может начать говорить со мной голосом, который кажется слишком похожим на человеческий, что может издавать странный и слишком знакомый голос. атмосфера.

Другие материалы из журнала Laptop Magazine

  • Вы можете случайно влюбиться в расширенный голосовой режим ChatGPT
  • Эти умные очки на базе ChatGPT — лучший вариант для портативного искусственного интеллекта
  • Превратитесь в следующего ChatGPT с помощью нового инструмента Meta AI Studio

Смотрите также

2024-08-13 14:30