Взлом OpenAI выявил недостатки ChatGPT: ваши данные под угрозой?

Как аналитик с опытом работы в области кибербезопасности, я глубоко обеспокоен недавней чередой проблем безопасности, связанных с OpenAI и ее популярным чат-ботом ChatGPT. Особую тревогу вызывает взлом внутренних форумов обмена сообщениями OpenAI в 2023 году, о котором общественности не сообщалось лишь несколько месяцев спустя. Этот инцидент не только поднимает вопросы о прозрачности, но также может иметь серьезные последствия, если хакер получит доступ к информации, которая позволит ему сделать джейлбрейк или взломать сам ChatGPT.

Как преданный поклонник достижений в области искусственного интеллекта, я не могу не выразить обеспокоенность по поводу последних событий, касающихся OpenAI, инновационной компании, стоящей за ChatGPT. На этой неделе появились тревожные новости о взломе безопасности, произошедшем в 2023 году, что усилило беспокойство, уже вызванное сообщениями о серьезном сбое и серьезной уязвимости, обнаруженной в приложении ChatGPT для macOS всего за несколько дней до этого.

Как создатель всемирно известного чат-бота с искусственным интеллектом из OpenAI, вполне естественно, что эта новаторская технологическая фирма сталкивается с постоянными попытками кибератак. В ответ на недавние проблемы безопасности OpenAI предприняла быстрые действия. Однако пользователи должны оставаться в курсе потенциальных рисков и эффективно защищать свои данные, чтобы смягчить будущие проблемы.

Давайте рассмотрим последние проблемы безопасности OpenAI, связанные с ChatGPT, и способы защиты во время использования.

OpenAI был взломан в 2023 году и хранил это в секрете: что следует знать пользователям

Как технический энтузиаст, я был ошеломлен, когда 4 июля прочитал в New York Times, что OpenAI хранит молчание о серьезном инциденте безопасности, произошедшем еще в начале 2023 года. Без ведома многих хакеру удалось проникнуть на внутренние форумы обмена сообщениями OpenAI. и получили доступ к деликатным разговорам, посвященным тонкостям их новаторских технологий.

Как аналитик, я сталкивался с отчетами, в которых анонимные источники сообщали, что руководители OpenAI решили не раскрывать информацию о нарушении безопасности общественности, поскольку злоумышленнику не удалось проникнуть в системы, содержащие данные клиентов. Однако сотрудник Леопольд Ашенбреннер выразил обоснованную обеспокоенность по поводу недостаточности протоколов безопасности нашей организации после этого инцидента. К сожалению, вскоре после этого меня уволили за обсуждение этих вопросов за пределами компании.

Стоит отметить, что Ашенбреннер был членом команды OpenAI SuperAlignment, отвечавшей за соблюдение этических и безопасных стандартов при разработке продуктов OpenAI. Примечательно, что за последние несколько месяцев внутри этой группы произошли и другие значительные отклонения из-за связанных с этим опасений по поводу безопасности.

Ян Лейке, бывший руководитель отдела согласования OpenAI, выразил обеспокоенность по поводу безопасности некоторых аспектов OpenAI после того, как ушел в отставку в мае 2024 года. В сообщении на X он заявил, что «фокус на культуре и процессах безопасности был омрачен развитием впечатляющих технологий». продукты.»

В последнее время, похоже, наблюдается сдвиг в сторону приоритета привлекательных инноваций над процедурами и практиками безопасности. (Перспектива от первого лица: я заметил, что культура и процессы безопасности отошли на второй план по сравнению с разработкой привлекательных продуктов.)

Утечка данных OpenAI в апреле 2023 года, возможно, не сразу затронула конечных пользователей. Однако реакция OpenAI на этот инцидент вызвала обеспокоенность по поводу прозрачности. Такое отсутствие открытости потенциально может привести к серьезным проблемам, если хакер или любой другой, кто может последовать его примеру, получит доступ к конфиденциальной информации, которая может быть использована для компрометации ChatGPT или других систем OpenAI.

Недостатки безопасности ChatGPT, замеченные пользователями Reddit и macOS

Как исследователь, изучающий недавние инциденты безопасности OpenAI, я с сожалением обнаружил, что нарушение внутренней системы обмена сообщениями в 2023 году было не единственной уязвимостью, обнаруженной на этой неделе.

30 июня пользователь Reddit под ником F0XMaster поделился необычной встречей с ChatGPT в субреддите r/ChatGPT. Вместо ожидаемого «Привет» или подобного ответа ChatGPT во время разговора предоставил подробное объяснение внутренних системных инструкций, которые обычно скрыты от обычных пользователей.

Системные рекомендации дают представление о внутренней работе ChatGPT, раскрывая определенные ограничения, контролирующие его взаимодействие. Например, ChatGPT запрограммирован на создание только одного изображения в ответ на команду, независимо от того, запрашивает ли пользователь несколько изображений.

В ответ на публикацию пользователи сразу же поделились креативными решениями, что позволило им обойти директивы чат-бота. Однако OpenAI решила проблему менее чем через день после публикации сообщения, что сделало эти «обходные пути» неэффективными.

Проблемы OpenAI, похоже, не утихают. Пользователь Threads сообщил, что приложение ChatGPT для macOS хранит стенограммы чатов в виде незашифрованных текстовых файлов, что делает его уязвимым для вторжения хакеров или любопытных людей, потенциально раскрывая всю историю разговоров жертвы.

С момента последнего обновления OpenAI обеспечила шифрование сохраненных чатов в приложении ChatGPT для повышения безопасности. Это означает, что данные теперь защищены. Однако важно отметить, что до этого обновления текстовые файлы, в которых хранятся разговоры пользователей ChatGPT, могли быть потенциально уязвимы.

Как эти уязвимости безопасности влияют на пользователей?

Как исследователь, изучающий последние разработки OpenAI, я должен признать, что это интригующее время для команды. Обнаружение нарушения внутренней системы обмена сообщениями в 2023 году и сбой ChatGPT вызывают серьезную обеспокоенность. Кроме того, обнаружение серьезной уязвимости в безопасности приложения macOS усугубляет их проблемы. Однако, как пользователя ChatGPT, только одна из этих проблем может напрямую затронуть вас — в зависимости от того, используете ли вы платформу через приложение macOS или другими способами.

Инцидент безопасности в 2023 году затронул исключительно внутренние коммуникационные платформы OpenAI, потенциально поставив под угрозу конфиденциальную деловую информацию, не ставя под угрозу данные пользователей. Между тем, проблема с ChatGPT, о которой сообщалось на Reddit в прошлые выходные, была решена, и, похоже, были раскрыты только инструкции модели.

Я заметил проблему уязвимости приложения ChatGPT для macOS, которая заслуживает беспокойства. Если вы использовали это приложение для Mac в своих чатах, будьте уверены, что в последних обновлениях реализовано шифрование ваших разговоров. Ранее существовал риск того, что эти биржи могут быть подвержены хакерским атакам.

Если вы загрузили приложение Mac ChatGPT до этой недели и с тех пор не столкнулись с какими-либо проблемами шифрования, маловероятно, что ваш Mac был скомпрометирован. Однако, если вы не уверены в недавней истории заражения вашей системы вредоносным ПО, рассмотрите возможность запуска надежного антивирусного сканирования, чтобы проверить наличие потенциальных угроз или несанкционированных загрузок.

Как преданный пользователь ChatGPT, я настоятельно рекомендую принять меры для защиты ваших данных. Один из эффективных методов — регулярно удалять старые разговоры, в которых больше нет необходимости. Кроме того, рассмотрите возможность отключения функции «Улучшить модель для всех». Отказываясь, вы предотвращаете использование ваших чатов для повышения производительности ChatGPT для других пользователей. Это простое действие может значительно улучшить вашу конфиденциальность в приложении.

Другой вариант: вам может быть интересно ознакомиться с macOS 15 и Apple Intelligence, будущей функцией, которая позволит вам использовать ChatGPT на вашем Mac, сохраняя при этом конфиденциальность и безопасность, сохраняя ваши данные в экосистеме Apple. Ожидается, что это будет самый безопасный способ доступа к ChatGPT после его выпуска в конце этого года.

Другие материалы из журнала Laptop Mag

• Хронология разногласий вокруг OpenAI: ноябрь 2023 г. — май 2024 г.
• Сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple
• Apple предостерегает от сбора данных с помощью облачного ИИ и делает ставку на ИИ на устройстве

Смотрите также

• Прохождение мясной лавки – Roblox
• Как заработать бесплатные Робаксы в Greedy Noobs – Roblox
• Как получить запятнанную повязку в Anime Last Stand
• Список звуковых идентификаторов Jujutsu Shenanigans Kill – Roblox
• Лучшие настройки прицела в Roblox Rivals
• Как включить фары в пыльной поездке Roblox
• История Руби и Джеймса продолжается: «Мэкстон Холл: 2-й сезон «Мир между нами» стартовал! (Вот что мы знаем на данный момент)
• Как заспавнить и получить Крабового Босса в TSB
• Roblox Touhou Tower Assault: список лучших персонажей
• Где получить базовый сигил в Devas of Creation (расположение на карте)

2024-07-05 19:30