Ажиотаж вокруг DeepSeek доказывает, что наконец-то — наконец-то! — пришло время поговорить о конфиденциальности ИИ

🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇

Roblox Telegram

Прошла ровно неделя с тех пор, как конкурент ChatGPT удивил мир искусственного интеллекта.

Китайская фирма DeepSeek недавно представила свою модель R1, которая привлекла к себе пристальное внимание мирового сообщества специалистов по искусственному интеллекту — и вполне заслуженно.

Помимо схожего уровня сложности с моделью ChatGPT o1 от OpenAI, модель R1 от DeepSeek выделяется как бесплатная альтернатива.

Сочетание этих факторов — во-первых, его создание по значительно более низкой цене по сравнению с другими известными «юристами-как-машинами», а во-вторых, его последующее влияние — вызвало настоящий переполох в технологической отрасли, особенно среди финансово-ориентированных групп.

За один день Nvidia испытала ошеломляющее падение рыночной стоимости примерно на $600 млрд, установив рекорд по самому большому однодневному падению в истории рынка. Это не просто рябь; это больше похоже на цунами.

Более того, особенно поразительным DeepSeek делает его потенциальный вторичный эффект, столь же значительный и на удивление не связанный с фондовым рынком.

Проблема TikTok

Как энтузиаст технологий, я должен признать, что DeepSeek был предметом обсуждений в городе из-за его впечатляющих возможностей и доступной цены. Однако в этой дискуссии есть подтекст, который рисует другую картину — вопрос конфиденциальности.

Одно из заметных различий между DeepSeek и текущими исследованиями в секторе больших языковых моделей (LLM) заключается в его географическом происхождении: изначально он разрабатывался не в Соединенных Штатах, а базировался в другом месте, преимущественно в Китае.

Учитывая нынешние споры вокруг TikTok, не очень хорошо, чтобы американское приложение было связано с такими проблемами. Идея приложения, которое собирает ваши данные и передает их на китайский сервер, вызывает многочисленные опасения.

Крайне важно, чтобы конфиденциальность, независимо от того, касается ли это приложения из США или из другой страны, ценилась. Чем больше объем собираемых персональных данных, тем больше становится потенциальная угроза вашей онлайн-безопасности.

Проще говоря, в Китае сложно отличить частную корпорацию от правительства, что заставляет нас задуматься о потенциальном использовании сугубо пользовательских данных.

Давайте пока отложим этот конкретный спор. Однако нетрудно представить себе правительство, обладающее значительной властью, которое злоупотребляет огромными объемами данных способами, которые могут не принести пользы американским гражданам.

Это вполне ожидаемо, на самом деле. В конце концов, если бы кто-то из-за пределов США существенно обесценил такую гигантскую корпорацию, как Nvidia, это, несомненно, вызвало бы резонанс, и, естественно, такое событие вызвало бы сомнения.

Однако мое внимание привлекло не мнение DeepSeek конкретно о китайской компании, занимающейся ИИ, а скорее взгляды на ИИ в целом.

Момент для конфиденциальности ИИ

R1 от DeepSeek не заставил себя долго ждать, чтобы вызвать споры.

После недавнего появления этой технологии в публичном обсуждении Bloomberg и Financial Times сообщили, что Microsoft и OpenAI изучают возможность использования DeepSeek сомнительных методов в процессе обучения модели R1.

Bloomberg сообщает:

Корпорация Microsoft и OpenAI расследуют, был ли незаконный доступ к некоторым данным, созданным с помощью технологии OpenAI, со стороны команды, связанной с китайской компанией DeepSeek, занимающейся разработкой искусственного интеллекта, о чем сообщают источники, близкие к ситуации.

Очевидно, что OpenAI, похоже, довольно скептически относится к заявлению, что DeepSeek повторил их работу, чтобы создать свою модель R1. Однако некоторые утверждают, что такой уровень скептицизма ироничен, учитывая историю технологического прогресса в этой области.

OpenAI известна тем, что обучает свою модель ИИ, используя защищенные авторским правом работы и творческие результаты других людей. Компания вовлечена в юридический спор с New York Times, поскольку ее обвиняют в использовании статей газеты для обучения ChatGPT.

Как технически подкованный человек, я нахожу тревожным, что, похоже, мало обсуждается вопрос о мерах конфиденциальности, применяемых к пользовательским данным, хранящимся в OpenAI, включая информацию от тех, кто регистрируется. Я считаю, что для таких платформ крайне важно расставлять приоритеты и открыто обсуждать свои практики конфиденциальности данных.

Существует разница в том, как воспринимается сбор данных американскими и китайскими частными компаниями из-за неоднозначности между частным и государственным секторами в Китае. Однако это различие становится незначительным, поскольку DeepSeek непреднамеренно или нет, разжигает разговоры о проблемах конфиденциальности ИИ.

Шанс все исправить

Каждый новый цифровой инструмент несет в себе потенциальные риски для конфиденциальности. Например, рост социальных сетей, виртуальных помощников и платформ онлайн-покупок.

В отличие от предыдущих платформ ИИ, наши нынешние используют богатство исторических данных, накопленных за годы. Это дает нам, в теории, возможность создавать вещи по-другому.

Теоретически, защита вашей конфиденциальности требует активных усилий, поскольку история показывает нам, что нам нужно ее защищать. Например, виртуальные помощники, такие как Alexa, Siri или Google Assistant, не предлагали опций подписки, пока не возникли споры относительно программного обеспечения, которое непреднамеренно записывало личные разговоры из-за лазеек в системе безопасности.

Как обеспокоенный пользователь, я был воодушевлен тем, как быстро технологические компании отреагировали, столкнувшись с проблемами конфиденциальности, например, откатив определенные программы или предложив возможность отказаться после утечек конфиденциальной информации. Хотя нам еще предстоит пройти долгий путь, такие инциденты, как DeepSeek, являются значительными шагами в обеспечении того, чтобы конфиденциальность стала главным приоритетом для этих гигантов.

Похоже, нам может понадобиться получить знания через неудачный опыт. В четверг было обнаружено, что безопасность DeepSeek была скомпрометирована из-за незащищенной базы данных, содержащей миллионы записей журнала. Эти данные потенциально могут предоставить злоумышленникам доступ к внутренним системам DeepSeek, что, безусловно, вызывает беспокойство.

Если DeepSeek не застрахован от подобных инцидентов, то никто не застрахован. Это подчеркивает срочность обсуждения конфиденциальности ИИ, и нам давно пора заняться этим важным разговором.

Как обеспокоенному пользователю, нам сложно предсказать, что именно может произойти, но если наши данные попадут в чужие руки — к кому-то, кто равнодушен к нашим интересам, — то мы сможем оглянуться назад и сказать: «Мы должны были это предвидеть».

Смотрите также

2025-02-02 17:30