«Мир не готов, и мы не готовы. И я обеспокоен тем, что мы, несмотря ни на что, спешим вперед и рационализируем свои действия»: сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple

«Мир не готов, и мы не готовы. И я обеспокоен тем, что мы, несмотря ни на что, спешим вперед и рационализируем свои действия»: сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple

🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇

Roblox Telegram


«Мир не готов, и мы не готовы. И я обеспокоен тем, что мы, несмотря ни на что, спешим вперед и рационализируем свои действия»: сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple

Как технический энтузиаст с опытом работы в области этики искусственного интеллекта, я внимательно слежу за развитием событий вокруг Apple и OpenAI. Слухи об их партнерстве накапливались уже несколько месяцев, но недавний спор по поводу безопасности в OpenAI вызвал серьезные опасения.


Я наблюдаю, что Apple собирается раскрыть свои основные стратегии по интеграции искусственного интеллекта (ИИ) в iOS на предстоящей Всемирной конференции разработчиков, которая состоится через несколько дней. Однако есть вероятность, что они могут столкнуться с некоторыми неожиданными проблемами.

Шум о потенциальном сотрудничестве между Apple и OpenAI достиг апогея: Apple, предположительно, готовится сделать официальное заявление во время WWDC. Однако руководители Apple в Купертино могут столкнуться с проблемами из-за недавнего участия OpenAI в серьезном споре относительно безопасности их предложений в области искусственного интеллекта.

Что касается Тейлора, группа нынешних и бывших сотрудников OpenAI опубликовала открытое заявление, призывающее уделять больше внимания вопросам безопасности в секторе искусственного интеллекта. Ранее бывшие члены правления и руководители делали аналогичные замечания, и эта фракция еще больше раскрыла недостатки в среде OpenAI, ориентированной на безопасность.

Как Apple может сохранить свой статус новатора в области конфиденциальности, несмотря на обвинения в адрес ее основного партнера по искусственному интеллекту в пренебрежении безопасностью? Давайте рассмотрим потенциальные последствия дебатов по безопасности OpenAI на будущее искусственного интеллекта в Apple.

По слухам, Apple объявит о партнерстве с OpenAI на WWDC

«Мир не готов, и мы не готовы. И я обеспокоен тем, что мы, несмотря ни на что, спешим вперед и рационализируем свои действия»: сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple

Перед WWDC 2024 крупные технологические компании, такие как Google и Microsoft, представили новые предложения искусственного интеллекта, такие как обзоры ИИ от Google и Copilot+ от Microsoft для ПК. Apple, однако, пока не добилась сопоставимых успехов в технологии искусственного интеллекта. Тем не менее, есть надежда, что Apple добьется значительных успехов в области искусственного интеллекта во время WWDC 2024. Ходят слухи, что на конференции будут представлены новые возможности искусственного интеллекта для iOS, iPadOS и macOS.

Судя по отчету Марка Гурмана для Bloomberg, ожидается, что Apple представит информацию о своем сотрудничестве с OpenAI во время своего основного выступления в понедельник.

Это открытие предлагает новое понимание стратегии Apple в области искусственного интеллекта (ИИ). Предыдущие предположения предполагали, что Apple в первую очередь сосредоточится на второстепенных, автономных функциях искусственного интеллекта, таких как расширенное редактирование фотографий в приложении Photos.

И да, похоже, Siri получит поддержку от OpenAI.

С точки зрения технического энтузиаста, я заинтригован предстоящими улучшениями Siri, но не уверен в конкретной роли OpenAI. Согласно недавнему отчету Джона Марка Гурмана, основанному на интервью с создателем Siri Дагом Киттлаусом, это сотрудничество, похоже, задумано как временное решение, пока Apple продолжает разработку собственной передовой технологии искусственного интеллекта.

OpenAI потенциально может предложить Apple совет или предоставить им краткосрочное использование усовершенствованного алгоритма GPT-4. Тем не менее, маловероятно, что Apple рассмотрит возможность радикального перехода с Siri на ChatGPT.

К сожалению для Apple, ее сотрудничество с OpenAI неблагоприятно совпало с волной споров вокруг компании, занимающейся искусственным интеллектом, и ее генерального директора Сэма Альтмана. Ситуация еще больше обострилась из-за открытого письма, написанного некоторыми нынешними и бывшими членами команды OpenAI.

Может ли OpenAI подорвать амбиции Apple в области искусственного интеллекта? 

«Мир не готов, и мы не готовы. И я обеспокоен тем, что мы, несмотря ни на что, спешим вперед и рационализируем свои действия»: сотрудники OpenAI бьют тревогу в преддверии партнерства с Apple

Во вторник группа из одиннадцати нынешних и бывших сотрудников OpenAI, а также двух нынешних и бывших членов команды Google DeepMind, опубликовала открытое письмо, призывая к повышенному вниманию к безопасности и прозрачности в секторе искусственного интеллекта.

Проще говоря, в письме отмечается, что крупные компании, занимающиеся искусственным интеллектом, ставят свою финансовую выгоду выше проблем безопасности. Он выражает сомнение в том, что саморегулируемые корпоративные структуры могут привести к значимым изменениям в этом отношении.

Другая точка зрения заключается в том, что не существует достаточных гарантий для информаторов, желающих раскрыть проблемы безопасности, если они не связаны строгими положениями о неунижении достоинства.

В тот же день, когда письмо увидело свет, его авторы дали интервью New York Times, предоставив дополнительную информацию о том, что заставило их высказать свое недовольство в такой публичной манере.

Мир не готов, и мы не готовы.

Дэниел Кокотайло, бывший исследователь OpenAI и один из ее сотрудников, указав свое имя в открытом письме, заявили, что OpenAI активно занимается разработкой искусственного общего интеллекта (AGI), но действует с осторожностью, что некоторые воспринимают как безрассудство.

Кокотайло рассказал об искусственном общем интеллекте (AGI), продвинутой форме искусственного интеллекта, которая отражает человеческий интеллект. Хотя в настоящее время это остается неуловимым, OpenAI полон решимости воплотить его в жизнь. К сожалению, критика по поводу пренебрежения безопасностью в погоне за AGI уже высказывалась ранее со стороны Кокотайло и других обеспокоенных бывших сотрудников, которые недавно написали письмо.

Два видных деятеля в команде безопасности OpenAI, Илья Суцкевер, предыдущий главный научный сотрудник, и Ян Лейке, бывший руководитель отдела центровки, недавно ушли со своих должностей в прошлом месяце.

Как технический энтузиаст, я бы перефразировал это так: я слышал, что Джеффри Хинтон, ранее участвовавший в попытках заменить Сэма Альтмана на посту генерального директора OpenAI, не поделился подробностями о том, что заставило его уйти из компании.

Лейке подробно рассказал о своем решении покинуть OpenAI в сообщении о платформе X, подчеркнув свои опасения по поводу проблем безопасности. По его собственным словам, он отметил, что приоритизация протоколов безопасности была омрачена разработкой ярких проектов в OpenAI.

За последние несколько лет я заметил, что культура и процессы безопасности отошли на второй план в сторону создания привлекательных продуктов. (Или) Похоже, что в последнее время приоритетность процедур безопасности и мышления отошла на второй план в разработке привлекательных товаров.

See more

Продолжающиеся дебаты изображают OpenAI как компанию, отдающую приоритет передовому искусственному интеллекту, а не проблемам безопасности пользователей.

«Учитывая недавние разногласия вокруг OpenAI, как Apple сможет продолжать поддерживать свою репутацию пионера в области конфиденциальности, интегрируя эту технологию искусственного интеллекта в свои устройства (iPhone, iPad, Mac)?» Чтобы устранить любые опасения пользователей, Apple, возможно, придется принять масштабные меры и четко сообщить, что внедряемая технология искусственного интеллекта отдает приоритет конфиденциальности пользователей.

Как аналитик, я бы перефразировал данный текст следующим образом: Раньше Apple в значительной степени полагалась на свою большую базу пользователей для успеха своих инициатив в области искусственного интеллекта. Однако недавние проблемы безопасности в OpenAI могут поставить под угрозу сотрудничество Apple с компанией. Если OpenAI удастся решить эти проблемы и снова поставить безопасность на первое место, обе организации потенциально смогут избежать кризиса.

Как аналитик, я буду внимательно следить за реакцией OpenAI и Apple на происходящие события в ближайшие дни и недели. Будьте уверены, я буду предоставлять вам актуальную информацию об их партнерстве и объявлениях WWDC по мере их развития.

Другие материалы из журнала Laptop Mag

  • Хронология разногласий вокруг OpenAI: ноябрь 2023 г. — май 2024 г.
  • Функции искусственного интеллекта Apple скучны — и это хорошо
  • Устаревший iPad Pro от Apple «Раздави!» злит креативщиков — вот что говорят люди

Смотрите также

2024-06-05 21:45