Ровно год назад OpenAI запустила смелый четырехлетний план, который не продлился и года.

Как поклонник искусственного интеллекта и его потенциального влияния на нашу жизнь, я глубоко опечален безвременным завершением проекта Open AI Superalignment. Если бы только этому амбициозному плану был дан шанс реализоваться, мы могли бы стать свидетелями революционного прогресса в обеспечении того, чтобы сверхразумные машины следовали человеческим намерениям.

5 июля 2024 года новаторский проект OpenAI Superalignment отпраздновал бы свою первую годовщину, если бы ему удалось запуститься успешно.

Я сторонний наблюдатель, рассказывающий о недавнем объявлении OpenAI. 5 июля 2023 года они представили свой четырехлетний проект под названием Superalignment. Суть их заявления остается неизменной: нам нужны революционные достижения для управления системами искусственного интеллекта, превосходящими человеческий интеллект. Чтобы решить эту задачу в течение четырех лет, они создают новую команду, во главе которой будут Илья Суцкевер и Ян Лейке. Они выделяют на это дело 20% своих защищенных вычислительных мощностей. Следите за тем, чтобы талантливые исследователи и инженеры в области машинного обучения пополнили их ряды.

Всё развалилось меньше чем через год.

В мае 2024 года соучредитель OpenAI Суцкевер и соруководитель Superalignment Лейке покинули компанию после спорного раскола между Суцкевером и Сэмом Альтманом, другим основателем OpenAI, произошедшим ранее в этом году.

Было вполне естественно, что проект Superalignment, возглавляемый Суцкевером и Лейке из OpenAI, застопорился, как только они оба покинули организацию.

В эту так и не состоявшуюся годовщину мы размышляем над тем, чего достигла SuperAlignment за время своего недолгого существования и какой потенциал она имела, если бы сохранилась.

Чего удалось достичь с помощью Супервыравнивания?

За короткий период активности Superalignment они добились нескольких заметных достижений, прежде чем в конечном итоге закрылись.

Как исследователь-аналитик, я углубился в исследование того, как люди могут эффективно контролировать искусственный интеллект, демонстрирующий превосходный интеллект. В нашем первоначальном исследовании, озаглавленном «Обобщение от слабого к сильному», для целей моделирования использовались передовые языковые модели OpenAI, в частности GPT-2 и GPT-4 (далее называемые LLM).

Основываясь на наших выводах, я могу сделать следующие выводы:

Группа также запустила программу по предоставлению заявителям быстрых грантов на сумму 10 миллионов долларов в декабре 2023 года.

.

Супервыравнивание: что могло бы быть

Как исследователь, участвовавший в разработке проекта Superalignment в OpenAI, я могу вам сказать, что нашей основной целью было найти ответ на актуальный вопрос: «Как мы можем гарантировать, что значительно более совершенные системы ИИ будут соответствовать человеческим намерениям?»

На вопрос о том, что бы произошло, если бы Суперсогласование продолжилось и достигло своей цели, редко дается ответ, даже в наших самых знаковых научно-фантастических рассказах. Представить будущее на основе этого гипотетического сценария непросто.

Наличие сверхразумных машин, заботящихся о безопасности человека, может стать прорывом по нескольким причинам.

Сверхинтеллектуальные машины, которые уделяют приоритетное внимание безопасности человека, могут привести к значительным достижениям. Однако они также могут представлять собой непредвиденные риски. Прогнозирование будущего ИИ с такими возможностями больше похоже на предположения, найденные в научной фантастике, чем на реалистичный прогноз, основанный на наших текущих знаниях.

Как исследователь, следящий за достижениями в области искусственного интеллекта, могу вам сказать, что Суцкевер и Лейке известны своими работами в этой области. Они выразили намерение продолжить поиск решений сложной проблемы наблюдения за сверхразумными искусственными системами в будущем. Однако в настоящее время их новаторский подход под названием Superalignment, направленный на обеспечение соответствия ИИ человеческим ценностям, еще не полностью материализовался. Это остается интригующей концепцией, которая близка к реализации, но все еще ждет полного воплощения.

Другие материалы из журнала Laptop Mag

• Где сделать предзаказ на Asus ROG Ally X: какая модель подойдет именно вам?
• Лучшие предложения Nintendo Switch в рамках раннего Prime Day 2024 года: игры, консоли и аксессуары
• Что такое Proton Docs? Почему вы можете дать шанс конкуренту Google, ориентированному на конфиденциальность

Смотрите также

• Прохождение мясной лавки – Roblox
• Как заработать бесплатные Робаксы в Greedy Noobs – Roblox
• Как получить запятнанную повязку в Anime Last Stand
• Список звуковых идентификаторов Jujutsu Shenanigans Kill – Roblox
• Лучшие настройки прицела в Roblox Rivals
• Как включить фары в пыльной поездке Roblox
• История Руби и Джеймса продолжается: «Мэкстон Холл: 2-й сезон «Мир между нами» стартовал! (Вот что мы знаем на данный момент)
• Как заспавнить и получить Крабового Босса в TSB
• Roblox Touhou Tower Assault: список лучших персонажей
• Где получить базовый сигил в Devas of Creation (расположение на карте)

2024-07-05 21:30