🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇
Roblox Telegram
Как поклонник искусственного интеллекта и его потенциального влияния на нашу жизнь, я глубоко опечален безвременным завершением проекта Open AI Superalignment. Если бы только этому амбициозному плану был дан шанс реализоваться, мы могли бы стать свидетелями революционного прогресса в обеспечении того, чтобы сверхразумные машины следовали человеческим намерениям.
5 июля 2024 года новаторский проект OpenAI Superalignment отпраздновал бы свою первую годовщину, если бы ему удалось запуститься успешно.
Я сторонний наблюдатель, рассказывающий о недавнем объявлении OpenAI. 5 июля 2023 года они представили свой четырехлетний проект под названием Superalignment. Суть их заявления остается неизменной: нам нужны революционные достижения для управления системами искусственного интеллекта, превосходящими человеческий интеллект. Чтобы решить эту задачу в течение четырех лет, они создают новую команду, во главе которой будут Илья Суцкевер и Ян Лейке. Они выделяют на это дело 20% своих защищенных вычислительных мощностей. Следите за тем, чтобы талантливые исследователи и инженеры в области машинного обучения пополнили их ряды.
Всё развалилось меньше чем через год.
В мае 2024 года соучредитель OpenAI Суцкевер и соруководитель Superalignment Лейке покинули компанию после спорного раскола между Суцкевером и Сэмом Альтманом, другим основателем OpenAI, произошедшим ранее в этом году.
Было вполне естественно, что проект Superalignment, возглавляемый Суцкевером и Лейке из OpenAI, застопорился, как только они оба покинули организацию.
В эту так и не состоявшуюся годовщину мы размышляем над тем, чего достигла SuperAlignment за время своего недолгого существования и какой потенциал она имела, если бы сохранилась.
Чего удалось достичь с помощью Супервыравнивания?
За короткий период активности Superalignment они добились нескольких заметных достижений, прежде чем в конечном итоге закрылись.
Как исследователь-аналитик, я углубился в исследование того, как люди могут эффективно контролировать искусственный интеллект, демонстрирующий превосходный интеллект. В нашем первоначальном исследовании, озаглавленном «Обобщение от слабого к сильному», для целей моделирования использовались передовые языковые модели OpenAI, в частности GPT-2 и GPT-4 (далее называемые LLM).
Основываясь на наших выводах, я могу сделать следующие выводы:
Группа также запустила программу по предоставлению заявителям быстрых грантов на сумму 10 миллионов долларов в декабре 2023 года.
.
Супервыравнивание: что могло бы быть
Как исследователь, участвовавший в разработке проекта Superalignment в OpenAI, я могу вам сказать, что нашей основной целью было найти ответ на актуальный вопрос: «Как мы можем гарантировать, что значительно более совершенные системы ИИ будут соответствовать человеческим намерениям?»
На вопрос о том, что бы произошло, если бы Суперсогласование продолжилось и достигло своей цели, редко дается ответ, даже в наших самых знаковых научно-фантастических рассказах. Представить будущее на основе этого гипотетического сценария непросто.
Наличие сверхразумных машин, заботящихся о безопасности человека, может стать прорывом по нескольким причинам.
Сверхинтеллектуальные машины, которые уделяют приоритетное внимание безопасности человека, могут привести к значительным достижениям. Однако они также могут представлять собой непредвиденные риски. Прогнозирование будущего ИИ с такими возможностями больше похоже на предположения, найденные в научной фантастике, чем на реалистичный прогноз, основанный на наших текущих знаниях.
Как исследователь, следящий за достижениями в области искусственного интеллекта, могу вам сказать, что Суцкевер и Лейке известны своими работами в этой области. Они выразили намерение продолжить поиск решений сложной проблемы наблюдения за сверхразумными искусственными системами в будущем. Однако в настоящее время их новаторский подход под названием Superalignment, направленный на обеспечение соответствия ИИ человеческим ценностям, еще не полностью материализовался. Это остается интригующей концепцией, которая близка к реализации, но все еще ждет полного воплощения.
Другие материалы из журнала Laptop Mag
- Где сделать предзаказ на Asus ROG Ally X: какая модель подойдет именно вам?
- Лучшие предложения Nintendo Switch в рамках раннего Prime Day 2024 года: игры, консоли и аксессуары
- Что такое Proton Docs? Почему вы можете дать шанс конкуренту Google, ориентированному на конфиденциальность
Смотрите также
- Как найти и поймать косаток в Фише: лучшие удилища, наживка и место
- 5 хороших сериалов, похожих на «День Шакала»
- Найдите все 5 рычагов Forsaken Shores в Fisch!
- Места для ядерной бомбы Fisch – как поймать ядерную бомбу
- Как поймать всю рыбу Атлантического шторма в Фише: полный бестиарий
- Список стилей Basket Showdown от Kuroku [РЕЛИЗ]
- Все чары для возвышенных реликвий в Фише
- Руководство по квесту Капитана Шторма Атлантиды Нептуна (Пирата) – Фиш
- Список звуковых идентификаторов Jujutsu Shenanigans Kill – Roblox
- Как поймать секретную горчичную рыбу в Фише
2024-07-05 21:30