Как поклонник искусственного интеллекта и его потенциального влияния на нашу жизнь, я глубоко опечален безвременным завершением проекта Open AI Superalignment. Если бы только этому амбициозному плану был дан шанс реализоваться, мы могли бы стать свидетелями революционного прогресса в обеспечении того, чтобы сверхразумные машины следовали человеческим намерениям.
🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇
Roblox Telegram
5 июля 2024 года новаторский проект OpenAI Superalignment отпраздновал бы свою первую годовщину, если бы ему удалось запуститься успешно.
Я сторонний наблюдатель, рассказывающий о недавнем объявлении OpenAI. 5 июля 2023 года они представили свой четырехлетний проект под названием Superalignment. Суть их заявления остается неизменной: нам нужны революционные достижения для управления системами искусственного интеллекта, превосходящими человеческий интеллект. Чтобы решить эту задачу в течение четырех лет, они создают новую команду, во главе которой будут Илья Суцкевер и Ян Лейке. Они выделяют на это дело 20% своих защищенных вычислительных мощностей. Следите за тем, чтобы талантливые исследователи и инженеры в области машинного обучения пополнили их ряды.
Всё развалилось меньше чем через год.
В мае 2024 года соучредитель OpenAI Суцкевер и соруководитель Superalignment Лейке покинули компанию после спорного раскола между Суцкевером и Сэмом Альтманом, другим основателем OpenAI, произошедшим ранее в этом году.
Было вполне естественно, что проект Superalignment, возглавляемый Суцкевером и Лейке из OpenAI, застопорился, как только они оба покинули организацию.
В эту так и не состоявшуюся годовщину мы размышляем над тем, чего достигла SuperAlignment за время своего недолгого существования и какой потенциал она имела, если бы сохранилась.
Чего удалось достичь с помощью Супервыравнивания?
За короткий период активности Superalignment они добились нескольких заметных достижений, прежде чем в конечном итоге закрылись.
Как исследователь-аналитик, я углубился в исследование того, как люди могут эффективно контролировать искусственный интеллект, демонстрирующий превосходный интеллект. В нашем первоначальном исследовании, озаглавленном «Обобщение от слабого к сильному», для целей моделирования использовались передовые языковые модели OpenAI, в частности GPT-2 и GPT-4 (далее называемые LLM).
Основываясь на наших выводах, я могу сделать следующие выводы:
Группа также запустила программу по предоставлению заявителям быстрых грантов на сумму 10 миллионов долларов в декабре 2023 года.
.
Супервыравнивание: что могло бы быть
Как исследователь, участвовавший в разработке проекта Superalignment в OpenAI, я могу вам сказать, что нашей основной целью было найти ответ на актуальный вопрос: «Как мы можем гарантировать, что значительно более совершенные системы ИИ будут соответствовать человеческим намерениям?»
На вопрос о том, что бы произошло, если бы Суперсогласование продолжилось и достигло своей цели, редко дается ответ, даже в наших самых знаковых научно-фантастических рассказах. Представить будущее на основе этого гипотетического сценария непросто.
Наличие сверхразумных машин, заботящихся о безопасности человека, может стать прорывом по нескольким причинам.
Сверхинтеллектуальные машины, которые уделяют приоритетное внимание безопасности человека, могут привести к значительным достижениям. Однако они также могут представлять собой непредвиденные риски. Прогнозирование будущего ИИ с такими возможностями больше похоже на предположения, найденные в научной фантастике, чем на реалистичный прогноз, основанный на наших текущих знаниях.
Как исследователь, следящий за достижениями в области искусственного интеллекта, могу вам сказать, что Суцкевер и Лейке известны своими работами в этой области. Они выразили намерение продолжить поиск решений сложной проблемы наблюдения за сверхразумными искусственными системами в будущем. Однако в настоящее время их новаторский подход под названием Superalignment, направленный на обеспечение соответствия ИИ человеческим ценностям, еще не полностью материализовался. Это остается интригующей концепцией, которая близка к реализации, но все еще ждет полного воплощения.
Другие материалы из журнала Laptop Mag
- Где сделать предзаказ на Asus ROG Ally X: какая модель подойдет именно вам?
- Лучшие предложения Nintendo Switch в рамках раннего Prime Day 2024 года: игры, консоли и аксессуары
- Что такое Proton Docs? Почему вы можете дать шанс конкуренту Google, ориентированному на конфиденциальность
Смотрите также
- Roblox Eye Test все ответы [этап 1-115]
- Заброшенные пути
- Список звуковых идентификаторов Jujutsu Shenanigans Kill – Roblox
- Полное руководство по событию Диг Ит Спейс — Ракета, Коллекция Луны, Лопаты и больше
- Ультимейт Визард Запад Тир Лист – Лучшие Спеллы для Использования
- Скрипты Blue Lock Rivals для автоматического гола, бесконечной выносливости, ESP, Aim Lock и многого другого
- Что нужно знать перед началом игры в Roblox: Забытое
- Как поймать секретного замороженного левиафана в Fisch
- Краткое содержание 1 серии «Дня Шакала»
- Как пропустить мир в аниме «Последний бой»
2024-07-05 21:30