Превратите свой ноутбук в компьютер с искусственным интеллектом — как запустить чат-бота с искусственным интеллектом локально на вашем компьютере

Как опытный аналитик, я твердо верю, что запуск автономного чат-бота с искусственным интеллектом на вашем персональном компьютере — мудрое решение для тех, кто отдает предпочтение конфиденциальности и автономности, а не удобству веб-сервисов. Благодаря растущему вниманию к местным приложениям искусственного интеллекта, поддерживаемым сообществом открытого исходного кода, теперь можно наслаждаться неограниченным взаимодействием с этими моделями, не разглашая конфиденциальную информацию и не неся дополнительных затрат.

🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇

Roblox Telegram

Как поклонник технологий, я воодушевлен достижениями в области генеративных чат-ботов с искусственным интеллектом и компьютеров с искусственным интеллектом, которые в этом году заняли центральное место в мире ноутбуков. Для многих пользователей, таких как я, эти чат-боты — это просто еще одна вкладка браузера, к которой мы получаем доступ при подключении к Интернету — нам не нужно беспокоиться о том, чтобы предоставить им бесконечную вычислительную мощность или оплатить их значительные счета за электроэнергию. Однако есть одна загвоздка: мы доверяем наши конфиденциальные данные компаниям.

Имея MacBook, компьютер с Windows или даже систему Linux, вы по-прежнему сможете участвовать в захватывающем мире компьютеров с искусственным интеллектом. Нет необходимости в последних моделях Copilot+ от конкретных брендов. Кроме того, вы можете наслаждаться этим опытом, не передавая свои данные крупным технологическим компаниям, таким как OpenAI, Microsoft, Google и другим.

Я расскажу вам о причинах запуска автономного чат-бота с искусственным интеллектом на вашем ноутбуке, после чего дам пошаговое объяснение его немедленной установки и, наконец, обсудю потенциальные последствия для вашего ноутбука с появлением более доступных технологий искусственного интеллекта. .

Почему вам следует запустить автономный чат-бот с искусственным интеллектом?

Вступая в диалог с чат-ботом на веб-сайте, имейте в виду, что компания, управляющая ботом, имеет право формировать ваше взаимодействие и доступ к предоставляемой вами информации. Многие компании, такие как OpenAI, используют пользовательские данные для обучения своих моделей искусственного интеллекта. Этот факт должен заставить вас дважды подумать, прежде чем делиться конфиденциальными подробностями, особенно при решении финансовых вопросов или составлении бюджета с использованием искусственного интеллекта через Интернет. Вместо этого рассмотрите возможность использования безопасных методов обмена конфиденциальными документами.

Как аналитик, изучающий случай, когда истории чатов нескольких пользователей ChatGPT получили доступ без авторизации и появились в других несвязанных учетных записях, я осознаю обеспокоенность по поводу конфиденциальности и безопасности данных. Хотя отдельные пользователи могут отключить настройки истории чата, у нас, как пользователей, к сожалению, мало контроля, когда дело доходит до компаний, занимающихся искусственным интеллектом, использующих нашу информацию для обучения моделей.

Онлайн-чат-бот имеет общие недостатки использования интернет-сервисов. Примечательно, что такие известные платформы, как ChatGPT и Microsoft Copilot, за последний год столкнулись с длительными простоями в работе, что поставило пользователей в затруднительное положение. Из-за обширной базы пользователей разработчики должны применять строгие ограничения на типы запросов, которые они могут обрабатывать, не позволяя им затрагивать деликатные темы в образовательных целях.

Как энтузиаст технологий, я заметил, что некоторые чат-боты предлагают расширенные функции, но они имеют значительную цену. Бесплатные версии этих ботов имеют свои ограничения, такие как ограничения на использование и исключение таких инструментов премиум-класса, как анализ документов и создание изображений.

Как запустить чат-бота с искусственным интеллектом локально на вашем ПК, Mac или компьютере с Linux

Чтобы управлять чат-ботом с искусственным интеллектом в вашей системе Windows, macOS или Linux, вы можете использовать бесплатное приложение под названием Jan. Этот инструмент позволяет вам устанавливать модели с открытым исходным кодом, такие как Meta’s Llama 3, непосредственно на ваш компьютер и взаимодействовать с ними через удобное окно чата. Я нахожу интерфейс Jan особенно привлекательным из-за его простоты и четкого объяснения технических процедур, что делает его идеальным выбором для менее технически подкованных пользователей.

В процессе инициализации вам нужно будет выбрать из списка моделей ИИ, доступных для загрузки, в качестве первой задачи. Ян расскажет, какие модели могут работать менее эффективно с учетом характеристик вашего ПК и каковы их сильные стороны, например, при выполнении общих задач или анализе документов. Кроме того, при желании у вас есть возможность импортировать модели, которые в настоящее время не представлены в каталоге Яна.

Одной из примечательных особенностей Jan является его способность адаптироваться к каждому сеансу чата. Прежде чем начать обсуждение, у вас есть возможность установить правила поведения чат-бота и объем требуемой вычислительной мощности.

Скачав Jan AI с его сайта, откройте приложение. Перейдите в раздел «Хаб» на левой боковой панели. Выберите предпочитаемую модель ИИ на основе предложений, и, если она еще не установлена, Ян загрузит ее для вас. Имейте в виду, что каждая модель требует значительного объема данных, поэтому, если у вас медленное или лимитированное соединение, планируйте соответствующим образом. После загрузки нажмите кнопку «Использовать», чтобы создать новое окно чата. Настройте параметры потока в соответствии со своими предпочтениями, используя боковую панель.

На компьютере начального уровня с 8 ГБ ОЗУ, например на моем M1 Mac Mini, рекомендуется закрыть все запущенные приложения перед использованием модели в январе. Это связано с тем, что модель будет потреблять примерно 70-80% памяти вашего компьютера. Во многих случаях, когда я задавал сложные вопросы, у меня наблюдались заметные задержки и даже зависания на моем Mac, на восстановление которых уходило несколько минут. Следовательно, если вы собираетесь одновременно использовать локального чат-бота вместе с другим программным обеспечением, рекомендуется приобрести более мощный ПК, желательно оснащенный выделенным графическим процессором (GPU).

Как энтузиаст технологий, я бы порекомендовал Яну ИИ преуспеть в текстовом взаимодействии. Тем не менее, если ваш компьютер обладает достаточными ресурсами, а именно 16 ГБ или более оперативной памяти, вы можете обрабатывать документы локально. Для анализа текста попробуйте GPT4All. С другой стороны, для локальной генерации изображений Diffusionbee — отличный выбор.

Что значат местные чат-боты для вас и будущего искусственного интеллекта?

Установка автономного чат-бота с искусственным интеллектом на ваш компьютер — быстрый процесс. Современные настольные приложения упрощают задачу, как загрузку приложения. После завершения установки взаимодействуйте с ним так же, как с любым другим онлайн-сервисом, однако общие данные и файлы остаются ограниченными вашей системой.

Как исследователь, я обнаружил, что на этом преимущества не заканчиваются. Используя настольные программы, настраивающие модели искусственного интеллекта с открытым исходным кодом, которые свободно доступны от таких компаний, как Meta и Apple, среди других, на вашем локальном ПК или Mac, вы получаете свободу задавать бесконечное количество вопросов. Более того, вы можете настроить эти модели в соответствии с вашими уникальными требованиями и настроить их так, чтобы их реакции и действия учитывали определенную точку зрения.

Как страстный сторонник местных приложений искусственного интеллекта, я хотел бы подчеркнуть значительное преимущество, которое они предлагают: поскольку эти приложения поддерживаются сообществом с открытым исходным кодом, в вашем распоряжении имеется богатый выбор технологий. Для тех, кто склонен к математическим исследованиям, специально для этой цели доступна оптимизированная модель искусственного интеллекта. А если вам нужно анализировать объемные документы, вам подойдет еще одна точно настроенная модель. Сила заключается в выборе того, который лучше всего соответствует вашим потребностям.

Службы искусственного интеллекта обычно не работают в автономном режиме, поскольку они полагаются на мощные серверы, оснащенные современными графическими процессорами, и компьютеры, способные практически мгновенно обрабатывать запросы машинного обучения. Для сравнения, большинство ноутбуков не способны эффективно справляться с такими задачами, что приводит к более медленному реагированию по сравнению с моделями искусственного интеллекта, такими как ChatGPT.

Неудивительно, что в прошлом году такие технологические гиганты, как Apple и Microsoft, разрабатывали компактные и эффективные модели искусственного интеллекта (наряду с процессорами) для различных типов компьютеров. Цель состоит в том, чтобы внедрить возможности искусственного интеллекта в персональные устройства, улучшая взаимодействие с пользователем с помощью таких функций, как контекстно-зависимые предложения на экранах вашего телефона или компьютера, а также позволяя вам просматривать сводку ваших недавних действий на вашем ПК.

Как наблюдатель, я бы сказал: для тех, кто отдает приоритет конфиденциальности или предпочитает не использовать веб-чат-ботов с искусственным интеллектом и связанные с ними расходы, установка локального чат-бота с искусственным интеллектом на вашем компьютере может предложить персонализированный и автономный опыт работы с искусственным интеллектом.

БОЛЬШЕ ОТ НОУТБУКА MAG

Функция AI Recall в Windows 11 может работать на компьютерах, отличных от Copilot+: вот как
Лучшие предложения ноутбуков в июне 2024 года
Computex 2024: Qualcomm, Acer, Asus, MSI, даты и основные новости

Смотрите также

2024-06-02 13:49