Запускаем ИИ чат-бот локально. LobeChat

Еще одним внушительным инструментом для работы с ИИ локально является платформа LobeChat. Это целый комплекс возможностей, объединенных в одном, красиво оформленном и интуитивно понятном веб-приложении.

📌 Основные особенности

1) Агрегатор провайдеров языковых моделей.

LobeChat предоставляет доступ к популярным чат-ботам, таким как ChatGPT, Gemini, Groq, Claude и другие, объединяя все это в одном рабочем пространстве.

2) Визуальный анализ.

Закинули изображение в чат и запросили описание или генерацию промпта по нему для дальнейшего использования. Реализуется путем интеграции с моделями распознавания, например, gpt-4-vision или gemini-pro-vision.

3) Преобразование текста в речь и речи в текст (OpenAI Audio).

4) Генерация изображений из текста. Интеграция с DALL-E, MidJourney или бесплатным решением от Pollinations.

5) Система плагинов.

Расширение возможностей чатов за счет подключения дополнительных функций, например календарь, погода, поисковая система, генерация изображений, новостные сводки, переводчики и многое другое. Находим нужный плагин в Plugin Store, устанавливаем, подключаем к конкретному чату.

6) База ассистентов, т.е. подготовленных промптов для решения конкретных узкоспециализированных задач.

На данный момент набор ассистентов содержит более 400 решений, разбитых на категории по разным направлениям, которая периодически пополняется и обновляется силами независимых исследователей и организаций.

7) Локальное использование моделей.

Осуществляется путем интеграции с ollama - популярным у исследователей инструментом локального запуска языковых моделей, который, в том числе, предоставляет API для взаимодействия.

8) Многопользовательский доступ.

9) Использование технологии PWA (Progressive Web Apps), что позволяет адаптировать приложение под различные платформы, в том числе мобильные.

🚀 Попробовать приложение можно в облаке или же развернуть локально

• Разворачиваем локально с помощью docker только веб-приложение. Вся история взаимодействия и настройки хранятся во встроенной в браузер базе данных indexedDb.

• Для подключения распределенной базы данных, работы с документами и формирования собственной “базы знаний” LobeChat поставляется с набором сопутствующих сервисов (сервер управления доступом Casdoor, база данных PostgreSQL и s3 хранилище MinIO). Используем подготовленный docker-compose со всем необходимым.

✖️ Из минусов отмечу слабую локализацию на русский язык - выглядит как автоматический перевод, в большинстве случаев сложно разобрать о чем идет речь в том или ином описании.

✅ Платформа ориентирована на максимально простой и удобный способ собрать воедино зоопарк площадок, сервисов и инструментов для работы с искусственным интеллектом. Большинство интеграций требуют наличия аккаунтов для доступа к платным функциям известных решений, что накладывает некоторые ограничения. Однако, ряд существующих бесплатных компонентов, а также работа с языковыми моделями локально, позволяют использовать систему вполне полноценно.