Вы можете бесплатно установить LLaVA LLM на свой локальный хост. Он бесплатный, с открытым исходным кодом и включает функцию видения. Давайте покажем вам, как это сделать.
На прошлой неделе я нашел LLaVA и решил попробовать. Я тестировал его разными способами и был очень впечатлен.
Я видел, как многие люди спрашивали: «Как мне скачать LLaVa LLM, установить и использовать его на своем локальном компьютере?» . Это хороший вопрос, потому что вы не сможете использовать его, если не скачаете.
Быстрые шаги:
- Посетите их репозиторий на GitHub .
- Предлагается несколько версий: LLaVA 7B 8bit и LLaVA 7B 16bit.
- 8-битная версия совместима с бесплатным Google Colab, а 16-битная требует Google Colab Pro для дополнительной оперативной памяти.
Использование Google Colab для LLaVA
• Сохраните копию на свой Диск (это обычное действие).
• Измените тип среды выполнения на « T4 GPU ».
• Запустите код:
– Клонировать репозиторий «LLaVA» на GitHub.
– Используйте модуль подпроцесса Python для запуска контроллера LLaVA.
• Следите за использованием оперативной памяти и графического процессора во время установки.
• Запустите веб-сервер Gradio:
– Модель работает на определенном порту
– Для доступа предоставляется общедоступный IP-адрес . После процесса установки вы должны увидеть это:
Вот и все! «После установки вы найдете ссылку на локальный хост» — нажмите на нее и наслаждайтесь!
