Как да стартирате AI модели локално в Windows без интернет

Ключови изводи:

• Можете да използвате инструменти като Ollama, за да се възползвате от възможностите на AI модели с отворен код директно на вашето устройство.
• Когато изпълнявате тези AI модели локално, ще заобиколите зависимостта от облака и ще отключите предимства като поверителност и по-бързи изводи.

Как да стартирате AI модели локално на Windows с Ollama

Можете да стартирате AI модели като ChatGPT локално на вашия компютър без интернет връзка. Много услуги ви помагат в този процес. Ние обаче ще го демонстрираме с помощта на Ollama.

Изтеглете и инсталирайте Ollama

Стъпка 1: Навигирайте до Уебсайт на Ollama и щракнете върху бутона Изтегляне.

Стъпка 2: Изберете вашата операционна система и щракнете върху Изтегляне.

Стъпка 3: Щракнете двукратно върху изтегления файл > щракнете върху Инсталиране > следвайте инструкциите за инсталиране.

Веднъж инсталиран, трябва да видите изскачащ прозорец, който казва, че Ollama работи.

Стъпка 4: Стартирайте вашия терминал. В Windows натиснете Windows + R, въведете cmd и натиснете Enter.

Стъпка 5: Изтеглете първия си AI модел, като използвате командата по-долу. Уверете се, че сте заменили модела с действителен модел на Ollama; това може да са Лама 3, Фи 3, Мистрал, Джема и др. Бъдете търпеливи; това може да отнеме известно време.

Ollama pull model

Как да комуникираме с изтеглени модели в Ollama

Сега, след като сте инсталирали AI модела, можете да комуникирате с него. Това е подобно на комуникацията с Gemini или ChatGPT AI от уеб интерфейсите. Следвайте стъпките по-долу.

Стъпка 1: Стартирайте терминала на вашия компютър.

Стъпка 2: Въведете командата по-долу. Можете да замените llama3 в командата за името на модела, който сте изтеглили.

Ollama run llama3

Стъпка 3: Накрая въведете вашата подкана и натиснете Enter, както бихте направили на ChatGPT или Gemini. След това трябва да можете да взаимодействате с AI.

ЧЗВ

Можете ли да стартирате Generative AI локално?

Да, можете и в момента стабилната дифузия е най-надеждното средство. Инструменти като Стабилна дифузия WebUI и Извикайте AI дават достъп до Stable Diffusion за локално генериране на изображения.