diff --git a/public/uk/first-experience-with-ollama-llm.gmi b/public/uk/first-experience-with-ollama-llm.gmi index b5e2c9b..74edd52 100644 --- a/public/uk/first-experience-with-ollama-llm.gmi +++ b/public/uk/first-experience-with-ollama-llm.gmi @@ -2,7 +2,7 @@ Схоже, я значно відстаю від загальних трендів і хайпу довкола ШІ, хоча й давно вже користуюсь цим інструментом, зокрема - засобами Duck.ai -Тільки зараз знайшов час поставити собі відкритий сервер Ollama локально, здебільшого - з метою приватного користування, без відправлення хоч й анонімних, але цілком очевидних запитів на сторонні сервери. Нижче коротенький "дамп" з цього досвіду, може комусь також згодиться. +Тільки зараз знайшов час поставити собі локально відкритий сервер Ollama, здебільшого - з метою приватного користування, без відправлення хоч й анонімних, але цілком очевидних запитів на сторонні сервери. Нижче коротенький "дамп" з цього досвіду, може комусь також згодиться. ## Встановлення @@ -23,7 +23,7 @@ dnf install ollama Він працює, але модель gpt-oss не запустилась через баг з датою, дуже дивно, що в репозиторії (Fedora 43) й досі якась допотопна версія цього серверу: => https://github.com/ollama/ollama/issues/11680 -Отже, збирайтесь одразу або з сорсу (якщо зможете) або з бінарників останніх релізів на GitHub - там по суті треба розпакувати теку та виконати бінарник: +Отже, збирайтесь одразу або з сорсу (якщо зможете) або з бінарників останніх релізів на GitHub - там по суті треба розпакувати теку та виконати: ``` bash bin/ollama --help @@ -32,9 +32,9 @@ bin/ollama --help ## Моделі LLM -Після встановлення сервера, потрібно завантажити мовну модель. Вони бувають різні, для кожної задачі - своя спеціалізація, така спеціалізація може бути "універсальною". Для коду (в рамках тестування на Duck.ai) мені сподобались Claude Haiku та загальний GPT-4o mini. Обрати популярні моделі можна зі списку на офіційному сайті: +Після встановлення сервера, потрібно завантажити мовну модель. Вони бувають різні, для кожної задачі - своя спеціалізація, така спеціалізація може бути "універсальною". Для коду (в рамках тестування на Duck.ai) мені сподобались Claude Haiku та загальний GPT-4o mini. Обрати популярні моделі можна зі списку: => https://ollama.com/search -* інші можна скачати на їх офіційних сайтах +* інші можна скачати на офіційних сайтах окремих моделей Для тестів я обрав: @@ -69,4 +69,8 @@ ollama rm ID Не довго обираючи, поставив зі стандартного магазина застосунків Alpaca, ця "альпака" також є на GitHub: => https://github.com/Jeffser/Alpaca -В іншому, тут що кому треба: можна прикрутити плагіни для VSCode та інших програм, або ж просто користуватись штатним CLI сервера Ollama без додаткового софту. \ No newline at end of file +В іншому, тут що кому треба: можна прикрутити плагіни для VSCode та інших програм, або ж просто користуватись штатним CLI сервера Ollama без додаткового софту. + +## Посилання + +=> https://devzone.org.ua/post/pershyy-dosvid-z-ollama-llm Веб-адаптація цього матеріалу з коментарями на DevZone \ No newline at end of file