Мовну модель можна запустити локально, тобто без інтернету, без підписки й без передачі ваших даних комусь назовні. Кілька років тому це вимагало серйозного обладнання й технічних навичок. У 2026 році для старту достатньо ноутбука з вісьмома гігабайтами оперативної пам'яті й приблизно п'яти хвилин.

Дві програми, з яких починають

Існує два основні інструменти, і різниця між ними полягає в інтерфейсі. Перший працює через командний рядок, тобто ви вводите текстові команди. Він безкоштовний, має відкритий код і підтримує понад сотню відкритих моделей. Другий є звичайною програмою з вікном і кнопками, тобто завантаження моделі й спілкування з нею відбуваються мишею. Він теж безкоштовний, причому офіційно і для домашнього, і для робочого використання. Обидва працюють на Windows, macOS і Linux. Логіка вибору проста. Якщо вас не лякає командний рядок, беріть перший. Якщо хочете просто натискати кнопки, беріть другий.

Скільки пам'яті потрібно

Це головне обмеження, і саме від нього залежить, що саме ви зможете запустити. Моделі розрізняються за кількістю параметрів, і це число впливає і на якість, і на вимоги до обладнання. З вісьмома гігабайтами оперативної пам'яті працюють моделі приблизно від одного до чотирьох мільярдів параметрів. Вони придатні для розмови, коротких узагальнень і чернеток, але слабкі у складних задачах і в коді. З шістнадцятьма гігабайтами працюють моделі приблизно від семи до чотирнадцяти мільярдів параметрів, і саме цей діапазон називають оптимальним у 2026 році. Це вже повноцінний помічник, який справляється з текстом, з багатьма мовами й частково з кодом. З двадцятьма чотирма гігабайтами відеопам'яті працюють моделі приблизно до тридцяти мільярдів параметрів. З тридцятьма двома й більше гігабайтами стають доступними моделі від тридцяти двох до сімдесяти мільярдів параметрів, і на цьому рівні якість наближається до хмарних сервісів. Місця на диску потрібно відносно небагато, тобто модель на три мільярди параметрів займає приблизно два гігабайти, на вісім приблизно п'ять, на дванадцять приблизно сім, а на сімдесят приблизно сорок.

Про швидкість

Ось параметр, який визначає, чи будете ви цим користуватися насправді. Швидкість вимірюється в токенах за секунду, і один токен приблизно відповідає частині слова. На сучасному настільному процесорі без відеокарти модель на сім мільярдів параметрів видає приблизно від трьох до восьми токенів за секунду. Це означає, що відповідь обсягом в абзац формуватиметься близько хвилини, і користуватися цим можна, але некомфортно. З дискретною відеокартою ситуація інакша, тобто та сама модель видає приблизно від двадцяти п'яти до шістдесяти токенів за секунду, що вже сприймається як нормальна швидкість друку. Окремо варто сказати про комп'ютери Apple на власних процесорах. Завдяки спільній пам'яті між процесором і графічним ядром вони працюють із моделями помітно краще, ніж можна очікувати за характеристиками, і модель на сім мільярдів параметрів видає там приблизно сорок-п'ятдесят токенів за секунду. Тобто для комфортної роботи потрібна або дискретна відеокарта, або комп'ютер Apple останніх поколінь, а на звичайному офісному ноутбуці це працюватиме, але повільно.

Як це виглядає на практиці

Ви встановлюєте обрану програму з офіційного сайту. Знаходите потрібну модель у вбудованому каталозі й завантажуєте її. Запускаєте й починаєте спілкування у вікні програми або в командному рядку. Після завантаження моделі інтернет більше не потрібен, тобто ви можете перевести комп'ютер у режим без мережі й усе продовжить працювати.

Чого очікувати від якості

Локальна модель, яка поміщається на звичайний ноутбук, помітно слабша за те, чим ви користуєтеся у хмарі. Вона гірше міркує в кілька кроків, гірше тримає контекст довгої розмови й частіше вигадує факти. Схильність до вигаданих відповідей у менших моделях виражена сильніше, і про механіку цього явища я писав окремо. Крім того, знання такої моделі обмежені датою її навчання, а доступу до пошуку в неї немає, тобто вона нічого не знає про те, що сталося нещодавно. Тому очікування варто будувати так. Локальна модель на шістнадцяти гігабайтах є хорошим помічником для роботи з текстом, який ви їй надали, для пояснень усталених понять, для чернеток і для перекладу. Вона не є джерелом фактів і не замінює повноцінний хмарний сервіс для складних задач.

Коли це справді має сенс

Приватність є головним аргументом. Дані не залишають ваш комп'ютер узагалі, тобто для роботи з медичними, юридичними чи комерційними документами це принципово інший рівень контролю. Робота без інтернету є другим аргументом, і для наших умов він вагомий, оскільки модель працює однаково і з мережею, і без неї. Відсутність обмежень на кількість запитів, оскільки ви не платите за кожне звернення й можете робити їх скільки завгодно. Вартість, оскільки після початкового завантаження ви не платите нічого. Навчання й експерименти, оскільки локально можна спокійно пробувати різні моделі та налаштування.

Коли не варто

Якщо вам потрібна найвища якість відповідей, оскільки хмарні моделі залишаються суттєво сильнішими. Якщо вам потрібні свіжі факти, оскільки локальна модель про них не знає. Якщо у вас вісім гігабайтів пам'яті й ви очікуєте рівня хмарного сервісу, оскільки розчарування гарантоване. Якщо ви працюєте на ноутбуці від батареї, оскільки робота моделі суттєво навантажує процесор і скорочує час автономної роботи.

Безпекове застереження

Одне технічне зауваження для тих, хто піде далі за просте спілкування. Якщо ви підключаєте локальну модель до інструментів, тобто даєте їй можливість виконувати команди чи працювати з файлами, варто розуміти ризик. Локальні моделі не мають тих фільтрів, які стоять на боці хмарних сервісів, тому вони вразливіші до ситуації, коли шкідлива інструкція приходить усередині тексту, який ви попросили обробити. Практично це означає, що давати локальній моделі широкі права на дії з вашими файлами не варто, а якщо ви це робите, обмежуйте її конкретною задачею.

З чого почати

Оцініть свій обсяг оперативної пам'яті, оскільки саме він визначає все інше. Оберіть програму за своїми вподобаннями щодо інтерфейсу. Почніть із невеликої моделі, щоб перевірити швидкість на своєму обладнанні, і лише потім переходьте до більшої. Порівняйте результат із тим, чим ви користуєтеся зараз, на своїх реальних задачах, а не на тестових питаннях. Вирішуйте, чи варто воно того, після цього порівняння, а не до нього.

Підсумок

Запуск мовної моделі на власному комп'ютері став доступним, і для старту достатньо восьми гігабайтів оперативної пам'яті, безкоштовної програми й кількох хвилин. Оптимальним рівнем у 2026 році є шістнадцять гігабайтів і моделі від семи до чотирнадцяти мільярдів параметрів, які дають повноцінного помічника для роботи з текстом, тоді як на звичайному офісному ноутбуці без відеокарти швидкість складатиме приблизно від трьох до восьми токенів за секунду, тобто працювати можна, але некомфортно. Головне ж полягає в тому, що локальна модель не є безкоштовною заміною хмарного сервісу, а є іншим інструментом, перевагами якого є приватність, робота без мережі та відсутність обмежень, і саме за цими критеріями її варто оцінювати.


Джерела

Технічні вимоги й показники швидкості за документацією LM Studio та Ollama, галузеві огляди локальних моделей за 2026 рік, дані щодо обсягів моделей і споживання пам'яті.