Чи може безкоштовна модель ШІ на MacBook Pro замінити ChatGPT? Наші тести та результати
Ми провели власне дослідження на MacBook Pro з 24 ГБ пам’яті, щоб з’ясувати, наскільки свободні локальні моделі штучного інтелекту здатні конкурувати з ChatGPT у виконанні різних завдань. Вразливість такого порівняння в тому, що виробники публікують бенчмарки, які не завжди відповідають реальним сценаріям роботи саме на вашому пристрої. Тож ми підготували 20 завдань з одним правильним варіантом відповіді, що дозволяє об’єктивно оцінити якість моделей.
Налаштування тесту: що і як ми перевіряли
Для експерименту використовувався MacBook Pro зі встановленим процесором Apple M4 Pro та 24 ГБ оперативної пам’яті під управлінням macOS 26.3. Система виділяла приблизно 19 ГБ графічної пам’яті для роботи штучного інтелекту.
Місцеві моделі завантажувались із платформи Hugging Face, де ми перевірили їхні контейнери за допомогою SHA-256 підписів. До тесту увійшли:
- Qwen3-4B (2.5 ГБ);
- Qwen3-8B (5.03 ГБ);
- Qwen3.8-27B у двох стиснутих версіях: 3-бітна (13.15 ГБ) та 2-бітна (8.37 ГБ).
Всі моделі працювали через програму llama.cpp (версія 0.6.0), яка задіювала графічний процесор Mac. Для порівняння використовували мережеву модель ChatGPT gpt-6.1-sol, що запускалась у хмарі через OpenAI Codex CLI.
Результати й оцінки: як моделі справилися із завданнями
Загалом було два блоки завдань: десять — повсякденних, розрахованих на роботу з текстом і даними, і десять — складніших, що вимагали логіки та програмування. Оцінювання було автоматичним шляхом порівняння з еталонними відповідями.
| Модель | Де працює | Повсякденні задачі (10) | Складні задачі (10) | Загальний бал | Час на 20 завдань |
|---|---|---|---|---|---|
| ChatGPT, gpt-6.1-sol | Хмара | 10 | 10 | 20/20 | 5 хв |
| Qwen3.8-27B, 3-біт | Mac | 10 | 9 | 19/20 | 29 хв |
| Qwen3.8-27B, 2-біт | Mac | 10 | 9 | 19/20 | 32 хв |
| Qwen3-8B | Mac | 10 | 8 | 18/20 | 14 хв |
| Qwen3-4B | Mac | 9 | 6 | 15/20 | 11 хв |
В яких завданнях локальні ШІ не поступалися ChatGPT
Повсякденні випробування включали такі задачі, як витяг інформації з листів, створення списку завдань із нотаток, переписування тексту простими словами, швидке виправлення невеликих помилок у коді Python, підрахунок витрат та сортування повідомлень клієнтів. Усі три найпотужніші локальні варіанти — Qwen3-8B та обидві версії Qwen3.8-27B — справилися із завданнями на відмінно, як і ChatGPT.
Де моделі відставали
- Розробка коду з нуля. Тут ChatGPT виявився незмінним лідером, пройшовши всі 14 перевірок тестами. Найкраще серед локальних моделей виступив Qwen3.8-27B 3-біт з 13 успішними тестами, інші ж показали гірші результати, а Qwen3-4B взагалі не створив робочий код.
- Дотримання формату відповідей. У маленьких моделей бували проблеми з правильним оформленням, наприклад, вони пропускали рядок “ANSWER:” або не використовували маркери там, де потрібно, що може суттєво вплинути на автоматизовану обробку відповідей.
- Якість складних завдань для Qwen3-4B. Ця модель помилялась у просунутих таблицях і сортуванні, тому вона більше підходить для простих та швидких завдань.
Швидкість моделей на Mac: як швидко вони працюють
Швидкість оцінюємо в токенах за секунду — одиницях тексту, що є частками слів. Результати виглядають так:
| Модель | Відповідь на запит | Відповідь з 8К контекстом | Час очікування перед відповіддю на 8К запит |
|---|---|---|---|
| Qwen3-4B (2.50 ГБ) | 68.3 ток/с | 47.5 ток/с | 11–19 с |
| Qwen3-8B (5.03 ГБ) | 39.5 ток/с | 33.2 ток/с | 20–28 с |
| Qwen3.8-27B 2-біт (8.37 ГБ) | 14.4 ток/с | 13.8 ток/с | 66–71 с |
| Qwen3.8-27B 3-біт (13.15 ГБ) | 13.3 ток/с | 12.8 ток/с | 67–72 с |
Тести проводилися зранку та ввечері 3 листопада 2026 року. Найкраща продуктивність у Qwen3-4B, а найповільніша — у великих 27B версій. Відповідь ChatGPT на типовому завданні займає близько 13–15 секунд, а 27B може працювати до кількох хвилин.
Поради: яку модель краще обрати для MacBook Pro з 24 ГБ пам’яті
Залежно від ваших потреб, можна виділити такі рекомендації:
- Для щоденної роботи з текстом і базовими завданнями — модель Qwen3-8B виглядає оптимальним вибором. Вона видає якісний результат із повсякденних задач, працює досить швидко та не загружає систему занадто сильно.
- Для складніших, аналітичних сценаріїв, що потребують глибшого опрацювання — підходить Qwen3.8-27B, хоча вона значно повільніша і вимагає більше ресурсів.
- Для програмного коду, котрий має працювати з першого разу, поки що кращим залишається хмарний ChatGPT, що справляється із завданнями ефективніше.
Також варто звернути увагу на теоретичний варіант 16.46 ГБ 4-бітної версії Qwen3.8-27B, яка могла б поміститися в доступні 19 ГБ пам’яті Mac, проте через сильне навантаження на систему використовувати її не рекомендують.
Як ми проводили тестування і що змінювали
Всі завдання ми створили спеціально для цієї перевірки, а відповіді формували за допомогою програмних скриптів, що виключало людський фактор у оцінюванні. Перед основним тестом ми перевірили правильність скрипта для оцінення та самих відповідей — це допомогло усунути дрібні помилки в базі.
В процесі тестування три незначні корекції правил оцінювання зробили результати об’єктивнішими і справедливішими для усіх моделей. Всі зміни застосовувалися одночасно для всіх учасників тесту.
Обмеження нашого експерименту
- Випробування проводились тільки на одному пристрої — MacBook Pro з 24 ГБ. Інші комп’ютери, інакші конфігурації оперативної пам’яті або процесорів будуть показувати різні показники швидкості та сумісності.
- Кількість завдань обмежена до 20, кожне виконувалось один раз, тому різницю в один бал краще вважати статистичною похибкою.
- Модель ChatGPT використовувалась через командний рядок Codex, а не офіційний чат — це може трохи вплинути на контекст та інструкції моделі.
- Критеріями оцінки були лише якість відповіді та швидкість, без урахування фінансової сторони, конфіденційності чи роботи офлайн, які також мають значення для користувачів.
- Результати залежать від версії програми llama.cpp, у тесті застосовувалися версія 0.6.0, хоча на момент публікації доступна 0.8.0.
Майбутні плани
У найближчому майбутньому планується розширити тестування, включивши у нього ігровий ноутбук з RTX 5070 та потужний ПК із Ryzen AI Max+ 395 і 128 ГБ оперативної пам’яті. Додаватимуться результати в оновлені огляди, що допоможе краще орієнтуватися у виборі моделей та обладнання.
Джерела інформації
- Власні вимірювання швидкості і якості (3 листопада 2026), деталі тесту — в розділі “Як ми тестували”.
- Файли моделей Qwen3-4B, Qwen3-8B та Qwen3.8-27B з Hugging Face з перевіреними підписами.
- Програма llama.cpp (GitHub) і пакет Homebrew для встановлення.
- Інструмент OpenAI Codex CLI та підключення до ChatGPT.
