Back
Отже, друга частина про Афіну, ШІ-комп’ютер на базі NVIDIA® GB10 Grace Blackwell Superchip.
Зізнаюсь, півдоби присвятила вивченню та тестуванню. Поділюся спостереженнями і що далі. Зразу скажу: пишу власні враження, не є розробником, лише споживачем, проте і не зовсім новачок у роботі з Linux. Linux використовую як користувач ще з часів навчання в медуніверситеті, коли Windows не подобався, піратські програми й систему використовувати не хотіла, а макбуки не були поширені та доступні. Тоді сама через інтернет знайшла альтернативу та встановила Ubuntu на свій Dell. І хоча налаштовувати було незвично й складно, зрештою з того часу звикла і безперервно використовую Linux-дистрибутиви ВСІ ці роки. Далі з’явився перший MacBook, модель 2013 року. Але постійно і досі є один комп’ютер на Linux (зараз на прекрасній Fedora Kinoite), а один — Mac. Тож середовище було знайоме, і консоль (ввід команд без графічного інтерфейсу) не страшна, але все це лише на перший погляд. Адже в Афіни архітектура ARM, і кількість програм поки що дуже обмежена, а нюансів багато.
Та спочатку про безпеку та позиціонування. Система не має української локалізації, окрім англійської тим не менше є повна підтримка російської мови… Дивно. Звісно, вибрала англійську. На робочому столі вас зустрічає посилання на сайт з інструкціями для встановлення цифрових помічників, навчання моделей тощо. Так от, для налаштування взаємодії з цифровим помічником пропонують… Telegram. Так, в офіційній інструкції NVIDIA пропонують підключити NemoClaw до Telegram-бота.
Як розумію, система не дає можливості встановити користувацьке шифрування, як це можна зробити у звичайних дистрибутивах, зокрема якщо взяти не настільки прив’язану до екосистеми NVIDIA платформу, а AMD Ryzen AI Max+ 395 з 128 гігабайтами пам’яті, але на звичній архітектурі x86-64 (це класичний варіант чіпа, на який можна встановити будь-який Linux і Windows). Розробники покладаються радше на вбудоване апаратне шифрування накопичувача, але воно майже не піддається контролю з боку користувача. Можна окремо після первинного налаштування зашифрувати диски вручну, але ще не пробувала цього робити, і, за відгуками, то доволі проблемно. Отже, попри орієнтацію на локальну автономну AI-інфраструктуру, вже є кілька моментів щодо безпеки.
Прошивка в Asus Ascent GX10 модифікована порівняно з нативною і ще має ряд проблем. У мене комп’ютер один раз не запустився просто так. На форумах радять перепрошити компʼютер на оригінальний варіант від NVIDIA, але доступ до UEFI/BIOS (це базове середовище керування комп’ютером до запуску ОС, де можна, наприклад, вибрати диск для завантаження) з помилками і моя спроба поки була невдалою.
Із хорошого. Це мініатюрний комп’ютер розміром із маленький Wi-Fi-роутер чи пів книжки. Він тихий, шум ненав’язливий, стабільно тримає навантаження і дає змогу працювати з великими локальними моделями довго, без перегріву й без різкого падіння якості опрацювання контексту.
Так, для початку я завантажила GPT-OSS-120B. Це локальна велика мовна модель (LLM) від розробників ChatGPT на 120 млрд параметрів. Як вже писала, що значать ці характеристики? Сотні сторінок аналітичної обробки в рамках одного чату без різкого падіння якості тощо. Я тестово завантажила 16 документів по кілька десятків сторінок кожен, які містили публікації на тему військової реформи, складні за змістом. GPT-OSS-120B все «переварив», зробив узагальнення, відповідав на специфічні питання тощо. Далі попросила створити сайт і отримала сотні рядків коду без зависань.
Швидкість обробки була посередня: умовно, поставила завдання і пішла заварювати чай. Але, як писала вище, якість опрацювання контексту рівномірна. Модель не збивалася, не повторювалася, надавала рівні відповіді однакової якості — що на початку, що в кінці чату. У людини такий обсяг роботи зайняв би не 30 хвилин, а пару днів.
