Стартап Tiiny AI випустив кишеньковий гаджет для запуску надпотужних нейромереж
Американський стартап Tiiny AI презентував AI Pocket Lab — компактний пристрій, який розробники називають «кишеньковим суперкомп’ютером». Гаджет створений для локального запуску великих мовних моделей (LLM) без потреби у підключенні до хмарних сервісів і сплаті абонентської плати.
Про це повідомляється на офіційному сайті розробника.
Ключова особливість AI Pocket Lab - "безпрецедентний" для таких габаритів обсяг пам’яті. За розмірами пристрій близький до смартфона (всього 14,2 × 8 см), однак має специфічну архітектуру.
Ключові параметри пристрою
Процесор: 12-ядерний чіп ARM;
Пам'ять: 80 ГБ ОЗП LPDDR5X (48 ГБ виділено під NPU);
Продуктивність: до 190 трильйонів операцій на секунду;
Накопичувач: 1 ТБ SSD (PCIe 4.0);
Живлення: споживання до 30 Вт (блок живлення на 65 Вт йде у комплекті).
Девайс не є повністю автономним ПК - він працює як зовнішній обчислювальний модуль для Windows, macOS або Linux. Розробники заявляють про підтримку понад 50 відкритих мовних моделей, включно з Llama 3.1, Qwen та DeepSeek.
За словами розробників, гаджет здатний запускати моделі з 120 мільярдами параметрів. Для порівняння: сучасні смартфони зазвичай здатні обробляти лише прості чат-боти на 8 мільярдів параметрів.
Основні переваги AI Pocket Lab
Конфіденційність: дані не передаються на сервери корпорацій. Все обробляється всередині пристрою.
Жодних підписок: користувач платить за залізо один раз і отримує доступ до "флагманського" рівня ШІ без щомісячних платежів за токени.
Автономність: ШІ доступний у місцях, де немає зв'язку або в умовах повної ізоляції від мережі.
Швидкість генерації становить від 18 до 40 токенів на секунду - це дозволяє використовувати гаджет як повноцінний робочий інструмент. Ціна AI Pocket Lab за попереднім замовленням становить від 1 299 до 1 399 доларів.
Нагадаємо, що компанія Meta розробила штучний інтелект Tribe v2, який може передбачати реакцію людського мозку на візуальний та аудіальний контент. Цей проєкт має наукове спрямування і призначений для досліджень у галузі нейробіології.
Засновник TRON Джастин Сан анонсував запуск штучного інтелекту, призначеного для аналізу та розслідування злочинів у криптовалютній сфері. Ця ініціатива важлива для підвищення ефективності боротьби з кіберзлочинністю у галузі цифрових активів.
